OpenAI, Anthropic y Google vienen negociando en secreto un organismo de seguridad para la IA
OpenAI, Anthropic y Google vienen negociando en secreto la creación de un organismo que fije estándares de seguridad para la industria de la inteligencia artificial. Durante semanas mantuvieron conversaciones reservadas, y recién este martes las hicieron públicas por boca de Chris Lehane, jefe de políticas globales de OpenAI.
Lehane le contestó que no buscan ninguna exención regulatoria, solo cooperar: “es mejor intentar trabajar juntos para priorizar la seguridad”, dijo.
La idea, según reconstruyeron TechCrunch y otros medios que siguieron el tema, es que ese organismo funcione como una especie de vigilante del sector, con capacidad para coordinar frenos en el desarrollo si en algún momento aparecen riesgos serios. El empujón llegó después de que Dario Amodei, CEO de Anthropic, publicara un ensayo pidiéndole a toda la industria bajar el ritmo con los modelos más avanzados para evitar escenarios catastróficos.
Sam Altman se comprometió a incorporar evaluadores independientes a los procesos de OpenAI. Demis Hassabis, de Google DeepMind, salió a bancar la propuesta en redes. Hasta Elon Musk, con xAI corriendo por afuera de este acuerdo entre las tres grandes, dio su apoyo.
No todos están de acuerdo. Aidan Gomez, CEO de Cohere, cruzó la iniciativa con dureza: la describió como un lobo con piel de oveja, un cartel con otro nombre, y puso sobre la mesa la posibilidad de que viole las leyes antimonopolio de Estados Unidos. Lehane le contestó que no buscan ninguna exención regulatoria, solo cooperar: “es mejor intentar trabajar juntos para priorizar la seguridad”, dijo.
El asunto deja una pregunta incómoda flotando: las mismas empresas que compiten a matacaballo por sacar el próximo modelo también quieren ser las que escriban las reglas de cuánto y cómo se puede acelerar. Falta ver si el organismo se concreta o queda en anuncio.
