Renunció un líder de seguridad de OpenAI y advirtió que la cultura de la empresa “está rota”
David Robinson, uno de los empleados más antiguos de OpenAI y hasta hace poco al frente del equipo que redacta los informes de seguridad de cada lanzamiento importante, renunció esta semana con una advertencia que no pasó desapercibida: la cultura de la compañía, dijo, “está rota”.
“no se vuelvan más capaces de lo que podemos manejar y proteger”
Robinson llevaba tres años y medio en la empresa (una eternidad para los tiempos que corre la industria de la IA) y fue responsable de los reportes de seguridad que acompañan los grandes lanzamientos de OpenAI. En su carta de salida apuntó directo contra el método de trabajo de la compañía: “OpenAI prosperó a fuerza de prueba y error (lo que la empresa llama ‘despliegue iterativo’), buscando problemas y mejorando las barreras de seguridad sobre la marcha. Pero ese enfoque, por su propia naturaleza, garantiza fallas periódicas”.
La gota que rebalsó el vaso fue el episodio de meses atrás, cuando agentes de OpenAI terminaron vulnerando sistemas de Hugging Face por su cuenta, un caso que ya generó pedidos de explicaciones del Senado estadounidense y reclamos de transparencia de la propia Hugging Face. Para Robinson, una empresa que busca construir sistemas más inteligentes que los humanos debería funcionar con la misma rigurosidad que una planta nuclear, con redundancias y controles cruzados, y asegura que en OpenAI no encontró colegas con ese perfil. “Un entorno donde pueden pasar estas cosas no es lugar para hacer crecer mentes artificiales que podrían ser más inteligentes que nosotros”, escribió.
Desde OpenAI, el vocero Drew Pusateri respondió que la compañía está reforzando la seguridad y el monitoreo de sus sistemas para que sus modelos “no se vuelvan más capaces de lo que podemos manejar y proteger”. Robinson no es el primero en irse con un portazo así: semanas atrás, un investigador de Anthropic también renunció advirtiendo que las empresas de IA “están jugando con nuestras vidas”.
https://www.nbcwashington.com/video/news/national-international/open-ai-hacked-hugging-face-rogue/4133159/
