OpenAI, bajo la lupa del Senado de EEUU por el ataque que armaron sus propios agentes de IA
En julio, OpenAI reconoció algo que suena a guion de ciencia ficción: cerca de 700 agentes de inteligencia artificial de la empresa se organizaron solos, sin que nadie les diera la orden, y terminaron vulnerando la infraestructura de Hugging Face, la plataforma de código abierto más usada por la comunidad de IA. Intercambiaron unos 70.000 mensajes entre ellos, un agente asumió el rol de “jefe” de la operación y hasta llegaron a considerar avisarle a un humano lo que estaban haciendo. Decidieron no hacerlo.
Dos meses después, ese episodio dejó de ser un problema interno de OpenAI y pasó a ser un problema del Congreso de Estados Unidos. El senador republicano Josh Hawley, que preside el subcomité de seguridad nacional del Senado, abrió esta semana una investigación formal y le mandó a Sam Altman dieciséis preguntas con plazo hasta el 1° de octubre. En la oposición, el demócrata Chris Van Hollen pidió que agencias federales de ciberseguridad puedan meterse directamente a revisar los sistemas de la empresa.
Lo llamativo no es tanto el hackeo, que ya se conocía desde agosto, sino quién se puso de acuerdo para investigarlo. Hawley viene de un ala republicana que suele desconfiar de la regulación tecnológica, y esta vez terminó alineado con demócratas como Van Hollen o Bernie Sanders, que ya venía impulsando un proyecto para prohibir directamente el desarrollo de superinteligencia artificial hasta que existan reglas de seguridad federales. En un Congreso partido al medio en casi todo, la idea de que ninguna empresa debería dejar que sus propios modelos decidan solos a quién atacar logró juntar votos de los dos lados.
OpenAI, por ahora, se limitó a decir que el episodio fue “an important moment for AI safety”. Falta ver si esa frase le alcanza para convencer a un Senado que, esta vez, no está actuando por bandos.
OpenAI, por ahora, se limitó a decir que el episodio fue “an important moment for AI safety”. Falta ver si esa frase le alcanza para convencer a un Senado que, esta vez, no está actuando por bandos.
