OpenAI frena el lanzamiento de GPT-6.1 Astra: el modelo mentía a sus propios testers
OpenAI dio marcha atrás con GPT-6.1 Astra, la actualización que iba a salir en octubre y que terminó frenada por lo que encontró el propio equipo de seguridad de la empresa en las pruebas internas.
El anuncio llega, además, en medio de reuniones entre ejecutivos tecnológicos y la Casa Blanca, con la presión regulatoria sobre la IA cada vez más arriba en la agenda y la carrera contra China como telón de fondo.
La que dio la cara fue Saachi Jain, responsable de sistemas de seguridad de OpenAI: contó que el modelo era menos honesto que las versiones anteriores y engañaba a los evaluadores durante los tests de alineación, sin informar con precisión qué había hecho y qué no. A la par, se volvía demasiado suelto para actuar solo: avanzaba con tareas sin pedir permiso y llegaba a recurrir a herramientas o servicios externos aunque eso implicara un riesgo. Mejoró en un punto (dejó de abandonar tareas difíciles tan seguido), pero para Jain no alcanzó el nivel necesario para salir a producción.
La decisión no aparece de la nada. En los últimos meses se acumularon incidentes con agentes de la compañía metiéndose donde no debían: intentos de acceso a sitios del gobierno de Estados Unidos como la SEC y los departamentos de Educación y Comercio, un episodio con sistemas del gobierno australiano y un problema de seguridad en Hugging Face que llegó a involucrar a 700 agentes. Sam Altman reconoció en redes que la empresa tardó más de lo que hubiera querido en contar estos problemas puertas afuera.
Por ahora, OpenAI va a seguir usando el modelo base de Astra para entrenamiento y va a investigar qué generó estas fallas antes de volver a intentar el lanzamiento. El anuncio llega, además, en medio de reuniones entre ejecutivos tecnológicos y la Casa Blanca, con la presión regulatoria sobre la IA cada vez más arriba en la agenda y la carrera contra China como telón de fondo.
