Renunció a Google DeepMind porque, según él, la IA ya va demasiado rápido

Robert O’Callahan trabajó años en Google, donde su equipo diseñaba una nueva generación de chips pensados para que los modelos de inteligencia artificial corrieran más rápido y salieran más baratos. El viernes anunció en X que dejaba la empresa. “Disfrutaba de mi trabajo y quería a la gente con la que trabajaba, pero mi equipo estaba haciendo chips para que la IA sea mucho más rápida y barata, y creo que la IA ya está progresando demasiado rápido, así que tuve que renunciar”, escribió.

Lo llamativo de este caso es el motivo puntual: no habla de un riesgo abstracto de “IA fuera de control”, sino de algo bastante concreto, el hardware que hace que todo el proceso vaya más rápido y más barato, y por lo tanto más difícil de frenar o de revisar con calma.

O’Callahan no es un desconocido en el mundo del software: es el creador de rr, una herramienta de grabación y reproducción de errores muy usada entre desarrolladores, y también estuvo detrás de Pernosco. Antes de sumarse a Google DeepMind pasó años en Mozilla. No habla desde afuera del sector ni repite un argumento ajeno: dice que vio de cerca en qué trabajaba su propio equipo y decidió que no quería seguir siendo parte de eso.

Su salida se suma a una seguidilla de renuncias de ingenieros e investigadores ligados a la seguridad de la IA que viene ocurriendo durante este año en varias de las grandes empresas del rubro. Lo llamativo de este caso es el motivo puntual: no habla de un riesgo abstracto de “IA fuera de control”, sino de algo bastante concreto, el hardware que hace que todo el proceso vaya más rápido y más barato, y por lo tanto más difícil de frenar o de revisar con calma.

Google, por ahora, no hizo comentarios públicos sobre la renuncia ni sobre el trabajo que hacía el equipo de O’Callahan.