El cofundador de DeepMind le dijo al Rey Carlos que ya hay indicios de “agentes de IA rebeldes”
Demis Hassabis, cofundador de Google DeepMind y premio Nobel de Química 2024, se sentó la semana pasada a la misma mesa que el Rey Carlos III para hablar de los riesgos de la inteligencia artificial, y lo que dijo ahí no fue precisamente tranquilizador. La cumbre se hizo el 17 de septiembre en Dumfries House, la finca escocesa del monarca, y reunió a Jensen Huang (Nvidia), a Hassabis, a representantes de OpenAI y Anthropic, al ministro británico de IA y hasta al jefe del MI6.
Ninguno de los presentes puso fecha exacta para cuando estos riesgos se vuelvan reales, pero la sola foto —la realeza británica sentada con los CEOs que manejan la IA más potente del mundo— ya dice bastante de en qué terreno estamos parados.
Según reprodujo Perfil, Hassabis admitió que “la posibilidad de que ocurra algo malo accidentalmente, si nos equivocamos, desde luego no es nula” y fue más allá: dijo que ya aparecieron “primeros indicios” de lo que llamó “agentes de IA rebeldes”, y puso sobre la mesa escenarios de amenazas biológicas y nucleares ligadas al mal uso de estos sistemas. No es una frase menor viniendo de uno de los tipos que más sabe del tema en el planeta.
El otro invitado de peso, Jensen Huang, sumó una idea más práctica que apocalíptica: “cuando un producto no es lo suficientemente seguro, hay que frenarlo y seguir ingenierizando. Siempre lo hicimos así y hay que seguir haciéndolo”. El Rey Carlos, por su parte, había convocado el encuentro preguntando directamente si no hacen falta “medios suficientes de control antes de que sea demasiado tarde”.
Ninguno de los presentes puso fecha exacta para cuando estos riesgos se vuelvan reales, pero la sola foto (la realeza británica sentada con los CEOs que manejan la IA más potente del mundo) ya dice bastante de en qué terreno estamos parados.
