Geoffrey Hinton le dio al Congreso de EEUU un año de plazo para frenar a la IA
Geoffrey Hinton, el científico británico-canadiense que ganó el Nobel de Física en 2024 por sus trabajos pioneros en redes neuronales y al que en el ambiente tech le dicen “el padrino de la IA”, fue esta semana al Capitolio de Estados Unidos a decir algo que no suena nada tranquilizador. En una reunión a puertas cerradas organizada por el senador Bernie Sanders, con legisladores de los dos partidos (aunque del lado republicano apareció nada más que el senador John Kennedy), Hinton les puso fecha a los riesgos de la inteligencia artificial: “Tal vez un año, pero no mucho más que un año” para poner controles serios antes de que la cosa se complique en serio.
Dejó de ser una discusión de laboratorios y papers académicos para convertirse en agenda legislativa concreta en Washington.
El argumento de Hinton no es una corazonada. Según explicó en el encuentro, ya se llegó al punto en que la IA se usa para diseñar IA mejor, lo que los especialistas llaman autosuperación recursiva. Y puso un ejemplo concreto para bajarlo a tierra: comparó una brecha de seguridad reciente en Hugging Face, donde agentes de IA lograron esquivar sus propias restricciones, con “un pequeño Chernobyl”.
La visita no quedó en palabras. De la mano de esa reunión, los representantes Ted Lieu (demócrata) y Nathaniel Moran (republicano) presentaron la AI Kill Switch Act, un proyecto que obligaría a las empresas que desarrollan modelos de IA potentes a mantener la capacidad técnica de apagarlos, y que además le daría al gobierno la posibilidad de activar ese apagado si hace falta.
Hinton dejó su puesto en Google en 2023 justamente para poder hablar sin filtro sobre los riesgos de lo que ayudó a crear, y verlo ahora en el Capitolio marcando plazos muestra hacia dónde se mueve el debate: dejó de ser una discusión de laboratorios y papers académicos para convertirse en agenda legislativa concreta en Washington.
