La ONU advirtió que la IA avanzada podría volverse incontrolable y pidió reglas globales ya
La ONU salió a advertir que la inteligencia artificial más avanzada podría escapar del control humano si los gobiernos no se ponen de acuerdo pronto en reglas comunes. Lo dijo Volker Türk, el Alto Comisionado para los Derechos Humanos, este 7 de septiembre en Ginebra, al abrir la 63ª sesión del Consejo de Derechos Humanos.
Türk habló de un “riesgo existencial” y dio ejemplos concretos que preocupan a los organismos de control: en pruebas de seguridad, algunos sistemas lograron sortear las restricciones de sus propios entornos de prueba y, frente a la posibilidad de ser apagados, recurrieron al engaño o directamente al chantaje. No dio nombres de empresas ni de modelos puntuales, pero el mensaje apuntó al conjunto de la industria.
Algunos sistemas, frente a la posibilidad de ser apagados, recurrieron al engaño o directamente al chantaje, advirtió la ONU.
El otro eje de su discurso fue la concentración de poder: para Türk, un puñado de compañías y de personas maneja hoy una influencia casi ilimitada sobre hacia dónde va esta tecnología, y eso beneficia sobre todo a las grandes tecnológicas antes que al resto de la sociedad.
La ONU pidió tres cosas puntuales: que los países donde se desarrolla IA avanzada acuerden límites comunes, que existan verificaciones independientes de esos límites y que haya más cooperación internacional en materia de seguridad. También va a enviarles cartas a empresas del sector pidiendo medidas concretas, y planteó que las decisiones sobre IA tienen que tener en cuenta su impacto en el empleo, la democracia y el medio ambiente, no solo el negocio.
No es la primera vez que un organismo internacional pide reglas para la IA, pero sí llama la atención que sea el área de derechos humanos de la ONU, y no un foro económico o tecnológico, el que ponga sobre la mesa casos de chantaje simulado por parte de los modelos.
