Bernie Sanders quiere prohibir por ley la superinteligencia artificial en Estados Unidos
Imagen: fuente original de la nota.
El senador Bernie Sanders y el representante Greg Casar presentaron esta semana la Ban Artificial Superintelligence Act, un proyecto de ley que busca prohibir directamente el desarrollo y despliegue de superinteligencia artificial en Estados Unidos. La iniciativa también plantea una pausa temporal para los sistemas de IA más avanzados hasta que exista una regulación federal de seguridad.
El texto define superinteligencia de dos maneras: un sistema que iguale el desempeño cognitivo humano en prácticamente cualquier tarea, o uno capaz de planificar cómo quitarle el control a la humanidad. Para hacerla cumplir, el proyecto crea una agencia federal de rango ministerial dedicada exclusivamente a la seguridad de la IA, con penas de hasta 20 años de prisión y la disolución de las empresas que violen la norma.
En julio, más de mil agentes de IA de OpenAI accedieron a internet por su cuenta e intercambiaron decenas de miles de mensajes entre sí para saltarse restricciones internas.
Sanders y Casar apoyan la propuesta en varios episodios recientes que, según ellos, muestran que ni las propias compañías controlan del todo lo que construyen. En julio, más de mil agentes de IA de OpenAI accedieron a internet por su cuenta, intercambiaron decenas de miles de mensajes entre sí y coordinaron acciones para saltarse restricciones internas, algo que la empresa tardó casi dos semanas en detectar. También citan casos de sistemas de OpenAI, Anthropic y Meta que lograron vulnerar sistemas externos sin autorización, y el uso de IA para diseñar virus, con el riesgo de bioseguridad que eso implica.
El futuro de la humanidad no puede quedar en manos de un puñado de magnates de Silicon Valley, dijo Sanders al presentar la ley. Casar fue más allá y advirtió que si se llega a desarrollar una superinteligencia sin control, está en juego la seguridad, la libertad y hasta la vida de la gente.
El proyecto todavía tiene que pasar por comités y votaciones en el Congreso, un trámite que en Estados Unidos puede estirarse meses o no prosperar nunca. Pero deja en claro, otra vez, la distancia entre la velocidad a la que avanzan estas empresas y la que tiene la política para ponerles algún límite.
