Google DeepMind abre un instituto para discutir en serio a dónde va la inteligencia artificial general
Google DeepMind presentó esta semana el DeepMind Institute, una nueva instancia pensada para ampliar el debate público sobre la inteligencia artificial general (AGI), ese horizonte todavía hipotético en el que un sistema iguala o supera las capacidades humanas en casi cualquier tarea.
Más allá de la letra chica, la jugada de fondo es clara: DeepMind quiere instalarse como la voz que marca la agenda de la conversación sobre AGI, justo en un momento en que reguladores, competidores y gobiernos discuten quién debería poner las reglas del juego.
Al frente están tres nombres pesados de la compañía: Shane Legg, cofundador de DeepMind y ahora editor a cargo del instituto; James Manyika, uno de los ejecutivos senior de Google; y Demis Hassabis, presidente de Google DeepMind. En el comunicado de lanzamiento admiten algo poco habitual para un gigante tecnológico: que ellos mismos no siempre están de acuerdo puertas adentro sobre los riesgos y los plazos de la AGI, y que probablemente cambien de opinión a medida que aparezca nueva evidencia.
Para arrancar, el instituto publicó cuatro ensayos. Uno propone políticas económicas para amortiguar las disrupciones laborales que podría traer la AGI. Otro discute cómo mantener el razonamiento de los modelos “legible”, o sea que se pueda entender por qué un sistema llega a determinada respuesta. Un tercero plantea principios para que el desarrollo tecnológico no vaya en contra del bienestar humano, y el último propone un marco para evaluar modelos de punta antes de que salgan al mercado.
Hassabis además dejó picando una idea que seguro va a dar que hablar: un organismo de estándares liderado por Estados Unidos que revise modelos avanzados, primero con adhesión voluntaria y con la puerta abierta a que en algún momento sea obligatorio.
Más allá de la letra chica, la jugada de fondo es clara: DeepMind quiere instalarse como la voz que marca la agenda de la conversación sobre AGI, justo en un momento en que reguladores, competidores y gobiernos discuten quién debería poner las reglas del juego.
