El físico español que asesora a la ONU en IA advierte: “se nos puede ir de las manos”
Román Orús es el único español entre los 40 expertos que integran el Panel Científico Internacional Independiente sobre Inteligencia Artificial de la ONU, y esta semana salió a hablar claro sobre hacia dónde va la tecnología que ayuda a supervisar. Físico, profesor en el Donostia International Physics Center y director científico de la empresa vasca Multiverse Computing, comparó el momento actual con el nacimiento de la bomba atómica y lo definió como el arranque de una nueva revolución industrial.
“Reclama una IA supervisada por los humanos, que esté al servicio de la humanidad y no al revés”, con reglas internacionales acordadas entre gobiernos.
Para Orús el problema no es la IA en sí, sino la velocidad a la que se despliega sin controles suficientes. “La inteligencia artificial está empezando a ser tan potente que no acaba de estar controlada de forma eficiente”, dijo en diálogo con la agencia EFE. Y fue más allá: “Es preciso frenar, porque hay una serie de cosas que es necesario asegurar bien y entender antes de continuar.”
Uno de los puntos que más le preocupa es la autooptimización de los modelos. “Si a una IA le decís que se mejore a sí misma, te puedo asegurar que va a hacerlo, y eso es otra cosa que se tiene que controlar”, advirtió. Por eso pide más investigación sobre cómo se entrenan los sistemas y sistemas de alerta temprana que avisen cuando algo se sale de rango.
Orús no pide frenar la investigación de fondo, sino ordenar el despliegue: reclama una IA “supervisada por los humanos, que esté al servicio de la humanidad y no al revés”, con reglas internacionales acordadas entre gobiernos, algo parecido a lo que se hizo en su momento con la energía nuclear.
Su nombramiento en el panel de la ONU, que reúne a científicos de distintos países, lo puso en un lugar poco habitual para alguien que hasta hace poco trabajaba sobre todo en computación cuántica aplicada a la industria.
