La encargada de derechos humanos de OpenAI dice que el uso militar de la IA no la deja dormir
Sarah Yager llegó a OpenAI en junio como la primera responsable de Derechos Humanos y Despliegue Responsable de la empresa, un puesto que hasta entonces no existía. El martes subió al escenario de la conferencia ScaleUp:AI, en Nueva York, y dijo algo que no suena para nada a comunicado de prensa corporativo: las preguntas sobre qué puede llegar a hacer un ejército con inteligencia artificial la mantienen despierta de noche.
“Si dejamos que la industria determine qué está bien, esto se convierte en todos contra todos”
Su preocupación apunta sobre todo a dos usos concretos, la identificación de objetivos militares y las armas autónomas. Yager viene trabajando con investigadores de OpenAI para que los modelos respondan de acuerdo a las leyes de la guerra, pero reconoce que ese trabajo técnico no resuelve la pregunta de fondo: quién decide qué es aceptable hacer con estas herramientas en medio de un conflicto armado.
Ahí fue más allá del límite habitual para una ejecutiva de una empresa de IA. Dijo que las compañías del sector no deberían inventar su propia definición de moralidad, porque las sociedades ya tienen una: los derechos humanos. “Si dejamos que la industria determine qué está bien, esto se convierte en todos contra todos”, lanzó, en una crítica que incluye, de manera directa, a la empresa que le paga el sueldo.
El contexto no es un detalle menor. OpenAI firmó en febrero de este año un contrato para desplegar su IA en un entorno militar clasificado de Estados Unidos. Fortune recuerda además un reporte de CNN según el cual el ejército estadounidense estuvo cerca de atacar un buque chino a partir de un informe de inteligencia generado por IA que después resultó inexacto.
Yager no pidió frenar el desarrollo ni cuestionó en público el contrato de su propia empresa. Pidió, eso sí, que alguien de afuera de las compañías de IA ponga los límites, antes de que esa decisión quede en manos de quienes tienen el incentivo comercial de decir que sí a todo.
