Fei-Fei Li: dejar que las IA se evalúen solas es como un alumno corrigiendo su propio examen
Fei-Fei Li, la científica de Stanford que creó ImageNet y hoy dirige la startup World Labs, salió a cuestionar cómo se están midiendo los riesgos de los modelos de IA más avanzados. En una entrevista con Bloomberg, planteó que dejar la evaluación de seguridad en manos de las mismas empresas que construyen esos sistemas no tiene mucho sentido.
Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, ya habían respondido a ese reclamo prometiendo dar a los evaluadores externos un acceso “similar al de un empleado” a sus sistemas.
La frase que resume su postura: “Si las empresas que construyen los modelos fronterizos también definen las pruebas, los resultados son tan significativos como un estudiante escribiendo su propio examen.” Para Li hace falta un esquema de benchmarks independientes, armado entre universidades, gobiernos y la industria, y no auditorías internas que cada compañía diseña a su medida.
El planteo llega pocos días después de que el AI Evaluator Forum, una coalición de más de cien especialistas en seguridad de IA, publicara una carta pidiendo independencia real para quienes evalúan los modelos más potentes del mercado. Ahí señalaban que el acceso que hoy tienen los evaluadores externos, limitado y controlado por las propias empresas, no alcanza para detectar fallas serias antes de que un modelo salga al mercado.
Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, ya habían respondido a ese reclamo prometiendo dar a los evaluadores externos un acceso “similar al de un empleado” a sus sistemas. Pero para la coalición, y ahora para Li, eso sigue siendo insuficiente: un acceso más amplio no resuelve el problema de fondo, que es quién define qué se mide y cómo.
Li viene de un lugar particular en esta discusión. Además de ser una de las figuras que puso a la visión por computadora en el mapa con ImageNet, en 2025 impulsó en California un grupo de trabajo conjunto sobre modelos de IA de frontera. La idea de una supervisión externa no es nueva en su discurso, pero ahora la lleva a la conversación global sobre cómo controlar a los sistemas más avanzados.
https://www.bloomberg.com/news/videos/2026-09-22/fei-fei-li-ai-s-future-is-about-humans-video
