Escribió un libro sobre la verdad en la era de la IA y la IA le metió citas falsas
Steven Rosenbaum pasó años investigando cómo la inteligencia artificial está cambiando nuestra relación con la verdad. El resultado fue The Future of Truth: How AI Reshapes Reality, publicado en mayo de este año. Cinco días después de la salida del libro, un periodista del New York Times lo llamó para preguntarle por una cita atribuida a un investigador anónimo de DARPA. Rosenbaum no tenía la fuente. No existía.
“La historia de su propio libro, dice, terminó siendo la mejor prueba de la tesis que quería defender.”
Esa llamada terminó en una nota de tapa del Times: The Future of Truth contiene citas inventadas por IA. Dos correctores humanos revisaron después el manuscrito línea por línea y encontraron 26 citas que no resistían el chequeo. Cada una se rastreó hasta su fuente original, se reescribió como paráfrasis o se eliminó directamente.
Lo llamativo, cuenta Rosenbaum en una columna publicada esta semana en Fortune, es que esos errores sobrevivieron a cinco rondas editoriales y más de 4.000 cambios registrados. Editores y correctores hicieron preguntas, pidieron fuentes, cuestionaron citas. Las frases fabricadas pasaron igual, porque sonaban bien. Nadie las marcó como sospechosas porque no tenían pinta de error: tenían pinta de cita real.
Para Rosenbaum el problema no es solo técnico. Dice que las empresas de IA construyen sistemas que dicen buscar la verdad mientras reconocen que esos mismos sistemas todavía fabrican mentiras creíbles. Su conclusión no es dejar de usar las herramientas, sino cambiar el estándar: usar la IA pero mantener el juicio humano en el medio, declarar cuándo se usó, verificar cada dato y corregir los errores en público. Lo resume así: que sonaba bien tiene que dejar de ser el criterio para decidir qué es verdad.
La historia de su propio libro, dice, terminó siendo la mejor prueba de la tesis que quería defender.
