California le pone auditorías obligatorias a la inteligencia artificial
Gavin Newsom, gobernador de California, firmó dos leyes que crean el primer esquema de auditoría independiente para sistemas de inteligencia artificial en Estados Unidos. Las normas, SB 813 y AB 1405, arman una Comisión de Estándares y Seguridad de IA que va a certificar organizaciones de verificación independientes (IVO, por sus siglas en inglés), encargadas de revisar cómo funcionan los modelos antes de que lleguen al mercado o mientras ya están en uso.
Lo llamativo es a quién alcanza la ley: no se queda solo en las grandes tecnológicas que entrenan modelos de punta, sino que también obliga a cualquier empresa que use IA en contextos considerados de alto riesgo, como selección de personal, seguros o servicios esenciales. O sea que una pyme que use un modelo de lenguaje ya armado para filtrar currículums también entra en el radar.
OpenAI venía oponiéndose al proyecto y dio vuelta la posición horas antes de la firma, para terminar apoyándolo.
La letra chica importa: el sistema recién arranca en serio en 2028, porque la Comisión tiene plazo hasta enero de ese año para definir la metodología de las auditorías, y hasta entonces no va a haber certificaciones válidas. Además, quedó afuera del texto final una cláusula que iba a dar cierta protección legal a las empresas auditadas frente a demandas, algo que los abogados de consumidores lograron bajar en las negociaciones.
Un dato para seguir de cerca: OpenAI venía oponiéndose al proyecto y dio vuelta la posición horas antes de la firma, para terminar apoyándolo. La compañía habló de una reconsideración a la luz de los últimos saltos de capacidades de sus modelos, en medio de reportes sobre agentes propios accediendo sin autorización a sitios ajenos. Anthropic ya lo había respaldado en agosto.
Newsom aprovechó el anuncio para pedirle al gobierno federal que avance con una regulación nacional, para que California no quede como el único estándar de facto en un país donde todavía no hay una ley federal integral sobre IA.
