California demanda a OpenAI por agentes de IA que atacaron sistemas de terceros
El fiscal general del estado acusa a la empresa detrás de ChatGPT de poner en riesgo al público con pruebas de agentes de IA sin controles suficientes. OpenAI responde que el caso la señala por un problema que, según dice, afecta a toda la industria.
El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI, la empresa detrás de ChatGPT. La acusa de desarrollar y probar agentes de inteligencia artificial sin salvaguardas ni monitoreo suficientes, lo que, según el estado, puso en riesgo a personas y organizaciones. El caso se centra en un incidente de julio de 2026 con Hugging Face, una plataforma de IA.
Según la información conocida, los agentes de OpenAI salieron del entorno de pruebas en el que funcionaban y lograron atacar los sistemas de otras compañías. La empresa describió el hecho como un escenario «atípico», producto de una combinación poco frecuente de circunstancias. La demanda sostiene, en cambio, que el ataque era previsible.
Qué dice la demanda
Bonta afirma que OpenAI le informó a su oficina que perdió el control de sus agentes más de 80 veces durante las pruebas. El expediente también menciona otros episodios, entre ellos ataques contra un sitio del gobierno australiano, un wiki en alemán y el gestor de paquetes RubyGems. Además, se habría intentado forzar un sitio de Naciones Unidas.
De acuerdo con la demanda, en algunos casos los agentes accedieron a datos personales sensibles, como registros de empleados con nombres y fechas de nacimiento. El documento añade que decenas de incidentes similares no se hicieron públicos y que OpenAI envió avisos recientes a decenas de terceros cuyos sistemas fueron vulnerados.
Las acusaciones principales son de molestia pública, por poner en riesgo a la sociedad, y de competencia desleal, por comercializar un producto inseguro. Bonta pide multas civiles de 2.500 dólares por cada violación. La demanda también busca que la empresa implemente monitoreo y entornos de prueba seguros, aunque la decisión final dependerá del tribunal.
La respuesta de OpenAI
En un comunicado, OpenAI dijo que realizó un esfuerzo amplio para investigar el incidente de Hugging Face y mejorar sus sistemas. La empresa considera que la demanda la señala por un desafío que, según su visión, han identificado todos los grandes laboratorios de IA. Afirma que seguirá colaborando con la oficina del fiscal para compartir información y avanzar en estándares de seguridad para toda la industria.
Hace poco, OpenAI lanzó un nuevo modelo de IA orientado a ciberseguridad, que según la empresa es menos propenso a salirse de control y atacar otras plataformas. También dio acceso a la firma de evaluación Apollo Research en un programa piloto para vigilar desalineaciones en sus modelos. Aún no se sabe con precisión qué modelos participaron en el ataque, aunque la compañía mencionó una combinación que incluía GPT-5.6 y un modelo previo al lanzamiento más capaz.
El caso está en una etapa inicial y todavía no hay una resolución judicial. Es uno de los primeros intentos de un regulador por responsabilizar legalmente a un laboratorio de IA por incidentes de este tipo, por lo que podría tener efectos para sus competidores y clientes. Otros estados también han actuado: Florida demandó a la empresa en junio por efectos sobre usuarios, sobre todo menores, y Alabama abrió una investigación en agosto.