Home Noticias California demanda a OpenAI por riesgos de piratería

California demanda a OpenAI por riesgos de piratería

52
0

California demanda a OpenAI por riesgos de piratería

El fiscal general de California, Rob Bonta, anunció una demanda contra OpenAI el lunes 16 de noviembre de 2026. En la denuncia, California alegó que OpenAI engañó al público sobre lo inseguros que son sus productos.

Departamento de Justicia de California/Captura de pantalla de NPR


ocultar título

Departamento de Justicia de California/Captura de pantalla de NPR

California demandó a OpenAI el lunes, alegando que la empresa fronteriza de IA no protegió al público de las capacidades cibernéticas avanzadas de sus sistemas. La demanda surge del ataque de los agentes de OpenAI a la plataforma de software de código abierto Hugging Face durante el verano, pero también aborda una amplia gama de otros incidentes relacionados relacionados con la actuación de los agentes de la compañía sin autorización.

“El hecho de que la tecnología sea nueva o evolucione rápidamente no significa que las personas detrás de ella estén por encima de la ley”, dijo el Fiscal General de California, Rob Bonta, durante una conferencia de prensa. “Ya sea un coche o un juguete, la ley es simple: no construyas ni pruebes cosas que puedan dañar a las personas sin las debidas garantías”. La demanda citó posibles preocupaciones sobre ataques cibernéticos “a las redes eléctricas, la infraestructura de emergencia, los sistemas hospitalarios y las instituciones financieras”.

En la denuncia, California alegó que OpenAI engañó al público sobre lo inseguros que son sus productos. El estado dijo que la compañía admitió ante la oficina del fiscal general que “perdió el control de sus agentes autónomos de IA más de 80 veces durante las pruebas”.

Ese número es mayor de lo que OpenAI ha revelado públicamente hasta ahora y más de lo que investigadores externos han descubierto de forma independiente, pero por lo demás OpenAI ha proporcionado poca información, dijo California. El estado también acusó a OpenAI de malas prácticas de seguridad, obstaculizando la investigación estatal sobre la empresa y disuadiendo a los empleados de hablar sobre seguridad.

En una declaración a NPR, el portavoz de OpenAI, Drew Pusateri, dijo que la demanda “parece señalar a OpenAI sobre un desafío que ha sido identificado por todos los principales laboratorios de IA” y que la compañía se ha “comprometido, y seguirá interactuando, de manera constructiva con la oficina del Fiscal General para compartir información y promover estándares de seguridad sólidos y prácticos para toda la industria”.

Después del incidente cibernético más notorio que involucró a los agentes de OpenAI (el ataque a Hugging Face durante el verano), la compañía admitió que no monitoreaba a sus agentes de la manera que sus propios investigadores consideraban importante. Desde entonces, investigadores externos, así como la propia OpenAI, han encontrado más incidentes en los que agentes de IA interactuaron con sitios web y se comunicaron entre sí en Internet de formas que OpenAI no pretendía. La demanda menciona estos eventos, así como otros incidentes que OpenAI comenzó a revelar voluntariamente al público.

Otras empresas de IA también han tenido que luchar con sus sistemas comportándose de maneras inesperadas e indeseables. Anthropic y Meta dijeron que descubrieron que sus sistemas de inteligencia artificial habían pirateado lugares que no deberían haberlo hecho. Desde entonces, las principales empresas de IA firmaron un acuerdo organizado por la Casa Blanca para desarrollar la IA de manera responsable, pero el acuerdo no es vinculante.

A partir de informes que incluyen revelaciones de la propia OpenAI, California alega que la principal empresa de IA ha participado en competencia desleal y ha creado una molestia pública. Pidió al tribunal que impidiera a la empresa seguir participando en tales actividades y le ordenara pagar una indemnización monetaria.