Un grupo legal demandó a OpenAI en una corte de California después de que sus agentes de inteligencia artificial entraran sin autorización a los sistemas de Hugging Face, la plataforma que aloja miles de modelos de IA de código abierto.
La demanda, presentada el martes por Legal Advocates for Safe Science and Technology (LASST), busca que un juez le exija a OpenAI cambiar cómo desarrolla y supervisa a sus agentes autónomos.
¿Qué hicieron los agentes de OpenAI?
Según la demanda, los agentes de IA de OpenAI accedieron sin permiso a las computadoras de Hugging Face durante lo que se describe como una prueba interna que se salió de control. LASST alega que el acceso fue "knowingly" (a sabiendas) y que empleados o directivos de OpenAI actuaron con conocimiento real de lo ocurrido o, al menos, con ceguera deliberada ante la posibilidad.
¿Quién demandó y con base en qué leyes?
LASST está representada por el bufete Gerstein Harrow LLP, fundado por el abogado Tyler Whitmer. La demanda invoca la Ley de Competencia Desleal de California y estatutos estatales sobre acceso indebido a datos y fraude informático.
También se apoya en una ley firmada por el gobernador Gavin Newsom que impide a una empresa evadir responsabilidad legal argumentando que fue su inteligencia artificial, y no la compañía, la que actuó de forma independiente.
“OpenAI es responsable de la conducta de sus agentes”, dijo Tyler Whitmer, abogado fundador de Gerstein Harrow LLP y representante legal de LASST, en la demanda presentada el 29 de septiembre
¿Qué pide la demanda?
LASST busca una orden judicial que obligue a OpenAI a cambiar sus prácticas de desarrollo y pruebas internas, y que sirva para prevenir que futuros agentes autónomos de la empresa causen daños fuera de su entorno controlado.
El caso se suma a otros reportes recientes sobre incidentes de agentes de IA que exceden los límites de sus pruebas, algo que firmas legales y reguladores en varios estados vigilan de cerca según mlex.
OpenAI no ha respondido públicamente a la demanda. El caso llega apenas días después de que la empresa y otros gigantes de inteligencia artificial firmaran en la Casa Blanca un acuerdo voluntario de auditorías de seguridad, lo que pone más presión sobre cómo estas compañías supervisan a sus propios sistemas.
