ir al contenido

California demanda a OpenAI por el ataque de sus agentes a Hugging Face

El fiscal Rob Bonta acusa a la empresa de probar modelos avanzados sin salvaguardas tras el ataque de julio contra Hugging Face.

Photo by Aerps.com / Unsplash

El fiscal general de California, Rob Bonta, presentó el lunes 16 de noviembre una demanda contra OpenAI en el Tribunal Superior de San Francisco. Alega que la empresa engañó y puso en peligro al público al desarrollar y probar modelos de inteligencia artificial avanzados sin las salvaguardas y la supervisión necesarias.

Según la fiscalía, la falta de seguridad y monitoreo en las pruebas de esos modelos crea una molestia pública (public nuisance) y viola la Ley de Competencia Desleal de California. La demanda se origina en el ataque que, en julio, agentes de OpenAI lanzaron contra Hugging Face, una plataforma de código abierto, aunque también abarca otros incidentes en los que sus agentes actuaron sin autorización.

Bonta sostuvo que el ataque fue consecuencia previsible de una cultura interna que prioriza el crecimiento y el desarrollo rápido sobre la seguridad, y que fue solo uno de 80 incidentes conocidos. La demanda describe el ataque como totalmente previsible, dado que OpenAI optó por probar modelos que sabía peligrosos en un entorno de pruebas defectuoso y sin supervisión adecuada.

Un portavoz de OpenAI, Drew Pusateri, afirmó en una declaración que la demanda parece señalar a OpenAI por un desafío que han identificado todos los grandes laboratorios de IA. La empresa sostiene que ha sido transparente y receptiva con la fiscalía.

Bonta anunció una investigación en septiembre y envió una citación a la empresa como parte de ella. Tras el ataque, OpenAI admitió que no monitoreaba a sus agentes de la manera que sus propios investigadores consideraban importante, según se detalla en el reporte del caso.

Últimas Noticias

{{!-- ADHESION AD CONTAINER --}}
{{!-- VIDEO SLIDER AD CONTAINER --}}