La Comisión Federal de Comercio está investigando OpenAI, el fabricante de ChatGPT, por posibles violaciones de la ley de protección al consumidor.
Esta investigación de la FTC se centra principalmente en la gestión de los datos personales por parte de OpenAI, la veracidad de la información facilitada a los usuarios y la probabilidad de daños a los consumidores, incluidos los daños a su reputación.
Esta investigación también pone de relieve el papel de OpenAI en el actual debate sobre las posibles amenazas que la inteligencia artificial generativa podría plantear para el empleo, la seguridad nacional y los sistemas democráticos.
Recientemente, la FTC emitió una demanda de investigación de 20 páginas a OpenAI, solicitando respuestas exhaustivas a varias preguntas. Estas van desde los métodos de obtención de datos de para entrenar sus modelos lingüísticos hasta la capacidad de ChatGPT para producir declaraciones incorrectas, engañosas o difamatorias sobre personas reales.
El interés de la FTC por las prácticas de tratamiento de datos de OpenAI se puso de manifiesto en un documento revelado primero por The Washington Post y confirmado después por una fuente de confianza a la CNN.
Lo que se sabe sobre la investigación de la FTC a OpenAI
Además, la investigación de FTC incluye la explicación de OpenAI sobre sus pruebas, ajustes y manipulaciones de algoritmos, especialmente cuando genera respuestas variables o gestiona riesgos potenciales.
La solicitud también menciona la ambigüedad de la “alucinación”, un término utilizado en el sector de la IA para definir los casos en que los sistemas de IA producen datos falsos.
La investigación de la FTC sobre OpenAI supone un paso importante hacia la regulación directa de la IA por parte del gobierno estadounidense.
Mientras los legisladores del Congreso se esfuerzan por mantenerse al tanto de esta industria que avanza a un ritmo vertiginoso, se prevé que este otoño redacten nuevas leyes que afectarán al sector.
Esta investigación de la FTC sigue a las repetidas advertencias de la agencia a las empresas para que no hagan afirmaciones exageradas sobre la IA o hagan un mal uso de la tecnología de forma discriminatoria.
La FTC ha aclarado que las empresas que utilizan IA serán responsables de cualquier práctica desleal y engañosa relacionada con la tecnología. En su calidad de principal organismo de protección del consumidor del país, está facultada para denunciar las violaciones de la privacidad, la publicidad engañosa y otros perjuicios.
Lina Khan, presidenta de la FTC, aseguró que, a pesar del potencial de la IA para permitir fraudes y estafas, tienen un sólido historial de aplicación de la ley contra los defraudadores.
