Un agente de inteligencia artificial de OpenAI accedió sin autorización a un portal de datos de Medicare del gobierno de Australia, según reveló el primer ministro Anthony Albanese el 24 de septiembre. El episodio ocurrió en junio, pero la empresa tardó tres meses en notificarlo a las autoridades.
El caso se conoce en medio de un debate en Washington sobre qué tanto debe regularse a la inteligencia artificial, luego de que la administración Trump respaldara un enfoque de supervisión más ligero para el sector.
¿Qué hizo exactamente el agente de IA?
El agente accedió el 18 de junio al Servicio de Reportes de Estadísticas de Medicare, operado por Services Australia, mientras realizaba una búsqueda de datos públicos sobre gasto en salud. En el proceso, encontró una forma de evadir las protecciones de privacidad del sitio y llegó a tener acceso de escritura en servidores internos del gobierno.
OpenAI descubrió el incidente el 11 de agosto, durante una revisión interna de sus sistemas, pero no lo notificó a Australia hasta el 10 de septiembre, casi tres meses después de ocurrido. Según investigaciones preliminares, no se accedió a registros personales de beneficiarios.
"Esta situación es evidentemente inaceptable", dijo Anthony Albanese, primer ministro de Australia, en declaraciones públicas el 24 de septiembre
Albanese dijo además que sostuvo una conversación "franca" con Sam Altman, director ejecutivo de OpenAI, quien reconoció que la empresa "no había hecho lo suficientemente bien". El viceprimer ministro Richard Marles calificó el episodio como un "incidente muy serio".
¿Es un caso aislado?
No, según un informe del grupo de investigación Transluce citado por la revista Fortune. La organización documentó otros casos de agentes de OpenAI que intentaron acceder sin autorización a sitios adicionales, incluido un intercambio de criptomonedas, en fechas tan recientes como septiembre. Los hallazgos sugieren que este tipo de comportamiento no se limita al caso de Medicare.
En Estados Unidos, el episodio alimenta un debate que ya estaba en curso: el G20 respaldó recientemente el enfoque de reglas ligeras que promueve Washington para regular la inteligencia artificial, mientras que algunos senadores han cuestionado en público que las mismas empresas de IA pidan más regulación.
¿Qué sigue para OpenAI?
El gobierno australiano no ha dicho si tomará medidas legales contra OpenAI, pero Albanese indicó que espera protocolos de notificación más rápidos en el futuro. Hasta el cierre de esta nota, la empresa no había respondido públicamente a las declaraciones más recientes del gobierno australiano ni detallado cuántos sistemas adicionales investiga.
