ir al contenido

Alerta por imágenes sexuales desarrollas por inteligencia artificial de Microsoft

Un ingeniero advierte sobre el uso indebido de la inteligencia artificial de Microsoft

inteligencia artificial de Microsoft IA Microsoft
La IA es el objetivo principal de Microsoft. Foto: (Grant Hindsley/The New York Times)

Shane Jones, un ingeniero especializado en inteligencia artificial (IA) de Microsoft, advirtió sobre una preocupante capacidad del generador de imágenes impulsado por IA para producir imágenes sexuales y violentas.

Jones reveló la tendencia de la IA a generar imágenes violentas, sexualmente explícitas e infractoras de los derechos de autor, violando todas las políticas de confidencialidad de Microsoft con sus usuarios y el uso correcto de la inteligencia artificial.

Inteligencia artificial de Microsoft crea imágenes sexuales y violentas

Copilot Designer, presentado en marzo de 2023 y basado en la innovadora tecnología de OpenAI, fue diseñado para que los usuarios pudieran crear imágenes a partir de simples indicaciones de texto.

Sin embargo, los esfuerzos de investigación de Jones -un enfoque proactivo para descubrir fallos del sistema- dejaron al descubierto que la herramienta podía desviarse significativamente de su uso ético.

Sus descubrimientos incluyeron representaciones gráficas que iban desde imágenes demonizadas vinculadas al derecho al aborto hasta la sexualización de mujeres en escenarios hostiles, junto con representaciones de menores de edad participando en actividades reguladas.

Los peligros de la inteligencia artificial

Con seis años de permanencia en la base de Microsoft en Redmond, Jones tomó medidas inmediatas informando de sus profundos descubrimientos a los superiores en diciembre.

A pesar de su iniciativa, se encontró con la vacilación de Microsoft para retirar el producto o abordar los problemas directamente.

La respuesta de Microsoft impulsó a Jones a intensificar sus preocupaciones, dirigiéndose a influyentes senadores estadounidenses.

Jones se comunicó con la presidenta de la Comisión Federal de Comercio, Lina Khan, para abogar por la mejora de las medidas de protección y la transparencia en el proceso de creación de contenidos de la IA.

Sus comunicaciones, que compartió con la CNBC, revelaron un marcado contraste entre la narrativa pública de la IA responsable de Microsoft y los inquietantes resultados de Copilot Designer.

Microsoft y la seguridad tecnológica

La compañía reafirmó su dedicación a la seguridad tecnológica y a los comentarios de los empleados, mostrando su compromiso de perfeccionar las prácticas de generación de contenidos.

Los hallazgos de Jones también mostraron posibles infracciones de los derechos de autor, ya que la IA generó personajes reconocibles de Disney en contextos posiblemente ilegales. 

Esta revelación no sólo cuestiona los límites del contenido de la IA, sino también las directrices legales y éticas que rigen la innovación de la IA.

Últimas Noticias