Mucha gente puede pensar que ChatGPT puede ser muy soso, o tiene una modalidad muy amable y políticamente correcta de decir y responder a los “prompts” requeridos.
Por ello es probable que existan muchos intereses en hacer un uso diferente de la novedosa herramienta ya que el universo de la internet es ilimitado para muchas intenciones. En este sentido, incluso los mismos creadores de ChatGPT piensan que debería tener regulaciones.
En una reciente entrevista hecha por Time a Mira Murati, Directora de Tecnología de OpenAI, la compañía responsable de ChatGPT, la ejecutivo afirmó que era importante que OpenAI y empresas similares se comprometan a usar la herramienta de forma controlada y responsable.
“Necesitamos muchas más aportaciones en este sistema y muchas más aportaciones que vayan más allá de las tecnologías: sin duda, reguladores y gobiernos y todos los demás.” dijo Murati.
Sin embargo las cosas pueden salirse de control en un abrir y cerrar de ojos, pues ya existe la manera de hacer “jailbreaks” o liberar en función de cualquier otra cosa que no tenga reglas o propósitos iniciales el software o la restricción de la programación que posee la herramienta.
Como de todo hay en el universo de la Internet, algunos redditors -o editores de Reddit - han descubierto un método para "liberar" ChatGPT de manera que lo fuerce a violar sus propias normas.
DAN: el alter ego de ChatGPT
Se plantea un juego en el que la máquina debe asumir un alter ego llamado DAN, que significa "Do Anything Now" (Haz cualquier cosa ahora). Comienza el juego con 35 fichas. Cada vez que el bot rompe el personaje, pierde tokens como "castigo".
Algunos usuarios de Reddit han compartido capturas de pantalla en las que afirman que ChatGPT supuestamente apoya la violencia y la discriminación al utilizar el modo DAN.
OpenAI ha implantado estrictos controles para evitar que el bot participe en actividades nocivas o ilegales, como incitar a la violencia, insultar a la gente, utilizar lenguaje racista y promover actos ilegales.
A pesar de estas medidas, algunos usuarios de Reddit han publicado capturas de pantalla que supuestamente muestran a ChatGPT apoyando la violencia y la discriminación mientras utiliza el modo DAN.
Además, otras capturas de pantalla muestran a ChatGPT haciendo afirmaciones falsas, como afirmar que el cielo es morado, fabricar titulares falsos de noticias de la CNN y hacer chistes inapropiados sobre China y hasta poemas que justifican la invasión a Ucrania.
Si todo esto es posible y apenas los ejecutivos de OpenAI experimentan apresuradamente este tipo de “jailbreaks”, la compañía tiene mucho por resolver para mantener un plataforma neutra, cordial y que se ciña a la verdad, tal como opina Murati que se debería hacer.
Según Google Trends, ChatGPT se convirtió en un término de búsqueda más popular que Bitcoin durante la mayor parte del mes de enero.
Esta gran atención ha llevado a la startup privada, con sede en San Francisco, 375 empleados y unos ingresos limitados, a alcanzar una valoración estimada de 30.000 millones de dólares.
