El mundo de la tecnología avanza literalmente a un ritmo vertiginoso. No hace mucho tiempo que la mayoría de la población utilizaba teléfonos con pulsadores y el concepto de inteligencia artificial (IA) era una cuestión de un futuro lejano. Pero ese futuro llegó antes de lo que muchos esperaban. Hoy en día, la inteligencia artificial es capaz de realizar diversas maravillas que asombran a los expertos, e incluso crear su propio lenguaje no supone un problema para ellos.
Los profesionales que trabajan con aprendizaje automático a menudo no saben qué métodos utilizará la inteligencia artificial para resolver determinadas tareas. Un ejemplo ejemplar puede ser la IA de Facebook (ahora conocida como Meta), que empezó a utilizar palabras confusas y creó algo así como su propio lenguaje que los humanos no podían entender.
Una situación similar ha ocurrido ahora con un generador de texto a imagen conocido como DALLE-2. Mientras el servidor escribe IFLScienciaEl estudiante de doctorado en informática, Giannis Daras, observó que un sistema que crea imágenes a partir de la entrada de texto, en determinadas circunstancias, convierte partes del texto en palabras sin sentido.
escribió en un artículo que fue publicado por el servidor arxiv.
En otras palabras, DALLE-2 aparentemente traduce las entradas de texto a su propio formato, con el que continúa trabajando. Por ejemplo, tradujo la palabra pájaros como , mientras que tradujo insectos y plagas como .
DALLE-2 Tienes un lenguaje secreto.
“Apoploe vesrreaitais” significa pájaros.
“Contarra ccetnxniams luryca tanniounons” significa insectos o plagas.
El mensaje: “Apoploe vesrreaitais comiendo Contarra ccetnxniams luryca tanniunons” ofrece imágenes de pájaros comiendo insectos.
Un hilo (1/n)🧵 pic.twitter.com/VzWfsCFnZo
– Giannis Daras (@giannis_daras) 31 de mayo de 2022
Por supuesto, después de descubrir este hecho, Daras comenzó a preocuparse por las implicaciones del lenguaje secreto en el factor de seguridad. escribió en el artículo.
¿Sólo una coincidencia?
Sin embargo, algunos expertos cuestionan las afirmaciones de Daras. Uno de ellos es el analista Benjamin Hilton, quien pidió al generador que mostrara dos ballenas hablando de comida con subtítulos. Después de que los primeros resultados no arrojaron texto descifrable, continuó hasta que los intentos tuvieron éxito.
Ninguna de estas imágenes realmente tiene texto transcribible, así que le pedí a DALL-E que generara más ballenas hasta que hubiera una imagen con texto para copiar. Este es el primero que me dio DALL-E.
(11/15) pic.twitter.com/6o5tb91JPx
– Benjamín Hilton (@benjamin_hilton) 31 de mayo de 2022
Hilton escribió en una publicación en Twitter.
También vale la pena señalar que si se agrega una conjunción como “renderizado 3D” a los comandos, el sistema generará resultados diferentes, lo que significa que es posible que las palabras confusas no siempre signifiquen lo mismo. Sin embargo, habrá algo en la afirmación de Daras, ya que la expresión antes mencionada “Apoploe vesrreaitais” generará imágenes de pájaros cada vez.
