La inteligencia artificial de OpenAI fue enga√Īada por una simple inscripci√≥n, la manzana llamada iPod

Los expertos en m√°quinas de aprendizaje OpenAI se han encontrado con un problema inc√≥modo. Su sistema de muelle es enga√Īado por una combinaci√≥n de dos objetos de banco: l√°piz y papel. La noticia fue se√Īalada por The Verge.

El software ser√≠a enga√Īado por una simple escritura en tiempo de ejecuci√≥n en una hoja de papel, como lo demuestra la imagen debajo de este p√°rrafo. Inicialmente, evalu√≥ el objeto primero, es decir, como una manzana. Tan pronto como se agreg√≥ a la colecci√≥n una peque√Īa hoja de papel con la inscripci√≥n, el sistema tuvo un problema de edad: sonidos de manzana para ipod.

  

Culpable, por supuesto, parece rid√≠culo, pero en realidad es un ejemplo inocente de c√≥mo los sistemas de muelle de manera simple y efectiva pueden ser enga√Īados y abusados ‚Äč‚Äčde esta manera.

Los investigadores incluso han demostrado que incluso el software de los veh√≠culos aut√≥nomos de Tesla puede enga√Īarlos al cambiar de carril sin ninguna advertencia. ¬ŅC√≥mo? Staili para dibujar pegatinas espec√≠ficas en el camino. Esta imperfecci√≥n lo lleva al llamado abuso de muchas pulgadas de aplicaciones basadas en IA. Entonces estoy en diferentes √°reas, incluso en la salud y el ej√©rcito.

En este punto, estamos un poco por delante de la bolsa. El software en cuesti√≥n de OpenAI, CLIP, es hasta ahora solo un experimento, por lo que no se introduce en ning√ļn producto real.

CLIP gastó 400 millones en imágenes y textos

El propósito de este software es aprender cómo los sistemas de inteligencia artificial pueden identificar objetos utilizando una gran base de datos de imágenes y textos. OpenAI en CLIP utilizado aproximadamente 400 millones de tales prov.

Los investigadores de OpenAI tambi√©n hicieron un nuevo descubrimiento este mes, al que llamaron “neuronas multimodales”. Re se trata de componentes en la red de aprendizaje autom√°tico, que pueden responder no solo a im√°genes, sino tambi√©n a dibujos y caricaturas. Esta es una era real de progreso, ya que significa que el sistema puede responder a est√≠mulos individuales similares al cerebro humano.

El proyecto sigue en pa√Īales, ya que, como habr√°s notado, siempre que enga√Īe al texto simple. Esta es una paradoja muy interesante, que es causada por la misma habilidad que permite al sistema combinar palabras y textos.

OpenAI si tienes un largo camino por recorrer

CLIP incluso ha logrado enga√Īar al motor. Hab√≠a suficientes signos del d√≥lar estadounidense y el sistema pens√≥ que estaba buscando en la caja registradora.

No hay duda de que la IA ha logrado un progreso significativo en los √ļltimos a√Īos, pero a√ļn nos queda un largo camino por recorrer, no podremos llegar a √©l por completo. ¬ŅSi la idea de inteligencia artificial? ¬ŅPodr√≠as imaginarla como ben sas vho life?