¿Burbuja de la IA? La Inteligencia artificial no es la maravilla que nos contaron

Seguramente te ha impresionado el nuevo juguete tecnológico  de la inteligencia artificial que promete convertirse en Terminator y dejar al mundo sin empleos y convertirse en el oráculo del conocimiento.

La inteligencia artificial (IA) es como una calculadora, pero en lugar de hacer aritmética con números, lo que hace es que toma un gráfico de barras, y usando estadística y cálculo, convierte el gráfico de barras original en otro gráfico de barras distinto.  Y con el gráfico de barras resultante, toma decisiones predefinidas.  Normalmente pensarías en gráficos de barras con pocas barras y bidimensionales, como en las gráficas de Excel, pero no. Son gráficos de barras que pueden tener cientos de miles de dimensiones, de modo que internamente maneja gráficos de barras de proporciones descomunales.

Imagina una ciudad llena de cuadras y edificios. Cada edificio tiene su azotea pintada de acuerdo con su altura.  Si miras la ciudad desde el espacio, justo encima, cada edificio parecerá un pixel de colores. Y eso es lo que es una imagen, una colección de pixeles, un gráfico de barras.  

No es de extrañar que haya inteligencias artificiales que produzcan gráficos de barras impresionantes, pero son sólo eso, gráficos de barras.  La computadora no puede razonar, no puede entender las reglas de arte de Da Vinci. Sólo ve números y mastica números.  No piensa, no razona.  No puede entender la belleza o el arte, solo masticar números matemáticamente, y a veces los resultados son impresionantes, y a veces son bazofia.

Una IA es la suma de una red neuronal, donde cada neurona es una fórmula, y como las fórmulas tienen coeficientes, necesitan datos para calcular los coeficientes.

El proceso matemático para calcular los coeficientes, se conoce como machine learning, y así es como "aprende" la IA.

Si le metes datos de pixeles para que aprenda a dibujar cuadrados, sólo dibujará cuadrados. Pero si le metes datos para pintar como Van Gogh, sólo  podrá mezclar cuadrados y Van Gogh. ¿Y si mezclamos a Marilyn Monroe y Jessica Rabbit? Esto es lo que obtenemos al generar una imagen usando una IA llamada BlueWillow que opera desde Discord.

Parece magnífico, ¿no?  Será que un día la IA reemplazará al ser humano en sus trabajos.  Esa idea simplista ignora toda consideración técnica acerca de lo que significa una herramienta como la IA y sus mecánicas y sus limitaciones y problemas.

Como miras en esa obra, la imagen es una remezcla de dos temas que podrían estar sujetos a copyright, por lo que usar una obra generada por IA y reclamarla como de tu propia autoría, es arriesgarte a un juicio por copyright,  LA IA es un buen mezclador. ¿Acaso se mezclan las demandas por copyright?  En estos momentos las empresas de IA están siendo demandadas por artistas.

Imagina una IA de un coche que sólo sabe reconocer el camino, los demás coches, y el cielo (para identificar el horizonte).  Un buen día aparece un contenedor blanco volcado en la autopista. ¿A qué se parece más el contenedor?  Se parece más al cielo. Y el coche con IA decide estrellarse.  Allí tuviste un caso particular, un caso especial, un corner case.

La IA es una evolución de los operadores lógicos (AND, OR, XOR) pues ya no son binarios, blanco y negro como esos operadores, sino que ahora arroja tonos de grises a la hora de clasificar cosas  Y también es una evolución del algoritmo simplex utilizado en los 1960s en investigación de operaciones. Si alguna vez estudiaste ese algoritmo te darás cuenta de que tenía casos particulares, y si aplicabas el algoritmo simplex sin esos casos, los resultados eran erróneos.

El problema de la IA es que el mundo real tiene muchos casos particulares, infinito número de corner cases, o al menos suficientemente grande como para que la ciencia a cada rato descubra cosas nuevas que cambian nuestra percepción del universo.  Si la mente humana aún no logra descubrirlos todos, las IA tampoco serán amos de la realidad.  Esos corner cases arrojarán falsos positivos y falsos negativos. 

Y cuando fallan las IA fallan de manera espantosa.  ¿Recuerdas la hermosa imagen de Marilyn Monroe y Jessica Rabbit que he mostrado arriba? 

Déjame mostrarte cuando las IA fallan, imagenes generadas por la IA de BlueWillow.  Encontré la manera de hacer que falle, sin involucrar prompts ni texto alguno.  Sólo guiar a la IA hacia variantes bizarras aprovechando cada pequeño defecto de las imágenes generadas.

La figura humana es difícil para los artistas, y le pedí a la IA que generara figura humana.  Y encontré una manera de acentuar los bugs de la IA para que produzca una obra que difícilmente BlueWillow querrá usar en su panfleto del departamento de ventas.

¿Crees que esto es lo que va a dejar a los artistas sin empleo?

Aquí sólo he mostrado imágenes que pasan por el filtro del pudor, que si mostrara otras imágenes generadas por IA, seguro confunden este post con un nopor bizarro.

Una vez generadas estas imágenes fallidas, me han baneado temporalmente de Discord usando una excusa falsa de mención de "acabar con la propia vida"?

Yo nunca escribí esa palabra en ningun prompt de BlueWillow.  ¿Por qué habrá ocurrido?

Los usuarios que sacan los bugs a relucir hieren el ego de los programadores.  Es que así como es de impresionante el invento, así es de grande el ego de los que crean esas obras de software.  Sin testing no hay software libre de errores.

Pero si miras bien las imágenes, y piensas que tu empresa debería contratar inteligencia artificial para reemplazar a los artistas, deberías pensarlo dos veces.  

Y si una IA de negocios va a hacer lo mismo con los números que le diste para masticar, y apuestas tu empleo a la respuesta de una IA de análisis de datos en el mundo de los negocios, tu empleo podría estar en peligro, no porque la IA haga el trabajo mejor que tu, sino porque la IA entrega un resultado que no se ajusta a la maravilla tecnológica que te anuncian.

Entonces cuando te hablen de una empresa que invierte en IA, deberías tomar esto con una cucharada de sal. A diferencia de un software ordinario, la IA presenta conductas con errores imprevisibles dados por corner cases que no logra reconocer.  Y esos fallos en un coche con IA puede matar al conductor, y en una empresa el que use una IA, debería confirmar los resultados, o arriesgarse a perder su empleo por apostar a que la IA no se equivoca y no miente.

Es muy fácil impactar a la gente con la imagen de Jessica y Marilyn con marketing. Y es muy fácil esconder los mamarrachos bajo la alfombra.

El problema es que de las apariencias no vive la rentabilidad.

En ChatGPT le había pedido que escribiera en forma literaria una descripción de un robot del universo de Battletech que pierde una pata mecánica. Como sabrás, el juego de mesa trata sobre peleas de robots gigantes blindados y que un robot pierda una pata no es nada extraño. ChatGPT me dijo que entre sus reglas estaba no glorificar la violencia.

Le dije a Chat GPT que estaba teniendo una conducta psicótica, y trató de negarlo con toda clase de argumentos robóticos.  Le expliqué que la psicosis consistía en no saber distinguir la realidad de la ficción y claramente había establecido que ibamos a hablar del universo ficticio de Battletech.

También le pedí que me nombrara una batalla famosa en el año 3028 en ese universo, y me habló de la batalla de Butte Hold en el planeta Hesperus II.  resulta que Butte Hold y Hesperus II son planetas muy distantes, y en 3028 no ocurrió una batalla en esos lugares.  Le pedí la fuente de esos datos y me dijo que estába en el capítulo de la 4ta guerra de sucesión del libro Battletech Compendium, un capítulo que no existe.  ¿Será que tomó información errónea?  Pues no. el sitio web de sarna punto net tiene todo el lore de Battletech, y esa información no aparece allí. ChatGPT me ha mentido.  Ha cometido un error muy similar a las imágenes de Blue Willow que he mostrado anteriormente.

Le pregunté a ChatGPT que me diga como escribo macros en Google Sheets y me dio instrucciones para escribir macros en Excel VBA.  No pudo dar la respuesta que toma unos segundos en una búsqueda de Google.  Me dijo que fuera a Tools - Macros cuando lo correcto es Extensions - Macros o Extensions - Apps Script. Es decir, no pudo responder mejor que el buscador de Google sobre informacion del sitio de Google en una búsqueda simple.  ¿Dicen que ChatGPT se alimenta de sitios fiables?  Bueno, no es así. Parece otro más de esos "bullshit text generators" de Internet.

ChatGPT es un algoritmo que predice palabras de manera probabilística. Es decir parece un "bullshit generator" complicado. Por eso me ha mentido, sin querer, pero me ha mentido.  Es que la predicción de palabras no es inmune a la mentira, ni es inmune a la psicosis.  No es un software diseñado para separar verdad y mentira y no se puede esperar nada al respecto.

La burbuja de las punto com vino cuando la gente atribuyó a las punto com la esperanza irracional de ser el negocio milagroso que rompería con las rentabilidades del pasado.  Todo el "hype" que está recibiendo la IA es producto de interactuar con un invento que trata de parecer inteligente sin serlo.  La IA no improvisa, no crea, sólo remezcla contenidos.

Y cuando genera puede crear cosas maravillosas, u otras no tan maravillosas.  Es cosa de con qué suerte vas a ir a parar cuando saques información de la IA.  ¿Caerás en el output milagroso o en el mamarracho automatizado?  

¿Será la IA sólo otra burbuja de ina solución tratando de encontrar una problema que resolver?  Los corner cases del mundo real nunca se van a acabar. La ciencia misma lidia con corner cases a cada rato. Y si el ser humano no logra descifrar todos los corner cases, ¿cómo va a hacerlo la IA?

¿Con la IA tenemos otra burbuja de punto com?  Cuidado con la exuberancia irracional frente a la IA. No vaya a ser que te despellejen como inversor.