La IA está en problemas

Antes de volverse "inteligencia artificial general" (que es la expectativa para invertir en IA) la IA podría llegar a un punto muerto.

Como hemos visto, la IA en su firma moderna, es una red neuronal creada por programadores, pero lo que le hace parecer inteligente es que se alimenta de datos del Internet.  Como el Internet está lleno de mentiras y fabricaciones y noticias falsas, han querido hacer que ciertos sitios web tengan contenido depurado que pueda usarse para que la IA aprenda.

Sin embargo, hay problemas.  Los sitios web con contenido depurado pronto podrían decir que ya no dejan al spider navegar gratis por sus páginas y empiecen a cobrar.  Esto o va a encarecer el costo de la IA, o va a significar que la cantidad de datos disponibles para entrenar a la IA va a ser menor.

Hoy el código generado por la IA aún tiene errores.  Si el internet va a evolucionar presentando soluciones a los errores, la IA debería poder leer esas soluciones. Si no las puede leer o representa un coste leer el Internet, es muy probable que el aprendizaje de la IA toque un techo en un futuro muy cercano.  Es que las empresas verán el valor de tener datos fiables de usuarios con soluciones.  Y van a cobrar por ello.

Y si ese techo se alcanza sin que se logre la AGI (inteligencia artificial general) y se haya logrado desplazar trabajadores de sus puestos, eso va a tener un impacto en el entusiasmo de los inversores.

¿Qué hacer entonces?  ¿Hacer que la IA se entrene con los resultados sintéticos de otra IA en lugar de datos generados por usuarios?  La IA usa modelos probabilísticos y los datos reales tienen extremos.   Pero la IA, por su diseño, tiende a enfocarse en el centro de las cosas, de modo que el espectro de datos de entrenamiento que se obtengan de una IA para entrenar a otra, va a estar orientado a una tendencia central, dejando los extremos sin tocar.

A este problema se le llaman el problema del entrenamiento sintético de la IA, que rompe el modelo de la IA.

Si los datos originales fueran fotos de personas, con el tiempo lo que empiezas a obtener no es una variedad de rostros generados, sino una misma cara promedio en diferentes entornos.

Los papers al respecto apuntan a que si el entrenamiento usa más de un 15% de datos sintéticos, el modelo entra en decadencia.

Para más INRI, muchos sitios web están usando IA para generar sus contenidos.  Esto genera contenido sintético que los creadores de IA creen que es generado por usuarios, lo cual trae el problema del entrenamiento sintético.  Todavía no hay una solución, si es que la hay, para generar datos que parezcan reales para entrenar a la IA.

La IA hoy en día no es muy inteligente.  Puede que sepa reconocer gatos en una foto, pero le costará decir de qué raza es. Es que la IA en realidad es un sistema de clasificación.  ¿Es o no es un gato?  Y para reconocer necesita una colección de imágenes y unas etiquetas para identificar las imágenes.  Identificar la raza de gato requiere pasar por etiquetar cada una de las imágenes con gatos con la raza a la que corresponde cada una.  Y eso es mucho trabajo y mucho dinero.

De este modo, a como el conocimiento se ubique en capas, se necesite más granularidad en los resultados, la IA se irá desempeñando de peor manera.

 Adicionalmente no hay incentivo para que los desarrolladores hagan lo correcto.  Si tomaste datos del internet en un momento en que se viralizó contenido difamatorio o queda expuesta información que no debería ser pública, como datos personales, por ejemplo, los resultados de la IA podrían dar pie a muchos problemas. ¿Hay incentivo para empezar a curar los datos?  No.

Cuando usas la IA no sabes que datos se usaron para entrenar a la IA.  Y hay riesgo de plagio y de violación de derechos de autor.  ¿Qué incentivo tiene el desarrollador para que esto no ocurra?  Ninguno

Lógicamente sabemos que un buen desarrollador con sus valores y profesionalismo bien puesto, se enfocará en desempeño del software.  

Pero en el mundo real, los ejecutivos de la empresa de software reciben la mayoría de sus ingresos en acciones, de modo que lo que les interesa más es que suba el precio de las acciones, y para ello espreciso crear expectativa, el famoso "hype" que es esa exuberancia irracional que invita a retratar logros imaginarios futuros, que es como imaginar un rascacielos cuando solo sabes apilar ladrillos sin saber nada de ingeniería.  Los ejecutivos quieren subida en precio de acciones alimentando ilusiones y sueños de accionistas, pero no tienen incentivos para empujar desempeño de la IA.

¿Será la IA una burbuja como el punto com?  No lo sabemos.  Lo que si sabemos es que todo está diseñado para que con la IA se prometa demasiado y se logre muy poco.

Goldman Sachs nos muestra el lado escéptico acerca de la IA:  Tanto dinero que le han metido y al día de hoy no tenemos soluciones que sean costo-efectivas.

La IA es una solución a un problema que aún no encontramos. Y ni siquiera tiene un modelo de negocios que resuene. Todo ese dinero en IA es de inversores, no de ingresos comerciales.