Cada día que pasa la IA es más capaz. Veo cómo los agentes de código están dejando a los desarrolladores juniors fuera de la ecuación. En diseño gráfico, las herramientas generativas empaquetan logotipos e ilustraciones en segundos, evaporando el trabajo lentamente pero seguro. Es una sombra que se expande de forma implacable sobre el marketing, la producción audiovisual y, ni hablar, sobre la traducción.

Pero hay una brecha que aún no se cubre. Estamos creando sistemas que pueden entender el lenguaje pero no el propósito o valor de lo que dicen, al menos no en una forma humana. La Inteligencia Artificial no logra la perspectiva de la voluntad y es incapaz de lidiar con lo desconocido si no es alucinando.

La ilusión de voluntad

Por si aún no lo sabías, lo que en estos días llamamos IA, son LLM (large language model), sistemas que aprendieron patrones del lenguaje leyendo una enorme cantidad de texto. A un nivel atómico comenzó con la idea de predecir la siguiente palabra.

Las rosas son …

Ahora, predecir la siguiente palabra requiere construir una representación compleja del contexto. Construir múltiples contextos y relacionarlos entre sí de manera sofisticada. Cómo influye esta nueva palabra en toda la conversación. Con el tiempo estos modelos han ido creciendo en tamaño y también sus conjuntos de entrenamiento alcanzando capacidades que se asemejan al razonamiento, la comunicación y la resolución de problemas.

Y con ello el miedo y la ansiedad de las personas. Pero estos modelos no cubren aspectos importantes de nuestra infraestructura como sociedad. No todas nuestras actividades son extrapolables a un conjunto de entrenamiento.

Visualizar patrones, aplicar probabilidades, encontrar secuencia de tokens o palabras y la asociación estadística es la forma que tienen los modelos de ver el mundo. En nuestra cancha queda la experiencia, la intención, responsabilidad, el contexto y los valores.

Porque cada modelo confunde categóricamente la frecuencia con la verdad, olvidamos que cada conjunto de datos con lo que es entrenado, tiene errores. Que estos modelos tocaron el internet. Y el internet miente, ¿no? Condenados a replicar y optimizar el mundo tal como se lo describimos. Con toda la basura y ficción, con todos los fanfiction, wattpad y conspiraciones absurdas. Debemos distinguir la verdad entre la basura que nos entrega y conectar los cables para llegar a buen camino, nuestro camino.

Fuimos hacia A y luego C, sin problemas hacia B. Ahora cómo llegamos a Z

Aquello finito y fácil de capturar, los eventos comunes que alimentan estas inmensas máquinas, da forma a un modelo de pensamiento perfecto y eficiente, 100 veces más eficiente en tareas transaccionales, donde los detalles están tan bien definidos que podríamos encontrar una aguja en un pajar.

Pero el mundo contiene mucha más entropía de la que incluso nosotros queramos aceptar. Es mucho más desordenado y caótico. Eventos extraños, combinaciones atípicas u escenarios creativos podrían dejar una larga cola que seguirán hasta el infinito. O más bien, habrían encontrado el final, porque siempre lo hacen, pero fenomenalmente equivocada:

“Come al menos una roca pequeña al día”… (Noticia de la BBC)

Además, en un entorno imperfecto como nuestra realidad, hay otra dirección que tiene que ver con la combinatoria: agregar variables tiende rápidamente a combinaciones exponenciales. Para que la forma en la que funcionan estos modelos lograra capturar esa dimensionalidad, necesitaríamos una cantidad de datos descomunal.

Por eso cuidado con la ilusión de tener frente a nosotros una imagen de nosotros mismos, y sus estimaciones. Aún no tenemos un modelo que sea capaz del “aprendizaje instantáneo”. No vamos a encontrar en ningún modelo que conozca el arte de improvisar para salir de algún apuro.

RANT

Lo que quería decir es que nuestro trabajo, y el de muchos, seguirá ahí: lidiando con la ambigüedad humana, batallando con sistemas de legado, luchando de una versión a otra porque a alguien se le ocurrió usar una base inestable. Diseñar sistemas discretos con la mente en una realidad inmensa.

No hay máquina que nos resuelva el problema de la incertidumbre, de la complejidad a largo plazo. ¿Qué le importa a un agente de código si la aplicación sigue funcionando o no en un par de años? Lo único que cambia es que ahora vamos a estar enterrados bajo una montaña de código. ¿Y quién nos va a salvar de ese 80% de código basura?

Espero que tú y yo no seamos demasiado perezosos para cuando no haya a quien reclamarle responsabilidades; cuando el concepto de “IA first” nos tenga escarbando en un pozo ciego que parece escrito por un extraterrestre con déficit de atención. Y a los inversores les va a encantar, porque “se construyó en dos días”. Pero quién sabe qué demonios invocó, y por qué decidió importar tres librerías, cruzar dependencias e importar medio internet.