La importancia de verificar la exageración en IA y volver a la realidad.

En los últimos 18 meses, ha surgido una conversación en torno a los grandes modelos de lenguaje (LLMs) y la inteligencia artificial generativa. La excesiva hipérbole y el entusiasmo desmedido acerca del futuro han inflado, incluso hasta «burbujas», eclipsando las aplicaciones prácticas de las herramientas de IA actuales. Esta exageración pone de manifiesto las limitaciones profundas de la IA en este momento, socavando la forma en que estas herramientas pueden ser implementadas para obtener resultados productivos.

Aún nos encontramos en la fase inicial de la IA, donde herramientas populares como ChatGPT son entretenidas y algo útiles, pero no se puede depender completamente de ellas para realizar un trabajo completo. Sus respuestas están inevitablemente ligadas a las inexactitudes y sesgos de los humanos que las crearon y de las fuentes en las que se entrenaron, de dudosa procedencia. Las «alucinaciones» se asemejan mucho más a proyecciones de nuestra propia psique que a una inteligencia legítima en ciernes.

Además, existen problemas reales y tangibles, como el consumo de energía explosivo de la IA, que podría acelerar una crisis climática existencial. Un informe reciente encontró que la visión general de IA de Google, por ejemplo, debe crear información completamente nueva en respuesta a una búsqueda, lo que cuesta aproximadamente 30 veces más energía que extraerla directamente de una fuente. Una sola interacción con ChatGPT requiere la misma cantidad de electricidad que una bombilla de 60W durante tres minutos.

¿Quién está alucinando?

Un colega mío afirmó, sin un ápice de ironía, que debido a la IA, la educación secundaria sería obsoleta en cinco años y que para el 2029 viviríamos en un paraíso igualitario libre de trabajos menores. Esta predicción, inspirada en la proyección de la «Singularidad de la IA» de Ray Kurzweil, sugiere un futuro rebosante de promesas utópicas.

Yo apostaría en contra. Hará falta mucho más que cinco años, o incluso 25, para pasar de las «alucinaciones» y comportamientos inesperados de ChatGPT-4o a un mundo donde ya no necesite cargar mi lavavajillas.

Son tres los problemas intratables e irresolubles con la gen IA. Si alguien te dice que estos problemas se resolverán algún día, debes entender que no tienen idea de lo que están hablando o que están vendiendo algo que no existe. Viven en un mundo de esperanza pura y fe en las mismas personas que nos trajeron la exageración de que las criptomonedas y Bitcoin reemplazarán a la banca, los autos se conducirán solos en cinco años y el metaverso reemplazará la realidad para la mayoría de los humanos. Están tratando de captar tu atención y compromiso en este momento para poder arrebatarte tu dinero más adelante, una vez que estés enganchado y hayan aumentado el precio y antes de que el mercado se desplome.

Tres realidades insalvables

Alucinaciones

No hay suficiente potencia de cálculo ni datos de entrenamiento en el planeta para resolver el problema de las alucinaciones. La gen IA puede producir salidas que son incorrectas o sin sentido, lo que la vuelve poco confiable para tareas críticas que requieren alta precisión. Según el CEO de Google, Sundar Pichai, las alucinaciones son una «característica inherente» de la gen IA. Esto significa que los desarrolladores de modelos solo pueden esperar mitigar el daño potencial de las alucinaciones, no eliminarlas.

Salidas no determinísticas

La gen IA es inherentemente no determinística. Es un motor probabilístico basado en miles de millones de tokens, con salidas formadas y reformadas a través de cálculos y porcentajes en tiempo real. Esta naturaleza no determinística significa que las respuestas de la IA pueden variar ampliamente, planteando desafíos para campos como el desarrollo de software, pruebas, análisis científico o cualquier campo donde la coherencia sea crucial.

Subsidios de tokens

Los tokens son una pieza poco comprendida del rompecabezas de la IA. En resumen: cada vez que solicitas a un LLM, tu consulta se descompone en «tokens», que son las semillas de la respuesta que recibes, y se te cobra una fracción de centavo por cada token tanto en la solicitud como en la respuesta.

Una parte significativa de los cientos de miles de millones de dólares invertidos en el ecosistema de la gen IA se destina directamente a mantener estos costos bajos para favorecer la adopción. Por ejemplo, ChatGPT genera cerca de $400,000 en ingresos cada día, pero el costo de operar el sistema requiere una inversión adicional de $700,000 en subsidios. En economía, esto se llama «Pricing de pérdida líder» – ¿recuerdas lo barato que era Uber en 2008? ¿Has notado que tan pronto como se hizo ampliamente disponible ahora es tan caro como un taxi? Aplica el mismo principio a la carrera de la IA entre Google, OpenAI, Microsoft y Elon Musk, y tú y yo podemos empezar a temer cuando decidan que quieren empezar a obtener beneficios.

Lo que funciona

Recientemente escribí un script para extraer datos de nuestro pipeline de CI/CD y subirlo a un lago de datos. Con la ayuda de ChatGPT, lo que me habría llevado entre ocho y diez horas con mis habilidades de Python oxidadas resultó en menos de dos horas, ¡un aumento del 80% en la productividad! Siempre y cuando no necesite que las respuestas sean siempre las mismas y verifique bien su salida, ChatGPT es un socio de confianza en mi trabajo diario.

La gen IA es extremadamente útil para ayudarme a generar ideas, darme un tutorial o un comienzo rápido para aprender un tema ultraespecífico y producir el primer borrador de un correo electrónico difícil. Probablemente mejore marginalmente en todas estas cosas y actuará como una extensión de mis capacidades en los próximos años. Eso es suficiente para mí y justifica gran parte del trabajo invertido en producir el modelo.

Conclusión

Si bien la gen IA puede ayudar con un número limitado de tareas, no justifica una reevaluación de varios billones de dólares sobre la naturaleza de la humanidad. Las empresas que han aprovechado la IA de la mejor manera son aquellas que naturalmente lidian con áreas grises, piensa en Grammarly o JetBrains. Estos productos han sido extremadamente útiles porque operan en un mundo donde alguien naturalmente verificará las respuestas o donde existen naturalmente múltiples vías hacia la solución.

Creo que ya hemos invertido mucho más en los LLMs – en términos de tiempo, dinero, esfuerzo humano, energía y anticipación desenfrenada- de lo que jamás veremos a cambio. Es culpa de la economía en ruinas y de la mentalidad de crecimiento a toda costa que no podemos simplemente mantener la gen IA en su lugar como una herramienta bastante brillante para aumentar nuestra productividad en un 30%. En un mundo justo, eso sería más que suficiente para construir un mercado en torno a él.

Marcus Merrell es asesor técnico principal en Sauce Labs.