El costo de crear una inteligencia artificial conversacional al alcance de todos.

La adopción de inteligencia artificial generativa, específicamente la inteligencia artificial conversacional, está en aumento en sectores como marketing, ventas y servicio al cliente. Según medios de comunicación americanos, más del 40% de las organizaciones en estas áreas han implementado esta tecnología, situándola en el segundo lugar después de tecnologías como TI y ciberseguridad.

Sin embargo, muchos líderes empresariales se enfrentan al desafío de cómo comenzar a implementar esta tecnología en sus negocios. La elección entre los diferentes modelos de lenguaje de gran tamaño (LLMs por sus siglas en inglés) disponibles, ya sea de código abierto o cerrado, plantea interrogantes sobre los costos asociados y si vale la pena la inversión.

Mientras algunas empresas optan por adquirir herramientas de inteligencia artificial conversacional listas para usar, otras deciden desarrollar sus propias soluciones internamente. Para aquellos que eligen construir su propio sistema, es crucial analizar los costos involucrados en la implementación de LLMs para construir inteligencia artificial conversacional.

En un análisis comparativo entre GPT-4o de OpenAI y Llama 3 de Meta, dos de los principales modelos de LLM en el mercado, se destaca una diferencia significativa en los costos. Aunque GPT-4o puede presentar menores costos iniciales, a largo plazo Llama 3 resulta ser más rentable debido a sus costos de procesamiento inferiores.

Los costos asociados con la implementación de un LLM conversacional incluyen los gastos de configuración y los costos de procesamiento por conversación. La relación entre el costo y el valor de la inversión dependerá de cómo se utilice el LLM y la cantidad de uso esperada. Factores como el tiempo de despliegue, el nivel de uso del producto y el control sobre el producto y los datos son determinantes al calcular el costo inicial de implementación.

Al analizar los costos por conversación en los principales LLMs, como GPT-4o y Llama 3-70B, se observa que Llama 3 resulta aproximadamente un 50% más económico que GPT-4o. Sin embargo, es importante considerar que los costos de servidor deben ser sumados al cálculo en el caso de Llama 3, ya que requiere ser hospedado en servidores propios o en la nube, lo que puede implicar costos adicionales.

En resumen, la implementación de inteligencia artificial conversacional puede ser una herramienta invaluable para las empresas, siempre y cuando se tenga en cuenta el contexto y las necesidades específicas de cada organización. Ya sea optando por soluciones prefabricadas o desarrollando internamente, es fundamental que la decisión esté alineada con los objetivos empresariales y las expectativas de los clientes.

Sam Oliver, emprendedor tecnológico escocés y fundador de múltiples startups, enfatiza la importancia de evaluar cuidadosamente los costos y beneficios al implementar inteligencia artificial conversacional en un negocio.

Únete a nuestra comunidad en El Semanal para recibir las últimas actualizaciones y contenido exclusivo sobre inteligencia artificial. Acompáñanos en nuestro viaje hacia la innovación y el futuro de la tecnología de datos.