Se está disparando
Cualquier empresa que se precie de serlo no puede resistirse a la introducir herramientas de IA. Como predican los popes del asunto, esta tecnología les ayudará a «ser más eficientes, aumentar la productividad y reducir los costes». Otro triángulo mágico. Sobre el papel, parece un win-win en toda regla. En esa tesitura, el encargado de IT reparte entre los trabajadores los tokens de IA, que son esos derechos de uso de las herramientas o las plataformas contratadas. Y, como es lógico, cada uno de esos tokens tiene un coste… Todo parece encauzado, pero al poco descubren que los empleados se están gastando más dinero en esos tokens que lo que cuestan sus propias nóminas… La situación, aunque paradójica, ya se ha producido en no pocas compañías, algunas de ellas destacadas tecnológicas.
La propia Microsoft ha dado marcha atrás en su proyecto y ha terminado por prohibir a sus ingenieros el uso de IA, en su caso, de Claude Code. El consumo de esta herramienta estaba costando más que los profesionales que se suponía que iba a reemplazar… Un trabajador de Meta se pulió en un solo mes la friolera de 10.000 millones de tokens, con un coste cercano a los 43.000 euros. Para que nos hagamos una idea, hay que recordar que un token equivale a tres o cuatro caracteres, por lo que un centenar de tokens se evaporan en un párrafo de 75 palabras. En ese escenario, las empresas que lanzan estas tecnologías tienen las manos gastadas de tanto frotárselas. Y no esconden sus pronósticos y optimistas vaticinios sobre el imparable uso de estas herramientas.
OpenAI reconoce en un reciente estudio con el lema The state of enterprise AI que «el consumo medio de tokens de razonamiento por organización se ha multiplicado por 320 en los últimos 12 meses». Justifica el dato alegando que «los modelos más inteligentes se están integrando sistemáticamente en productos y servicios en expansión».
Más y más agentes
La llegada de más y más agentes de IA también va a remar en esa dirección y consolidar la tendencia. De hecho, Goldman Sachs pronostica un aumento de 24 veces en el consumo de tokens para 2030 por ese motivo. Gartner explica en otro trabajo sobre este mismo asunto que los precios individuales de los tokens bajarán un 90% para 2030. Sin embargo, advierte de que los costes totales de IA empresarial seguirán subiendo porque los agentes consumen exponencialmente más tokens por tarea que las herramientas básicas. Así que lo comido por lo servido. Ante esta situación que se está empezando a vivir en no pocas empresas, hemos querido preguntarnos cómo salir de esa espiral de consumo imparable de tokens de IA, cómo encauzar todo esto. «La preocupación es razonable, pero hay que diferenciar el uso generalista para la productividad del uso especializado. Que todos los empleados tengan acceso a herramientas de IA generará un coste base», explica a eleconomista.es Alberto García Arrieta, responsable de Digital Core en Accenture. «El beneficio de este uso no se refleja de forma automática en la cuenta de resultados al día siguiente, pero es ya casi tan imprescindible como que la plantilla disponga de un ordenador portátil», añade.
Manuel García, arquitecto de Soluciones en F5, encuentra otra explicación a ese gasto desmesurado: «La IA tiene una forma de operar que puede resultar poco eficiente, ya que no reutiliza respuestas o razonamientos entre peticiones independientes». Añade este experto que, para resolver esto, se está intentando optimizar al máximo la utilización de la infraestructura disponible en las gigafactorías. «También están apareciendo soluciones de caché semántica con el objetivo de reutilizar respuestas y razonamientos. Además, las empresas y los usuarios finales están comenzando a aplicar políticas de contención del gasto en IA, especialmente a medida que aumenta la dependencia de esta tecnología y van apareciendo nuevos modelos más avanzados y caros».
La situación puede recordar a la llegada de otras tecnologías igualmente disruptivas. Así lo interpreta García Arrieta, de Accenture: «Lo importante es abordar el uso especializado de estas herramientas con gobierno. Ya ocurrió en su día con la adopción de la nube, al principio hay una sensación de barra libre. No hay que coger el Ferrari para comprar la barra de pan y, por lo tanto, no es sostenible usar modelos brutalmente potentes para redactar correos. Por eso, es clave abordar el uso de la IA con criterio económico».
Una cosa es cierta: hay que tomar medidas. Chris Wright, Chief Technology Officer (CTO) y vicepresidente senior de Global Engineering en Red Hat, aclara que la mayor parte de la IA empresarial depende del uso de APIs de modelos de vanguardia y del pago por los tokens consumidos y generados. «El consumo de tokens se está disparando porque los nuevos modelos de razonamiento suelen consumir entre 10 y 20 veces más tokens que los modelos estándar solo por pensar en un problema», explica.
El responsable de Digital Core de Accenture que «no es frecuente ver empresas que vayan a gastar más en tokens que en personas de forma generalizada». «Si eso ocurre, probablemente algo se está haciendo mal, como usar modelos demasiado potentes para tareas sencillas, no medir el retorno, o confundir experimentación con transformación real. La tecnología debe ayudar a potenciar el talento». Acto seguido, deja claro que la IA tiene sentido cuando cambia un indicador de negocio. Por ejemplo: cuando reduce el tiempo de respuesta a un cliente, mejora la productividad de un equipo comercial, acelera el desarrollo de software, reduce errores en operaciones o permite lanzar nuevos servicios.
