Mide el coste por solicitud de fusión aceptada, no por token
Un artículo de MIT Technology Review, creado como contenido patrocinado por HPE, sostiene que el precio por token desincentiva la programación autónoma: los agentes usan entre 10 y 50 veces más tokens que una simple pregunta en un chat, y el consumo creciente puede hacer que flujos de trabajo potentes sean prohibitivamente caros. El artículo recomienda medir costes por solicitud de fusión aceptada, asignar trabajo entre modelos innovadores y modelos abiertos, y controlar la capacidad de inferencia cuando un volumen sostenido lo abarata. HPE reporta una reducción del 30 al 50 % en el coste de tokens en una implementación híbrida.
PERSPECTIVA DE IA DE BONES
Resumen elaborado con IA a partir de la fuente enlazadaEl artículo patrocinado alerta que medir el coste de IA por tokens castiga el desarrollo productivo con agentes autónomos, que planifican, prueban e iteran consumiendo muchos más tokens que simples consultas. Propone medir el coste por solicitud de fusión aceptada, usar inferencia híbrida reservando modelos premium para tareas complejas y tener capacidad propia para altos volúmenes. HPE afirma que su configuración híbrida redujo entre un 30 y 50 % los costes de tokens en 150 aplicaciones internas.