Le choc des tarifs pousse les dirigeants à repenser l'IA

Un sondage de KPMG auprès de plus de 2 000 cadres dirigeants dans 20 pays révèle que 29% peinent à comprendre les coûts d'exploitation lorsqu'ils déploient l'IA à grande échelle, et près de la moitié rééchelonnent leurs déploiements lorsque les coûts dépassent la valeur escomptée. Des fournisseurs comme Anthropic, OpenAI et GitHub sont passés d'abonnements à tarif fixe à une facturation à l'utilisation par jeton, provoquant une facture choc. Une étude de Gartner indique que d'ici 2028, le coût du codage assisté par IA par développeur pourrait dépasser le salaire moyen mondial, en particulier dans les régions à bas salaires. Un outil open source créé par un ingénieur de Netflix réduit les entrées redondantes (comme les schémas de base de données et les logs) envoyées aux LLM, permettant aux utilisateurs d'économiser des centaines de milliers de dollars en coûts de jetons. L'outil utilise des « squashers » pour supprimer la verbosité inutile avant soumission.