Die Token-Apokalypse ist da: Unternehmen kämpfen darum, ihre KI-Ausgaben zu senken
Ein durchgesickertes Meeting von Accenture zeigt, dass Nicht-Ingenieure den Token-Verbrauch antreiben, wobei die Konvertierung von PDF in Markdown ein erheblicher Kostenfaktor ist. Unternehmen sind dabei, ihre KI-Ausgaben zu reduzieren, während die Token-Kosten in die Höhe schießen.
Ein durchgesickertes Audio-Mitschnitt einer Accenture-Besprechung, über den 404 Media berichtet, hebt hervor, dass nicht Ingenieure, sondern Nicht-Ingenieure den Token-Verbrauch bei der KI-Nutzung antreiben. Justice Kwak, Leiter der Strategie für agentische KI bei Accenture, merkte an, dass interne Daten zeigen, dass Nicht-Ingenieure Verhaltensweisen an den Tag legen, die viele Token verbrauchen, wie etwa das Konvertieren von PDFs in Bilder und dann in Markdown-Dateien. Stuart Henderson, Leiter der Kundengruppe bei Accenture, scherzte über diese Praxis und bezeichnete sie als einen der großen Token-Fresser, woraufhin Kwak bestätigte, dass die eigenen Daten von Accenture dies untermauern. Diese Anekdote unterstreicht die breiteren Bemühungen von Unternehmen, die Ausgaben im Zusammenhang mit KI zu senken, da Token-Kosten zu einem Anliegen werden.
Quelle: Simon Willison —
Original
