Laut UBS vom 15. Juni stehen Unternehmen bei der Einführung von Enterprise-AI vor steigenden Kosten für Tokens und Rechenleistung, aber die Zunahme ist vor allem auf Wachstum bei der Nutzung zurückzuführen, nicht auf eine Inflation der Stückpreise. Die Bank befragte rund 13 Enterprise-IT-Manager und stellte fest, dass etwa 60% der Organisationen die Ausgaben für AI-Token und Rechenleistung als ein wesentliches Problem sehen, insbesondere nachdem man von einfachen Chatbots auf autonome Agenten umgestiegen ist.
Die meisten Unternehmen haben Schutzmaßnahmen bereits eingesetzt oder planen sie umzusetzen, darunter Token-Pooling, Modellswitches nach unten, Warnmeldungen bei Verschwendung und Nutzerbeschränkungen, um Ineffizienzen zu beseitigen, ohne die Einführung einzuschränken. Die Führungskräfte betonten, dass sie die Nutzung von AI durch Mitarbeitende beschleunigen wollen, während sie die Kosten durch Maßnahmen wie das Reduzieren externer IT-Dienstleistungen und die Konsolidierung der Cloud-Ausgaben optimieren.