UBS: ต้นทุนการนำ AI ระดับองค์กรมาใช้เพิ่มขึ้นจากการใช้งานที่พุ่งสูงขึ้น ไม่ใช่จากราคาต่อหน่วยที่แพงขึ้น

ตามรายงานของ UBS เมื่อวันที่ 15 มิถุนายน การนำ AI เชิงธุรกิจไปใช้งานเผชิญต้นทุนโทเคนและการประมวลผลที่เพิ่มสูงขึ้น แต่การเพิ่มขึ้นดังกล่าวมาจากการเติบโตของการใช้งานเป็นหลัก มากกว่าการที่ราคาต่อหน่วยจะแพงขึ้นอย่างมีนัยสำคัญ ธนาคารสำรวจผู้บริหารฝ่าย IT ขององค์กรประมาณ 13 ราย และพบว่า ราว 60% ของหน่วยงานมองว่า ค่าใช้จ่ายด้านโทเคนและการคำนวณของ AI เป็นปัญหาสำคัญ โดยเฉพาะหลังจากเปลี่ยนจากแชตบอตแบบง่ายไปเป็นเอเจนต์อัตโนมัติ

องค์กรส่วนใหญ่ได้ติดตั้งหรือวางแผนที่จะนำระบบควบคุม (guardrails) มาใช้ รวมถึงการรวมสระโทเคน (token pooling) การลดระดับโมเดล (model downgrading) การแจ้งเตือนการสิ้นเปลือง (waste alerts) และการจำกัดการใช้งานของผู้ใช้ เพื่อขจัดความไม่มีประสิทธิภาพโดยไม่ลดทอนการนำไปใช้งาน ผู้บริหารระบุว่าต้องการเร่งการใช้งาน AI ของพนักงานพร้อมทั้งปรับต้นทุนให้เหมาะสมด้วยมาตรการต่างๆ เช่น การลดบริการ IT จากภายนอก และการรวมค่าใช้จ่ายบนคลาวด์