Індустрія ШІ змінюється від фокусу на розмір моделей до ефективності витрат, Perplexity впроваджує open-source GLM 5.2

За словами генерального директора Perplexity Аравінда Срініваса в інтерв’ю CNBC, індустрія ШІ переходить від пріоритету розміру моделей до ефективності витрат і оптимізації під конкретні задачі. Компанії створюють системи оркестрації, які автоматично обирають найбільш підходящу модель для кожного завдання, замість того щоб використовувати найпотужнішу модель для всіх застосунків. Для застосунків у сфері підтримки клієнтів дорогі моделі можуть не бути потрібними, тоді як складні задачі програмування потребують моделей вищого рівня, а рутинні корпоративні роботи можна виконувати за допомогою менш коштовних відкритих моделей.

Цього тижня Perplexity продемонструвала нову систему комп’ютерного використання, що працює на базі відкритої моделі GLM 5.2 від китайської компанії зі ШІ Zhipu, що відображає тренд на гібридні архітектури ШІ. Партнер з бенчмарків Петер Фентон прогнозує, що понад 90% токенів ШІ можуть генеруватися відкритими моделями протягом 18–24 місяців. Генеральний директор Ollama Джефф Морган повідомив, що понад 85% компаній зі списку Fortune 500 тепер використовують платформу керування відкритими моделями Ollama, зокрема в сильно регульованих сферах на кшталт авіації, страхування та охорони здоров’я.