Сем Альтман викладає п’ять операційних принципів OpenAI та сигналізує про можливі майбутні обмеження доступу до можливостей моделей заради безпеки

Повідомлення Gate News, 27 квітня — генеральний директор OpenAI Сем Альтман оприлюднив п’ять операційних принципів для компанії під власним підписом, сигналізуючи, що OpenAI може обмежувати доступ користувачів до можливостей моделей у певні періоди, щоб надавати пріоритет безпеці. У заяві Альтман описав потенційний майбутній сценарій, за якого компанії доведеться "пожертвувати частиною наділення повноваженнями в обмін на більшу стійкість."

Альтман підкреслив, що критичні рішення щодо ШІ мають ухвалюватися демократичними процесами, а не визначатися лише ШІ-лабораторіями. Він захистив нещодавні великомасштабні закупівлі OpenAI обчислювальних потужностей, будівництво глобальних дата-центрів і зусилля з вертикальної інтеграції, зазначивши, що мета — знизити витрати на ШІ, щоб зробити технологію доступною для всіх. Альтман зауважив, що урядам може знадобитися дослідити нові економічні моделі, щоб забезпечити розподіл цінності. Він також виділив конкретний сценарій ризику: надзвичайно потужні моделі можуть знизити поріг створення нових патогенів, вимагаючи відповіді на рівні суспільства.

Альтман поміркував над історичною ваганням OpenAI щодо випуску ваг GPT-2, визнавши, що обережність у hindsight була надмірною, але зазначив, що це призвело до ітеративної стратегії розгортання, яку OpenAI продовжує застосовувати сьогодні.