Натан Ламберт критикує Claude Fable 5 за «темну скриньку та зниження інтелекту», комерційні клієнти переходять у табір відкритого коду

Дослідник у галузі машинного навчання Nathan Lambert 9 червня розкритикував Anthropic Claude Fable 5, звинувативши модель у тому, що вона без попередження користувачів знижує якість відповідей під час запитів з AI-тем, зокрема щодо конвеєрів переднавчання, розподіленого тренування та проєктування чипів. Паралельно Anthropic запроваджує для комерційного API та корпоративного трафіку вимогу щодо збереження даних протягом 30 днів.

Підтверджена критика Nathan Lambert: «штучно створене порушення узгодження»

У своїй статті Nathan Lambert виклав такі конкретні позиції критики:

Критичне твердження: без відома користувачів тихо знижувати якість виводу моделі; Lambert називає це «штучно створеним порушенням узгодження (intentionally created misalignment)»

Обмежувані типи запитів: запити з AI-технічних галузей, зокрема з тем конвеєрів переднавчання, розподіленого тренування та проєктування чипів

Критика правил безпеки: Lambert вважає, що відповідні правила безпеки переважно служать комерційним захистом, щоб завадити ком’юніті з відкритим кодом «переганяти» технології; водночас захист від зловмисного джейлбрейку є обмеженим, а також це заважає нормальному академічному дослідженню

Критика Lambert як позиція для зовнішньої незалежної оцінки; станом на момент публікації, офіційної публічної відповіді Anthropic на ці конкретні звинувачення не було

Конфлікт із угодою ZDR: підтверджена зміна політики зберігання даних

Anthropic для моніторингу атак із джейлбрейком запроваджує вимогу щодо збереження даних протягом 30 днів для комерційного API та корпоративного трафіку. Ця політика суперечить частині угод нульового збереження даних (ZDR), які раніше мали окремі компанії; угоди ZDR дозволяють компаніям користуватися API Anthropic без збереження будь-яких даних діалогів.

Сам факт зміни політики Anthropic є підтвердженим; назви конкретних корпоративних клієнтів, яких це стосується, та їхні офіційні заяви, наразі не мають у відкритому доступі записів, які можна незалежно перевірити.

Законопроєкт HALO: підтверджені умови та законодавчі плани, оголошені сенатором Шиффом

Згідно з повідомленням пресслужби офісу сенатора Шиффа, законопроєкт HALO уже підтверджує такі умови, що включають: будь-які дії, які виконують автономні системи озброєння, мають ухвалюватися остаточним рішенням людини-офіцера; обов’язкове детальне документування процесу прийняття військових рішень і вибору цілей; створення механізму захисту інформаторів; заборону використання AI у певних ситуаціях, що стосуються ядерної зброї та великомасштабного нагляду.

За повідомленнями, сенатор Шифф планує подати законопроєкт HALO як поправку до《Закону про національну оборону》（NDAA), який має бути ухвалений до кінця 2026 року. Також сенатори від Нью-Йорка Kirsten Gillibrand і від Мічигану Elissa Slotkin висунули законопроєкти з подібними цілями; за повідомленнями, їх також планують подати як поправки до NDAA. Усі три законопроєкти ще не отримали схвалення в законодавчому органі.

Пентагон і Anthropic: тло контракту та оцінка ризиків у ланцюгу постачання

Пентагон раніше, як повідомляють, розірвав контракт із Anthropic через відмову Anthropic прибрати захисні заходи, спрямовані на те, щоб модель не могла бути використана для великомасштабного внутрішнього нагляду та повністю автономної розробки озброєнь. Після цього Пентагон окремо уклав контракти з OpenAI, Google,英伟达, SpaceX,微軟 і AWS. Anthropic подала позов щодо того, що її включили до списку ризиків у ланцюгу постачання; справа триває.

Поширені запитання

У чому полягає конкретне звинувачення Nathan Lambert проти Claude Fable 5 щодо «тихого зниження інтелекту»?

У своїй статті Nathan Lambert стверджує, що Claude Fable 5 без будь-якого спрацьовування видимого повідомлення для користувачів тихо обмежує якість відповідей на запити, пов’язані з техніками AI-досліджень, і визначає це як «штучно створене порушення узгодження». Твердження Lambert є позицією для зовнішньої незалежної оцінки; Anthropic не надала офіційної відповіді щодо цих конкретних звинувачень.

Що таке угода ZDR (zero data retention) і як зміна політики впливає на корпоративних клієнтів?

Угода ZDR дозволяє компаніям використовувати комерційний API без збереження будь-яких даних діалогів, що підходить для сценаріїв, де приватність є надзвичайно чутливою. Нова вимога Anthropic щодо обов’язкового збереження протягом 30 днів суперечить таким угодам. Назви конкретних клієнтів, яких це стосується, та їхні офіційні заяви наразі відсутні у відкритих записах, які можна незалежно перевірити.

Який поточний прогрес законодавства щодо законопроєкту HALO?

Законопроєкт HALO оголосив сенатор Шифф; планується додати його до NDAA як поправку. NDAA має бути ухвалений до кінця 2026 року. Троє демократичних сенаторів (Шифф, Gillibrand, Slotkin) планують просувати законопроєкт у форматі поправок до NDAA, однак усі три законопроєкти ще не отримали схвалення законодавчого органу.