Anthropic звинувачує Alibaba в «крадіжці» даних Claude, надіслало листа чиновникам Білого дому

Bloomberg 24 червня отримав копію листа, в якому Anthropic звернувся до кількох сенаторів США та посадовців Білого дому, звинувачуючи компанії, пов’язані з лабораторією Qwen Alibaba, у проведенні з квітня по червень майже 25 тис. фальшивих акаунтів для 28,8 мільйона діалогів з Claude, систематично витягуючи навчальні дані про програмну інженерію та основні можливості Claude, кваліфікуючи це як «атаку з дистиляції з протидією».

Anthropic звинувачує Qwen у 28,8 мільйона діалогів, спрямованих на програмну інженерію

Модель атаки: велика кількість фальшивих акаунтів ставили запитання Claude, збирали відповіді, а потім використовували їх для навчання моделей серії Qwen. У листі Anthropic пояснює, що ціль атаки не була випадковими запитами, а була точно спрямована на дві найконкурентоспроможніші можливості Claude: програмну інженерію та агентне міркування (здатність AI самостійно планувати багатокрокові завдання та виконувати складні завдання, як агент).

Anthropic стверджує, що така тактика ідентична тій, яку він назвав у своїх блог-постах щодо DeepSeek і MiniMax, і є «системною, масштабною, промисловою» дистиляційною атакою. У листі чітко визначено: такі атаки «незаконним, системним, промисловим способом викрадають можливості AI з передових американських лабораторій і перепаковують їх у власні продукти, не беручи на себе витрати на навчання та дослідження».

Anthropic, OpenAI та Google створили тристоронній обмін розвідданими, просять уряд уточнити антимонопольні вказівки

Anthropic, OpenAI та Google об'єдналися в тристоронній альянс, обмінюючись виявленими порушеннями дистиляції. Занепокоєння в американській індустрії переросло з окремих інцидентів у колективну оборону. У листі Anthropic також просить уряд США допомогти прояснити відповідні антимонопольні вказівки, щоб великі американські компанії могли більш вільно обмінюватися розвідданими про дистиляційні атаки.

Anthropic у листі визнає, що під час навчання Claude він також дистилював власні ранні моделі. Межа між «дистиляцією себе» та «дистиляцією інших» юридично досі нечітка; сама по собі дистиляція широко використовується в індустрії, і незаконність залежить від масштабу та наміру, а не від самої техніки.

Сенат планує внести поправку, Палата вже просуває двопартійний законопроект

В обох палатах Конгресу США вже є законодавці, які діють. У Сенаті республіканець Білл Хаґерті та демократ Енді Кім планують внести поправку, яка вимагатиме введення чорного списку або санкцій для китайських компаній, які незаконно дистилюють результати американського AI; у Палаті представників Білл Хейзінґа та Сідні Камлаґер-Дав вже просувають подібний двопартійний законопроект. Відповідні пропозиції обох палат планують включити до щорічного закону про національну оборону (NDAA).

Поширені запитання

Що таке «атака з дистиляції з протидією» і чим вона відрізняється від звичайної дистиляції моделей?

Дистиляція моделей — це техніка, яка дозволяє малим моделям навчатися від великих, і широко використовується в спільноті дослідників AI. Проблема в масштабі та намірі: дії, які Anthropic звинувачує, включають використання майже 25 тис. фальшивих акаунтів для проведення 28,8 мільйона індустріалізованих запитів протягом трьох місяців, точно націлених на основні конкурентні можливості, що виходить за межі, дозволені умовами обслуговування великих AI-лабораторій.

Які конкретні вимоги Anthropic висунув у листі до Конгресу США?

У листі Anthropic просить уряд США вжити два заходи: ввести санкції або чорний список для китайських компаній, які незаконно дистилюють вихідні дані американського AI; а також допомогти прояснити антимонопольні вказівки, щоб великі американські AI-компанії могли більш вільно обмінюватися розвідданими про дистиляційні атаки для створення ефективнішого колективного захисту.

Чи є юридичний статус дистиляційних атак у США наразі чітким?

Наразі на юридичному рівні це ще нечітко. Сама по собі дистиляція не є повністю незаконною; в індустрії загалом дозволяється використовувати її в невеликих масштабах і за умови, що це не розробка конкуруючих продуктів. Anthropic також визнав у листі, що дистилював власні ранні моделі, і чітко попросив уряд США допомогти прояснити відповідні юридичні межі.