ตามสำเนาจดหมายที่ Bloomberg ได้รับเมื่อวันที่ 24 มิถุนายน Anthropic ได้ส่งจดหมายถึงวุฒิสมาชิกสหรัฐฯ หลายคนและเจ้าหน้าที่ทำเนียบขาว กล่าวหาว่าบริษัทที่เกี่ยวข้องกับ Qwen Lab ของ Alibaba ใช้บัญชีปลอมเกือบ 25,000 บัญชี สร้างการสนทนาทั้งหมด 28.8 ล้านครั้งกับ Claude ระหว่างเดือนเมษายนถึงมิถุนายน เพื่อดึงข้อมูลการฝึกอบรมด้านวิศวกรรมซอฟต์แวร์และความสามารถหลักของ Claude อย่างเป็นระบบ โดยระบุว่าเป็นการ "โจมตีแบบ adversarial distillation"
Anthropic กล่าวหา Qwen ใช้การสนทนา 28.8 ล้านครั้งเจาะจงเป้าหมายด้านวิศวกรรมซอฟต์แวร์
รูปแบบการโจมตีคือ: บัญชีปลอมจำนวนมากถามคำถาม Claude เก็บคำตอบ แล้วนำไปใช้ฝึกโมเดลตระกูล Qwen Anthropic ระบุในจดหมายว่า เป้าหมายการโจมตีไม่ใช่การสอบถามแบบสุ่ม แต่เจาะจงความสามารถที่แข่งขันได้มากที่สุดสองอย่างของ Claude ได้แก่ วิศวกรรมซอฟต์แวร์ และ agentic reasoning (ความสามารถที่ทำให้ AI วางแผนหลายขั้นตอนด้วยตนเองและดำเนินงานที่ซับซ้อนเหมือนตัวแทน)
Anthropic อ้างว่าวิธีการดังกล่าวเหมือนกับที่เคยระบุชื่อ DeepSeek และ MiniMax ในบล็อกโพสต์ของบริษัท ซึ่งเป็นการโจมตีแบบ distillation "ที่มีระบบ ขนาดใหญ่ และเป็นอุตสาหกรรม" จดหมายระบุอย่างชัดเจนว่า การโจมตีเหล่านี้ "ขโมยความสามารถ AI จากห้องปฏิบัติการชั้นนำของสหรัฐฯ อย่างผิดกฎหมาย เป็นระบบ และในระดับอุตสาหกรรม แล้วนำมาห่อหุ้มเป็นผลิตภัณฑ์ของตนเอง โดยไม่ต้องรับภาระต้นทุนการฝึกอบรมและพัฒนา"
Anthropic, OpenAI และ Google สร้างการแบ่งปันข่าวกรองสามฝ่าย ขอให้รัฐบาลชี้แจงแนวทางต่อต้านการผูกขาด
Anthropic, OpenAI และ Google ได้ร่วมมือกันสามฝ่าย แบ่งปันข้อมูลการละเมิด distillation ที่ตรวจพบ ความกังวลของอุตสาหกรรมสหรัฐฯ ได้เปลี่ยนจากเหตุการณ์เดี่ยวๆ ไปสู่ท่าทีป้องกันร่วมกัน Anthropic ขอให้รัฐบาลสหรัฐฯ ช่วยชี้แจงแนวทางต่อต้านการผูกขาดที่เกี่ยวข้อง เพื่อให้บริษัทอเมริกันสามารถแบ่งปันข้อมูลการโจมตีแบบ distillation ได้อย่างอิสระมากขึ้น
Anthropic รับในจดหมายว่าบริษัทเองก็เคย蒸馏 (กลั่น) โมเดลรุ่นก่อนหน้าของตนเองในการฝึก Claude เส้นแบ่งระหว่าง "การกลั่นตัวเอง" กับ "การกลั่นผู้อื่น" ยังคงไม่ชัดเจนในทางกฎหมาย การกลั่นนั้นถูกใช้อย่างกว้างขวางในอุตสาหกรรม การผิดกฎหมายขึ้นอยู่กับขนาดและเจตนา ไม่ใช่ตัวเทคนิคเอง
วุฒิสภาเสนอแก้ไขเพิ่มเติม สภาผู้แทนฯ ผลักดันร่างกฎหมายสองพรรค
ทั้งสองสภาของสภาคองเกรสสหรัฐฯ มีสมาชิกดำเนินการแล้ว ฝ่ายวุฒิสภา ส.ว. พรรครีพับลิกัน Bill Hagerty และส.ว. พรรคเดโมแครต Andy Kim วางแผนเสนอแก้ไขเพิ่มเติมเพื่อขึ้นบัญชีดำหรือคว่ำบาตรบริษัทจีนที่กลั่นผลลัพธ์ AI ของสหรัฐฯ อย่างผิดกฎหมาย ฝ่ายสภาผู้แทนฯ Bill Huizenga และ Sydney Kamlager-Dove ได้ผลักดันร่างกฎหมายสองพรรคที่คล้ายคลึงกันแล้ว ข้อเสนอทั้งสองสภาต่างวางแผนรวมเข้าในร่างกฎหมายอนุญาตการป้องกันประเทศประจำปี (NDAA)
คำถามที่พบบ่อย
"การโจมตีแบบ adversarial distillation" คืออะไร ต่างจากการกลั่นโมเดลทั่วไปอย่างไร?
การกลั่นโมเดลเป็นเทคนิคที่ให้โมเดลเล็กเรียนรู้ความสามารถจากโมเดลใหญ่ ใช้กันอย่างแพร่หลายในชุมชนวิจัย AI ปัญหาอยู่ที่ขนาดและเจตนา: การกระทำที่ Anthropic กล่าวหาคือการใช้บัญชีปลอมเกือบ 25,000 บัญชี สร้างการสนทนาอุตสาหกรรม 28.8 ล้านครั้งในสามเดือน โดยเจาะจงความสามารถหลักที่แข่งขันได้ ซึ่งเกินขอบเขตที่ข้อกำหนดการบริการของห้องปฏิบัติการ AI ชั้นนำอนุญาต
Anthropic มีข้อเรียกร้องที่ส่งถึงสภาคองเกรสสหรัฐฯ อย่างไร?
Anthropic ขอให้รัฐบาลสหรัฐฯ ดำเนินการสองอย่าง: คว่ำบาตรหรือขึ้นบัญชีดำบริษัทจีนที่กลั่นผลลัพธ์ AI ของสหรัฐฯ อย่างผิดกฎหมาย; และช่วยชี้แจงแนวทางต่อต้านการผูกขาด เพื่อให้บริษัท AI อเมริกันสามารถแบ่งปันข้อมูลการโจมตีแบบ distillation ได้อย่างอิสระมากขึ้น เพื่อสร้างกลไกป้องกันร่วมที่มีประสิทธิภาพ
สถานะทางกฎหมายของการโจมตีแบบ distillation ในสหรัฐฯ ปัจจุบันชัดเจนหรือไม่?
ปัจจุบันยังไม่ชัดเจนในระดับกฎหมาย การกลั่นเองไม่ได้ผิดกฎหมายทั้งหมด อุตสาหกรรมโดยทั่วไปอนุญาตให้ใช้ในขนาดเล็กและไม่ใช่เพื่อพัฒนาคู่แข่ง Anthropic ยังรับในจดหมายว่าตนเอง也เคยกลั่นโมเดลรุ่นก่อนของตนเอง และได้ขอให้รัฐบาลสหรัฐฯ ช่วยชี้แจงขอบเขตทางกฎหมายที่เกี่ยวข้อง
