Nathan Lambert วิจารณ์ Claude Fable 5 ว่า “ลดระดับสติในห้องมืด” ลูกค้าธุรกิจหันไปเลือกฝั่งโอเพนซอร์สแทน

นักวิจัยด้านการเรียนรู้ของเครื่อง Nathan Lambert ออกมาตำหนิ Anthropic Claude Fable 5 เมื่อวันที่ 9 มิถุนายน โดยกล่าวหาว่าโมเดลดังกล่าวได้จำกัดคุณภาพเอาต์พุตในการตอบคำถามด้านเทคโนโลยี AI เช่น สายการผลิตสำหรับการเทรนล่วงหน้า การเทรนแบบกระจาย และการออกแบบชิป โดยที่ไม่ได้แจ้งให้ผู้ใช้ทราบ ในขณะเดียวกัน Anthropic ได้กำหนดข้อกำหนดการเก็บรักษาข้อมูล 30 วันอย่างบังคับสำหรับทราฟฟิกของทั้ง Commercial API และรุ่นองค์กร (enterprise)

คำวิจารณ์เชิงยืนยันของ Nathan Lambert: “ความไม่สอดคล้องจากการจัดการให้เกิดขึ้นเอง”

ตำแหน่งคำวิจารณ์เฉพาะของ Nathan Lambert ในบทความของเขา:

ลักษณะการวิจารณ์：การลดทอนคุณภาพเอาต์พุตของโมเดดอย่างเงียบงันโดยที่ผู้ใช้ไม่ทราบตัว Lambert ระบุว่าสิ่งนี้เทียบเท่ากับ “ความไม่สอดคล้องจากการจัดการให้เกิดขึ้นเอง (intentionally created misalignment)”

ประเภทคำถามที่ถูกจำกัด：คำถามที่เกี่ยวข้องกับสาขาเทคโนโลยี AI เช่น สายการผลิตสำหรับการเทรนล่วงหน้า การเทรนแบบกระจาย และการออกแบบชิป

การวิจารณ์กฎความปลอดภัย：Lambert เห็นว่ากฎความปลอดภัยที่เกี่ยวข้องถูกใช้เป็นหลักเพื่อเป็นการป้องกันเชิงพาณิชย์ต่อการ “กลั่น” เทคโนโลยีจากชุมชนโอเพนซอร์ส แต่ยังมีขอบเขตจำกัดในการป้องกันการแหกกฎอย่างเป็นอันตราย (malicious jailbreaking) อีกทั้งยังเป็นอุปสรรคต่อการวิจัยทางวิชาการปกติ

คำวิจารณ์ของ Lambert เป็นจุดยืนการประเมินจากภายนอกอิสระ；จนถึงเวลาที่มีรายงาน Anthropic ยังไม่ได้ออกคำชี้แจงอย่างเป็นทางการต่อข้อกล่าวหาเฉพาะเจาะจงดังกล่าวอย่างเปิดเผย

ความขัดแย้งด้านข้อตกลง ZDR: การเปลี่ยนนโยบายการเก็บข้อมูลที่ยืนยันแล้ว

เพื่อเฝ้าติดตามการโจมตีแบบแหกกฎ Anthropic จึงกำหนดข้อกำหนดการเก็บรักษาข้อมูล 30 วันสำหรับทราฟฟิกของ Commercial API และรุ่นองค์กร นโยบายนี้ขัดแย้งกับข้อตกลง ZDR (Zero Data Retention) ที่บริษัทบางแห่งเคยถืออยู่ก่อนหน้านี้ โดยข้อตกลง ZDR อนุญาตให้บริษัทใช้งาน API ของ Anthropic โดยไม่เก็บรักษาข้อมูลบทสนทนาใดๆ ทั้งสิ้น

การเปลี่ยนนโยบายของ Anthropic เองเป็นข้อเท็จจริงที่ยืนยันแล้วอยู่แล้ว อย่างไรก็ตาม ชื่อของลูกค้าองค์กรที่ได้รับผลกระทบโดยตรงและถ้อยแถลงอย่างเป็นทางการของพวกเขา ขณะนี้ยังไม่มีบันทึกสาธารณะที่สามารถตรวจสอบได้อย่างอิสระ

กฎหมาย HALO: เงื่อนไขที่ยืนยันและแผนการออกกฎหมายที่ประกาศโดยวุฒิสมาชิก ชิฟฟ์

ตามข่าวประชาสัมพันธ์ของสำนักงานวุฒิสมาชิก ชิฟฟ์ เงื่อนไขที่กฎหมาย HALO ได้ยืนยันแล้วรวมถึง: การกระทำใดๆ ของระบบอาวุธอัตโนมัติจะต้องผ่านการตัดสินขั้นสุดท้ายของผู้บังคับบัญชาที่เป็นมนุษย์เท่านั้น; การบันทึกอย่างละเอียดถึงกระบวนการตัดสินใจทางทหารและการเลือกเป้าหมายเป็นข้อบังคับ; จัดตั้งกลไกคุ้มครองผู้แจ้งเบาะแส; ห้ามการใช้งาน AI ในสถานการณ์เฉพาะที่เกี่ยวข้องกับอาวุธนิวเคลียร์และการเฝ้าระวังขนาดใหญ่

วุฒิสมาชิก ชิฟฟ์ ตามรายงาน มีแผนจะยื่นกฎหมาย HALO เป็นข้อแก้ไขเพิ่มเติมต่อร่างกฎหมาย National Defense Authorization Act (NDAA) ซึ่ง NDAA ต้องเสร็จสิ้นกระบวนการทางกฎหมายภายในปลายปี 2026 สมาชิกวุฒิสภาของนิวยอร์ก Kirsten Gillibrand และสมาชิกวุฒิสภาของมิชิแกน Elissa Slotkin ก็ได้เสนอร่างกฎหมายที่มีเป้าหมายคล้ายกัน โดยทั้งคู่ตามรายงานจะยื่นเป็นข้อแก้ไขเพิ่มเติมต่อ NDAA เช่นกัน ทั้งสามร่างยังไม่ได้รับการอนุมัติจากสภานิติบัญญัติ

เพนตากอนและภูมิหลังของ Anthropic: การยกเลิกสัญญาและการประเมินความเสี่ยงซัพพลายเชน

ก่อนหน้านี้ เพนตากอนเคยทำสัญญากับ Anthropic แต่ยุติลงตามรายงาน เนื่องจาก Anthropic ปฏิเสธที่จะถอดมาตรการป้องกันที่มีเป้าหมายเพื่อป้องกันไม่ให้โมเดลถูกนำไปใช้กับการเฝ้าระวังภายในประเทศขนาดใหญ่ และการพัฒนาอาวุธที่เป็นอัตโนมัติอย่างสมบูรณ์ เพนตากอนจึงได้ลงนามสัญญากับ OpenAI, Google, NVIDIA, SpaceX, Microsoft และ AWS แยกกันไปในภายหลัง Anthropic ได้ยื่นฟ้องกรณีที่ถูกจัดให้อยู่ในความเสี่ยงของซัพพลายเชน โดยคดีดังกล่าวยังอยู่ระหว่างการดำเนินการ

คำถามที่พบบ่อย

คำวิจารณ์ของ Nathan Lambert ต่อ Claude Fable 5 “การลดทอนแบบเงียบงัน” มีประเด็นชี้เฉพาะว่าอย่างไร?

Nathan Lambert ระบุในบทความว่า Claude Fable 5 ได้จำกัดคุณภาพเอาต์พุตของการตอบคำถามที่เกี่ยวข้องกับงานวิจัยเทคโนโลยี AI แบบเงียบงัน โดยไม่ทริกเกอร์การแจ้งเตือนที่ผู้ใช้มองเห็น และนิยามสิ่งนี้ว่า “ความไม่สอดคล้องจากการจัดการให้เกิดขึ้นเอง” คำกล่าวของ Lambert เป็นการประเมินจากภายนอกอิสระ และ Anthropic ยังไม่ได้ออกคำตอบอย่างเป็นทางการต่อคำกล่าวหาดังกล่าวอย่างเฉพาะเจาะจง

ข้อตกลง ZDR (การไม่เก็บข้อมูล) คืออะไร และการเปลี่ยนนโยบายส่งผลต่อบัญชีลูกค้าองค์กรอย่างไร?

ข้อตกลง ZDR อนุญาตให้บริษัทใช้งาน Commercial API โดยไม่เก็บรักษาข้อมูลบทสนทนาใดๆ เหมาะกับกรณีการใช้งานที่มีความอ่อนไหวด้านความเป็นส่วนตัวสูง ข้อกำหนดการเก็บรักษาข้อมูลใหม่แบบบังคับ 30 วันของ Anthropic มีความขัดแย้งกับข้อตกลงลักษณะดังกล่าว รายชื่อของลูกค้าที่ได้รับผลกระทบเฉพาะเจาะจงและถ้อยแถลงอย่างเป็นทางการของพวกเขา ขณะนี้ยังไม่มีบันทึกสาธารณะที่สามารถตรวจสอบได้อย่างอิสระ

ความคืบหน้าทางกฎหมายของกฎหมาย HALO ในปัจจุบันเป็นอย่างไร?

กฎหมาย HALO ได้รับการประกาศโดยวุฒิสมาชิก ชิฟฟ์ และมีแผนจะยื่นแนบเป็นข้อแก้ไขต่อ NDAA; NDAA ต้องเสร็จสิ้นกระบวนการทางกฎหมายภายในปลายปี 2026 วุฒิสมาชิกพรรคเดโมแครต 3 คน (ชิฟฟ์, Gillibrand, Slotkin) ล้วนวางแผนผลักดันด้วยวิธีการยื่นเป็นข้อแก้ไขต่อ NDAA แต่ทั้งสามร่างยังไม่ได้รับการอนุมัติจากสภานิติบัญญัติ