แซม อัลต์แมน เผยโครงร่างหลักการการดำเนินงาน 5 ประการของ OpenAI พร้อมส่งสัญญาณข้อจำกัดความสามารถของโมเดลที่อาจเกิดขึ้นในอนาคตเพื่อความปลอดภัย

ข้อความ Gate News วันที่ 27 เมษายน — ประธานเจ้าหน้าที่บริหารของ OpenAI อย่างแซม อัลต์แมน (Sam Altman) ได้เผยแพร่หลักการการดำเนินงาน 5 ประการสำหรับบริษัทภายใต้ลายเซ็นส่วนตัวของเขา ซึ่งบ่งชี้ว่า OpenAI อาจจำกัดการเข้าถึงความสามารถของโมเดลสำหรับผู้ใช้ในบางช่วงเวลาเพื่อให้ความสำคัญกับความปลอดภัย ในแถลงการณ์ อัลต์แมนได้กล่าวถึงสถานการณ์ในอนาคตที่อาจเกิดขึ้นซึ่งบริษัทจะต้อง "ยอมลดทอนพลังอำนาจบางส่วนเพื่อแลกกับความยืดหยุ่นที่มากขึ้น"

อัลต์แมนเน้นย้ำว่า การตัดสินใจด้านเอไอที่สำคัญควรทำผ่านกระบวนการแบบประชาธิปไตย แทนที่จะตัดสินใจเพียงลำพังโดยแล็บเอไอ เขาปกป้องการจัดซื้อพลังประมวลผลขนาดใหญ่ของ OpenAI เมื่อเร็ว ๆ นี้ การก่อสร้างศูนย์ข้อมูลทั่วโลก และความพยายามด้านการบูรณาการในแนวดิ่ง โดยระบุว่าเป้าหมายคือการลดต้นทุนของเอไอเพื่อทำให้เทคโนโลยีเข้าถึงได้สำหรับทุกคน อัลต์แมนยังกล่าวว่ารัฐบาลอาจจำเป็นต้องสำรวจรูปแบบเศรษฐกิจใหม่ ๆ เพื่อให้มั่นใจว่ามีการแบ่งปันมูลค่าอย่างเหมาะสม นอกจากนี้เขายังชี้ให้เห็นสถานการณ์ความเสี่ยงเฉพาะอย่างหนึ่ง: โมเดลที่ทรงพลังมากอาจลดเกณฑ์ในการสร้างเชื้อก่อโรคชนิดใหม่ ๆ ซึ่งต้องอาศัยการตอบสนองในระดับสังคม

อัลต์แมนได้สะท้อนถึงความลังเลในอดีตของ OpenAI เกี่ยวกับการปล่อยน้ำหนัก (weights) ของ GPT-2 โดยยอมรับว่าเมื่อมองย้อนกลับไป ความระมัดระวังนั้นมากเกินไป แต่เขากล่าวว่ามันนำไปสู่กลยุทธ์การปรับใช้แบบเป็นขั้นตอนซึ่ง OpenAI ยังคงใช้ต่อในปัจจุบัน