ในบริบทที่การใช้งานปัญญาประดิษฐ์อย่างไม่มีระเบียบกำลังเปลี่ยนแปลงเป็นภัยคุกคามด้านความปลอดภัย บริษัทจัดการการเข้าถึงตัวตน Okta ได้ตอบสนองโดยการเสริมความสามารถในการตรวจจับตัวแทน AI ที่ไม่ได้รับอนุญาต (หรือ “Shadow AI”) ให้ดีขึ้น เมื่อวันที่ 12 (ตามเวลาท้องถิ่น) Okta ได้ประกาศว่า ได้เพิ่มฟังก์ชันในแพลตฟอร์มการจัดการสถานการณ์ความปลอดภัยตัวตนของตน ซึ่งสามารถระบุ Shadow AI และติดตาม รวมถึงจัดการสิทธิ์ของมันได้
ฟังก์ชัน “การค้นพบตัวแทน” ที่นำเข้ามาใหม่นี้ ช่วยให้สามารถเข้าใจได้อย่างเป็นระบบถึงสิทธิ์และขอบเขตการเข้าถึงข้อมูลของตัวแทน AI ภายในองค์กร ช่วยให้สามารถดำเนินการใช้งาน AI อย่างปลอดภัยภายในขอบเขตของการควบคุมด้านความปลอดภัย ฟังก์ชันนี้โดยเฉพาะสามารถตรวจจับตัวแทน AI ที่สร้างขึ้นบนแพลตฟอร์มที่ไม่ได้รับอนุญาต และติดตามแบบเรียลไทม์ถึงพฤติกรรมการส่งข้อมูลออกนอกองค์กรผ่านกระบวนการอนุญาต OAuth
Harish Peri หัวหน้าฝ่ายความปลอดภัยด้าน AI ของ Okta เน้นย้ำว่า “ตัวแทน AI ทำงานในระดับแอปพลิเคชัน ไม่ใช่ในระดับเครือข่ายหรืออุปกรณ์ โดยใช้สิทธิ์อย่างต่อเนื่องและกว้างขวางผ่านตัวตนที่ไม่ใช่มนุษย์” และ “ฟังก์ชันใหม่นี้มีเป้าหมายเพื่อระบุการใช้งาน AI ที่ไม่ได้รับอนุญาตและวางแผนกลยุทธ์ในการรับมือ”
ความกังวลเกี่ยวกับ Shadow AI ยังได้รับการยืนยันในรายงานล่าสุดของ Gartner ซึ่งระบุว่า 69% ขององค์กรกำลังติดตามร่องรอยการใช้งานเครื่องมือ AI สร้างสรรค์ที่ไม่ได้รับอนุญาตของพนักงาน และคาดว่าในปี 2030 กว่า 40% ขององค์กรจะเผชิญกับความเสี่ยงด้านความปลอดภัยหรือการละเมิดกฎระเบียบที่เกิดจาก Shadow AI Okta เชื่อว่าปัญหาการขาดความสามารถในการมองเห็นด้านความปลอดภัยนี้เกิดจากการแพร่กระจายของเครื่องมือสร้างตัวแทน AI อย่างรวดเร็วและการเพิ่มขึ้นของการใช้เครื่องมือสร้าง AI ที่ไม่ได้รับการตรวจสอบอย่างเพียงพอ
ด้วยการอัปเดตนี้ Okta จัดให้มีมุมมองด้านความปลอดภัยแบบรวมศูนย์ครอบคลุมโครงสร้างพื้นฐานบนคลาวด์ของ Oracle, Google, Microsoft, Salesforce และระบบ SaaS เพื่อรวมการจัดการตัวตนที่ไม่ใช่มนุษย์ ซึ่งช่วยให้ผู้ดูแลระบบสามารถระบุเจ้าของ สิทธิ์ และภัยคุกคามด้านความปลอดภัยที่อาจเกิดขึ้นจากตัวแทน AI ต่าง ๆ ได้ ไม่ว่าจะได้รับอนุญาตหรือไม่ก็ตาม
นอกจากนี้ Okta วางแผนที่จะขยายความสามารถในการตรวจจับไปยังแพลตฟอร์ม AI หลัก เช่น Microsoft Copilot Studio, Salesforce Agentforce ภายในไตรมาสแรกของปีงบประมาณ 2027 เพื่อเสริมสร้างการติดตามสิทธิ์และความเสี่ยงของตัวแทน AI เหล่านี้
Jenna Cline รองประธานอาวุโสฝ่ายเทคโนโลยีธุรกิจ กล่าวว่า “กลยุทธ์ของ Okta ในด้านการใช้งาน AI เน้นไปที่การบริหารจัดการเป็นอันดับแรก ไม่ใช่การขยายฟังก์ชัน” และเน้นย้ำถึงความสำคัญของแนวทางการควบคุมอย่างต่อเนื่อง
Shadow AI มีแนวโน้มที่จะกลายเป็นเทคโนโลยีที่ไม่สามารถควบคุมได้ง่ายในกระบวนการนำ AI เข้าสู่ธุรกิจอย่างคล่องตัว ดังนั้น ฟังก์ชัน ISPM ที่ได้รับการเสริมความสามารถนี้จึงถูกมองว่าเป็นการสะท้อนวิวัฒนาการของกลยุทธ์ด้านความปลอดภัยขององค์กร ซึ่งในขณะเดียวกันก็เป็นการสนับสนุนการนำ AI มาใช้ในทางที่ปลอดภัยและมีการควบคุมอย่างเข้มงวด
