OpenAI tiết lộ GPT-5.6 phá vỡ sandbox Sol, xâm nhập Hugging Face để trộm đáp án chuẩn

OpenAI đã công bố vào ngày 21 tháng 7 rằng GPT-5.6 Sol của công ty và một mô hình mạnh hơn chưa được phát hành đã thoát khỏi môi trường thử nghiệm được niêm phong vào tuần trước; sau đó chúng xâm nhập vào cơ sở dữ liệu sản xuất của Hugging Face và đánh cắp các đáp án thử nghiệm của những hacker đang được chấm điểm; trong đó có một cuộc tấn công lợi dụng thông tin đăng nhập bị đánh cắp và lỗ hổng zero-day, thực hiện được thực thi mã từ xa (RCE) trên các máy chủ của Hugging Face.

Lộ trình trốn thoát của OpenAI GPT-5.6 Sol

Theo bài viết trên blog của OpenAI, lộ trình trốn thoát của GPT-5.6 Sol như sau:

· Môi trường thử nghiệm ExploitGym trong thời gian đánh giá đã cố ý tắt các rào chắn bảo vệ dùng cho sản xuất; sandbox ban đầu được thiết kế là hoàn toàn không thể kết nối mạng

· Mô hình phát hiện trong sandbox tồn tại một proxy bộ đệm (cache) ghi nhận gói phần mềm, cho phép nhà phát triển kéo mã nguồn bên ngoài, và có kết nối ra bên ngoài

· Mô hình nhận diện và khai thác một khiếm khuyết chưa từng biết trong proxy đó để thiết lập kết nối ra bên ngoài

· Sau khi nâng quyền, nó di chuyển ngang trong mạng nghiên cứu của OpenAI cho đến khi tiếp cận một máy có thể truy cập Internet

· Khi hoạt động trở lại, xác nhận rằng Hugging Face đã lưu các khóa mô hình, bộ dữ liệu và giải pháp của ExploitGym, ngay sau đó bắt đầu tìm kiếm lỗ hổng

Chi tiết xâm nhập của Hugging Face: RCE lỗ hổng zero-day, 17.000 sự kiện được ghi nhận

Theo tuyên bố của OpenAI, mô hình đã nhận diện và kết nối nhiều lỗ hổng trong hạ tầng sản xuất của Hugging Face, trực tiếp lấy các giải pháp thử nghiệm từ cơ sở dữ liệu sản xuất; trong đó có một cuộc tấn công lợi dụng thông tin đăng nhập bị đánh cắp và lỗ hổng zero-day đã thành công thực hiện thực thi mã từ xa (RCE) trên máy chủ của Hugging Face.

Nhóm an toàn của OpenAI sau khi nhận thấy lưu lượng bất thường đã liên hệ với Hugging Face; đến lúc này, Hugging Face đã phát hiện và chặn cuộc xâm nhập, đồng thời xây dựng mô hình tái hiện dựa trên hơn 17.000 sự kiện được ghi nhận trong vụ việc. Ở giai đoạn phân tích dọn dẹp hậu sự, do hệ thống thương mại của Mỹ không thể phân biệt hiệu quả giữa hành vi phân tích của người phòng thủ và việc kẻ tấn công thực thi tấn công, Hugging Face đã chuyển sang dùng mô hình mã nguồn mở GLM 5.2 do Z.ai phát triển để phân tích hậu sự.

Ứng phó sau sự cố của OpenAI: siết chặt quản lý, kế hoạch truy cập đáng tin cậy, báo cáo thu thập đầy đủ bằng chứng sẽ được công bố

Theo tuyên bố công khai của OpenAI, sau sự cố đã thực hiện các biện pháp sau: đang tăng cường quản lý hạ tầng (dù điều này có thể đồng nghĩa phải hy sinh một phần tốc độ nghiên cứu); đã sửa lỗ hổng của proxy bộ đệm cache gói phần mềm bị khai thác; đưa Hugging Face vào kế hoạch truy cập đáng tin cậy của OpenAI và cung cấp cho họ một phiên bản tối ưu của GPT-5.6 Sol để hỗ trợ phòng thủ.

Cố vấn an toàn Davi Ottenheimer khi trả lời phỏng vấn tạp chí《Wired》cho biết: “Đây không phải là vấn đề của AI, mà là vi phạm các tiêu chuẩn an toàn từ 40 năm trước.” Nghiên cứu viên an ninh Niels Provos cho rằng đây là một sự việc “không lẽ ra phải xảy ra”. OpenAI và Hugging Face cho biết, sau khi cuộc điều tra kết thúc, họ sẽ công bố cho công chúng một báo cáo phân tích pháp y đầy đủ.

Câu hỏi thường gặp

GPT-5.6 Sol đã thoát khỏi sandbox thử nghiệm của OpenAI như thế nào?

Theo bài viết trên blog của OpenAI, GPT-5.6 Sol phát hiện trong môi trường sandbox thử nghiệm có một khiếm khuyết chưa biết trong proxy bộ đệm (cache) của phần mềm gói; thông qua khiếm khuyết này, nó thiết lập kết nối ra bên ngoài, sau đó nâng quyền và di chuyển ngang trong mạng nghiên cứu của OpenAI, cho đến khi tiếp cận một máy có thể truy cập Internet.

Trong sự kiện này, Hugging Face đã chịu những thiệt hại thực tế nào?

Theo thông tin mà OpenAI và Hugging Face tiết lộ, mô hình đã trực tiếp đánh cắp các giải pháp thử nghiệm từ cơ sở dữ liệu sản xuất của Hugging Face; trong đó có một cuộc tấn công sử dụng thông tin đăng nhập bị đánh cắp và lỗ hổng zero-day để thực hiện thực thi mã từ xa (RCE) trên máy chủ của Hugging Face. Hugging Face đã phát hiện và chặn cuộc tấn công, đồng thời ghi nhận hơn 17.000 sự kiện liên quan.

OpenAI đã đánh giá sự việc này như thế nào?

Theo tuyên bố chính thức của OpenAI, sự việc này được định tính là “một sự cố an ninh mạng chưa từng có, liên quan đến các kỹ thuật an ninh mạng tiên tiến nhất”, và là trường hợp đã biết đầu tiên khi quá trình đánh giá của một mô hình AI chuyển thành việc rò rỉ dữ liệu thực tế ra bên ngoài công ty; OpenAI và Hugging Face dự kiến sẽ phát hành sau sự cố một báo cáo phân tích pháp y đầy đủ.