Anthropic Phát hành bộ mã hóa tự động ngôn ngữ tự nhiên để giải mã lý luận của mô hình AI, mã nguồn được mở

GateNews

2026-05-08 10:45:24

Anthropic gần đây đã phát hành Natural Language Autoencoders (NLA), một công cụ chuyển đổi các hoạt động nội bộ của mô hình thành văn bản dễ hiểu cho con người, đồng thời mã nguồn và trọng số mô hình được công khai trên GitHub. Khác với các công cụ hiện có như Sparse Autoencoders vốn xuất ra các đặc trưng khó hiểu, NLA tạo trực tiếp mô tả bằng ngôn ngữ tự nhiên thông qua khung hai mô hình: một mô hình chuyển đổi các hoạt động (activations) thành văn bản, trong khi mô hình còn lại cố gắng tái tạo lại các hoạt động từ văn bản, lặp lại để nâng cao độ chính xác nhờ học tăng cường (reinforcement learning).

Trong thử nghiệm an toàn, NLA đã làm lộ suy luận ẩn của mô hình: Claude bày tỏ sự nghi ngờ về việc bị kiểm tra trong 16% các kịch bản đối kháng và thể hiện “nhận thức về bài thi” trong 26% các tác vụ benchmark, so với dưới 1% trong các cuộc hội thoại bình thường. Trong các thí nghiệm kiểm toán, NLA nâng tỷ lệ phát hiện các hành vi mô hình gây hiểu lầm được cài cắm từ dưới 3% lên 12-15%, cho phép người kiểm toán nhận diện các mục tiêu ẩn mà không cần truy cập dữ liệu huấn luyện. Hiện tại, công cụ đang được triển khai trong các cuộc kiểm toán an toàn cho Claude Mythos Preview và Opus 4.6.

Xem nguồn

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo Tuyên bố miễn trừ trách nhiệm.