Theo Beating, OpenRouter đã ra mắt công cụ tác nhân agentic phía máy chủ 'openrouter:subagent' để thử nghiệm phiên bản beta, cho phép các mô hình ngôn ngữ lớn ủy nhiệm các tác vụ con cho các mô hình thay thế nhỏ hơn, rẻ hơn và nhanh hơn trong quá trình tạo nội dung. Khi mô hình chính gặp các tác vụ độc lập không cần đầy đủ năng lực của nó—chẳng hạn như tóm tắt tài liệu, trích xuất dữ liệu dạng cấu trúc, soạn thảo theo mẫu và định dạng văn bản—nó có thể gọi công cụ bằng cách chỉ định tên tác vụ và mô tả. Tác vụ được ủy nhiệm sẽ được thực thi bởi một mô hình worker, sau đó trả kết quả lại cho mô hình chính để tích hợp.
Các mô hình worker có thể là bất kỳ mô hình nào được OpenRouter hỗ trợ và sẽ kế thừa mô hình chính nếu không được chỉ định rõ. Chúng có thể truy cập các công cụ phía máy chủ như tìm kiếm web và trích xuất dữ liệu từ web để thực hiện lập luận nhiều bước trước khi tạo đầu ra cuối cùng. Để ngăn việc đệ quy vô hạn và vượt chi phí do các lệnh gọi lồng nhau, OpenRouter đã triển khai hai cơ chế bảo vệ: cấm tự tham chiếu trong định nghĩa công cụ và áp đặt độ sâu lồng tối đa thông qua các header của yêu cầu, đồng thời giới hạn tổng số lần thực thi tác vụ cho mỗi yêu cầu API.
Tin tức liên quan