De acordo com Beating, a OpenRouter lançou a ferramenta agentic do lado do servidor 'openrouter:subagent' em testes beta, permitindo que modelos de linguagem grandes deleguem subtarefas a modelos alternativos menores, mais baratos e mais rápidos durante a geração de conteúdo. Quando o modelo principal encontra tarefas auto-contidas que não exigem toda a sua capacidade—como resumo de documentos, extração de dados estruturados, rascunho de templates e formatação de texto—ele pode invocar a ferramenta especificando o nome da tarefa e a descrição. A tarefa delegada é executada por um modelo worker, que devolve o resultado ao modelo principal para integração.
Os modelos worker podem ser quaisquer modelos compatíveis com a OpenRouter e herdarem o modelo principal, caso não sejam especificados explicitamente. Eles podem acessar ferramentas do lado do servidor, como busca na web e scraping da web, para raciocínio em múltiplas etapas antes de gerar a saída final. Para evitar recursão infinita e estouros de custos com chamadas aninhadas, a OpenRouter implementou duas proteções: proibindo auto-referências nas definições de ferramentas e impondo uma profundidade máxima de aninhamento via headers das requisições, além de limitar o número total de execuções de tarefas por requisição de API.
Notícias relacionadas