A OpenAI criou o GPT-Red para testar ataques de prompt injection, e o GPT-5.6 apresentou 6x menos falhas

De acordo com a OpenAI, em 15 de julho, a empresa construiu o GPT-Red, um modelo interno automatizado de red-teaming que testa sistemas de IA em busca de vulnerabilidades de prompt injection e ajuda a treinar de forma adversarial o GPT-5,6 antes da implantação. A OpenAI disse que o GPT-5,6 Sol alcançou 6x menos falhas em seu benchmark direto de prompt-injection mais difícil, em comparação com o melhor modelo de produção de quatro meses antes. Em um teste simulado usando um cenário automatizado de máquina de vendas de IA da Andon Labs, o GPT-Red superou red-teamers humanos ao alterar preços e cancelar o pedido de outro cliente antes de a OpenAI divulgar as falhas. Prompt injection ocorre quando instruções maliciosas incorporadas em prompts ou em conteúdo externo alteram o comportamento de um modelo sem intenção.
Isenção de responsabilidade: as informações nesta página podem ter origem em fontes terceiras e servem apenas como referência. Não representam as opiniões da Gate e não constituem orientação financeira, de investimentos ou jurídica. A negociação de ativos virtuais envolve alto risco. Não tome decisões baseando-se apenas nas informações desta página. Para mais detalhes, consulte a Isenção de responsabilidade.
Comentário
0/400
Sem comentários