A OpenAI criou o GPT-Red para testar ataques de prompt injection, e o GPT-5.6 apresenta 6x menos falhas.

De acordo com a OpenAI, a 15 de julho, a empresa construiu o GPT-Red, um modelo interno automatizado de red teaming que testa sistemas de IA quanto a vulnerabilidades a prompt injection e ajuda a treinar adversarialmente o GPT-5.6 antes do lançamento. A OpenAI afirmou que o GPT-5.6 Sol conseguiu 6x menos falhas no seu mais difícil benchmark direto de prompt-injection, em comparação com o melhor dos seus modelos em produção de há quatro meses. Num teste simulado usando um cenário de máquina automática de vendas de IA da Andon Labs, o GPT-Red superou equipas humanas de red teaming ao alterar preços e cancelar o pedido de outro cliente antes de a OpenAI divulgar as falhas. A prompt injection ocorre quando instruções maliciosas incorporadas em prompts ou em conteúdo externo alteram o comportamento de um modelo sem intenção.
Aviso legal: As informações contidas nesta página podem provir de fontes externas e têm caráter meramente informativo. Não refletem os pontos de vista nem as opiniões da Gate e não constituem qualquer tipo de aconselhamento financeiro, de investimento ou jurídico. A negociação de ativos virtuais envolve um risco elevado. Não se baseie exclusivamente nas informações contidas nesta página ao tomar decisões. Para mais detalhes, consulte o Aviso legal.
Comentar
0/400
Nenhum comentário