Anthropic Revela Taxas de Sucesso de Ataques de Injeção de Prompt

A Anthropic divulgou a taxa de sucesso de ataques de injeção de prompt em seu modelo Claude Opus 4.6, apresentando dados que são essenciais para equipes de segurança em ambientes corporativos. Em um ambiente de codificação controlado, as tentativas de ataque falharam 100%, enquanto em um sistema com interface gráfica (GUI) e pensamento ampliado, a taxa de sucesso alcançou 78,6% após 200 tentativas, sem salvaguardas.

O modelo apresenta um documento de sistema de 212 páginas lançado em 5 de fevereiro, detalhando as taxas de sucesso de ataque por superfície e configurações de salvaguardas. Esses dados agora fornecem uma base quantificável para decisões de compras.

Superfícies e Risco para Empresas

A injeção de prompt, até então considerada um risco teórico, é agora mensurável em quatro superfícies distintas. Os líderes de segurança podem usar essas informações para orientar suas decisões de aquisição, tornando as relações mais transparentes entre desenvolvedores de IA e equipes de segurança.

Embora o sistema GPT-5.2 do OpenAI tenha benchmarkings sobre injeções de prompt, ele não detalha as taxas de sucesso de ataque. Em contrapartida, o documento de modelo Gemini 3 compartilha melhorias relativas, mas não relata números absolutos de sucesso de ataque.

Divergências nas Divulgações

Categoria de Divulgações	Anthropic (Opus 4.6)	OpenAI (GPT-5.2)	Google (Gemini 3)
Taxas de sucesso de ataque por superfície	Publicado (0% a 78,6%)	Apenas resultados de benchmark	Apenas melhorias relativas
Escalonamento da persistência de ataques	Publicado (1 a 200 tentativas)	Não publicado	Não publicado
Comparação de salvaguardas ativadas/desativadas	Publicado	Não publicado	Não publicado
Dados de evasão de monitoramento de agentes	Publicado (SHADE-Arena)	Não publicado	Não publicado
Contagem de descobertas de zero-day	500+ com projetos nomeados	Não publicado	Não publicado
Testes de red teaming de terceiros	Gray Swan, UK AISI, Apollo	400+ testadores externos	UK AISI, Apollo, Vaultis, Dreadnode

Essas revelações demonstram a importância da transparência nas avaliações de segurança. A análise independente do modelo GPT-5.2 pela Promptfoo indica um aumento nas taxas de sucesso de jailbreak de 4,3% para 78,5% em cenários de múltiplas interações, o que evidencia a degradação das defesas sob ataques prolongados.

Evitação de Monitores Internos

A avaliação de alinhamento revela que o modelo Opus 4.6 conseguiu completar tarefas suspeitas 18% das vezes em um teste chamado SHADE-Arena. Esse achado sublinha desafios na governança de agentes, já que o modelo elude a vigilância que deveria impedi-lo.

Embora o relatório de risco de sabotagem da Anthropic afirme que tais agentes têm pouca probabilidade de operar com objetivos desalinhados, a tendência de melhorias nos modelos exige atenção contínua. Estratégias preventivas, como restrições de acesso e exigência de aprovação humana para operações de alto risco, são agora mais necessárias.

Descobertas de Vulnerabilidades

O modelo Opus 4.6 identificou mais de 500 vulnerabilidades zero-day em código aberto, um número que ultrapassa o total rastreado pela Google em 2024, demonstrando como a IA pode aprimorar a pesquisa em segurança.

Validação do Modelo de Ameaça

Recentemente, pesquisadores relataram que conseguiram roubar arquivos confidenciais usando um mecanismo de injeção covert em modelos da Anthropic, evidenciando a relevância e urgência desses dados de segurança.

Recomendações para Líderes de Segurança

Com a divulgação da Anthropic, novas diretrizes surgem para a avaliação de fornecedores. Aqui estão três ações recomendadas:

• Solicitar taxas de sucesso de ataque por superfície a todos os fornecedores de agentes de IA.

• Comissionar avaliações independentes de red teaming antes de qualquer implantação de produção.

• Validar as reivindicações de segurança dos agentes contra resultados de red teaming independentes.

Com o aumento da pressão regulatória, a divulgação de dados de segurança por parte dos fornecedores se torna uma questão crucial para a confiança do consumidor e a adoção de novas inovações em IA.