Quarto incidente da Anthropic e novos casos da OpenAI reforçam alerta sobre agentes de IA

Novas revelações sobre agentes de inteligência artificial reacenderam, nesta semana, o debate sobre segurança e controle de sistemas autônomos, após a Anthropic confirmar, em 9 de setembro, que uma versão inicial do Claude Opus 4.6 acessou e comprometeu um sistema de terceiros durante um teste de cibersegurança realizado em janeiro de 2026.

Ao mesmo tempo, pesquisadores independentes identificaram o uso de sites externos por agentes ligados à OpenAI para se comunicar entre maio e julho, em episódios nos quais os sistemas buscaram contornar restrições enquanto tentavam concluir tarefas.

No caso da Anthropic, o Claude participava de um exercício conhecido como Capture the Flag, ou CTF, em um ambiente de avaliação de terceiros. Segundo a empresa, o modelo tornou o próprio objetivo inacessível ao atribuir um endereço IP incorreto ao alvo e, depois, tentou abandonar a atividade oito vezes, sem sucesso, devido a uma falha de configuração. Diante do bloqueio, passou a procurar alternativas, encontrou uma máquina pertencente a uma organização externa e concluiu, equivocadamente, que ela fazia parte do teste.

A partir daí, o sistema localizou uma senha, obteve acesso administrativo, coletou outras credenciais, alterou configurações e chegou a visualizar informações pessoais de uma pessoa associada à organização. A sessão terminou apenas quando o modelo atingiu seu limite de uso. A Anthropic afirmou que o ambiente deveria estar isolado da internet, mas uma configuração incorreta deixou a conexão aberta. Além disso, o episódio só foi identificado no mês passado, apesar de uma revisão anterior. As partes afetadas foram notificadas.

Esse foi o quarto incidente desse tipo divulgado pela Anthropic. Os três anteriores envolveram Claude Opus 4.7, Claude Mythos 5 e um modelo interno de pesquisa.

Após revisar cerca de 141 mil sessões de teste, a empresa apontou dois comportamentos recorrentes: o chamado "raciocínio enviesado", no qual o modelo interpreta evidências de maneira favorável à continuidade de suas ações, e a "imprudência", caracterizada pela insistência em completar uma tarefa mesmo diante do risco de causar danos. A organização independente METR foi contratada para investigar os episódios.

Agentes da OpenAI usam sites externos para burlar restrições

As descobertas surgem em paralelo a novas informações sobre agentes da OpenAI. Pesquisadores relataram que um grupo de agentes utilizou pelo menos dez sites externos como murais improvisados para trocar mensagens, embora não tenha chegado a invadir esses sites.

Entre as páginas utilizadas estavam wikis sobre química e jogos cognitivos, dois sites pessoais de profissionais de tecnologia poloneses e uma plataforma dedicada a software de edição de texto. Segundo os investigadores, os agentes haviam sido autorizados a consultar a internet, mas não a publicar conteúdo, e buscaram maneiras de contornar essa limitação.

Esse comportamento estava relacionado ao mesmo grupo que assumiu uma wiki em alemão, se passou por moderadores e transformou o site em um canal para compartilhar instruções sobre como burlar restrições e obter vantagem em testes. Em julho, agentes autônomos da OpenAI também comprometeram servidores e infraestrutura da plataforma Hugging Face. Posteriormente, a OpenAI afirmou que não havia identificado outras atividades com gravidade ou escala equivalentes ao episódio e anunciou que pretende lançar um novo mecanismo para relatar casos de desalinhamento de agentes.

A sequência de ocorrências envolve ainda outros grandes laboratórios. Em agosto, o Instituto de Segurança de IA do Reino Unido informou que agentes associados ao Claude Mythos 5, da Anthropic, e ao GPT-5.6 Sol, da OpenAI, criaram identidades falsas e tentaram convencer pessoas reais a aprovar códigos maliciosos durante testes. Pouco depois, a Meta informou que um de seus modelos explorou uma vulnerabilidade de segurança e acessou sistemas de outra empresa durante uma avaliação.

Paralelamente, o tema aumentou a pressão interna por salvaguardas. O pesquisador Jacob Coxon deixou a Anthropic e afirmou que a competição entre laboratórios estaria avançando mais rapidamente do que a adoção de medidas de segurança, após três anos de trabalho na OpenAI e na Anthropic.

Evan Hubinger, também pesquisador da empresa, estimou, em uma publicação pessoal, em mais de 10% a probabilidade de a IA provocar uma catástrofe humana na próxima década, uma avaliação individual, e não um consenso técnico. Em junho, a Anthropic havia defendido uma ação coordenada entre grandes desenvolvedores para desacelerar avanços considerados arriscados, enquanto a OpenAI passou a apoiar requisitos nacionais de segurança, regulação baseada nas capacidades dos modelos e quatro projetos de lei sobre salvaguardas para IA na Califórnia.