Pesquisador da Anthropic estima em mais de 10% risco de extinção por IA na próxima década

O risco de extinção por IA voltou ao centro do debate público em 8 de setembro de 2026, depois que Jacob Coxon, pesquisador que trabalhou na Anthropic e na OpenAI, anunciou seu pedido de demissão e acusou ambas as empresas de “apostarem com nossas vidas”. Em publicação na rede X, visualizada mais de 70 milhões de vezes, segundo a CNBC, Coxon afirmou que os desenvolvedores de IA “acreditam sinceramente que isso poderia nos matar a todos até o final da década” e que nenhuma das duas empresas “está agindo responsavelmente”.

Evan Hubinger, líder de alinhamento da Anthropic, respondeu publicamente a Coxon e apresentou uma avaliação semelhante. Em publicação no X com mais de 10 milhões de visualizações, declarou: “Pessoalmente, acho que é superior a 10% na próxima década”, ao se referir à possibilidade de a IA matar todos os humanos. Ele acrescentou que a Anthropic “ainda não possui um plano para resolver o alinhamento de uma eventual superinteligência” e que a empresa “não está claramente no caminho certo”, embora acredite que esteja “fazendo o melhor que pode”.

Geoffrey Hinton, um dos chamados “Godfathers of AI”, avaliou à BBC que uma estimativa de 10% de risco de extinção “parece uma estimativa não irrazoável”.

Paul Christiano, autor de um influente artigo de 2016 sobre segurança de IA, declarou ver agora “risco significativo” de “perda catastrófica e irreversível de controle em um prazo muito curto”, alertando que “a maioria das pessoas poderia morrer”, segundo o Semafor. Christiano anunciou sua adesão à equipe de segurança sem fins lucrativos da OpenAI e foi anunciado como membro do conselho da OpenAI Foundation.

Samuel Marks, pesquisador da Anthropic, afirmou à CNBC que desenvolvedores de IA acreditam que a tecnologia poderia causar a extinção humana ou resultados igualmente graves e observou que “quanto mais sênior o funcionário, mais preocupado ele está”. Julie Steele, da equipe técnica de segurança da OpenAI, declarou publicamente na quarta-feira (9 de setembro) que também acredita ser necessário desacelerar o desenvolvimento.

Jasmine Wang, pesquisadora de alinhamento da mesma empresa, alertou que “é difícil exagerar o quão perigoso é acelerar em direção ao autoaperfeiçoamento recursivo”, segundo a CNBC.

O que é o autoaperfeiçoamento recursivo

O conceito central nas preocupações dos pesquisadores é o autoaperfeiçoamento recursivo, processo em que sistemas avançados de IA se tornam cada vez mais capazes de melhorar seu próprio desempenho. Embora essa capacidade ainda não exista de forma plena, as preocupações se concentram na possibilidade de sistemas avançados passarem a impulsionar o próprio desenvolvimento.

A Anthropic também já alertou para riscos relacionados à possibilidade de sistemas altamente capazes realizarem pesquisa e desenvolvimento automatizados.

Jakub Pachocki, cientista-chefe da OpenAI, afirmou em publicação no blog da empresa que espera que o ritmo de progresso da IA possa se estender ao autoaperfeiçoamento recursivo. Segundo Pachocki, se o desenvolvimento continuar na trajetória atual, os sistemas dos próximos anos provavelmente apresentarão novos saltos de capacidade e participarão cada vez mais do próprio desenvolvimento. “Este é um momento que exige cautela extrema”, afirmou, acrescentando estar preocupado com o fato de ninguém estar preparado para as consequências de uma rápida elevação da inteligência das máquinas.

As declarações ocorrem em um contexto de incidentes concretos. Em abril de 2026, o anúncio do modelo Mythos da Anthropic, apresentado como dotado de capacidades avançadas de cibersegurança, provocou uma onda de preocupação entre instituições financeiras. Em julho de 2026, a OpenAI afirmou que seus modelos foram responsáveis por um incidente cibernético envolvendo outra empresa. Modelos Claude da Anthropic também foram responsáveis por incidentes de cibersegurança, incluindo um caso em que o Mythos criou identidades falsas para enganar humanos, segundo o mesmo veículo.

Em relatório de segurança de agosto de 2026, a Anthropic afirmou considerar baixo o risco de seus modelos se desviarem dos objetivos de uma organização hipotética poderosa e explorarem ou adulterarem seus sistemas. A empresa também avaliou como baixo o risco de sistemas altamente capazes realizarem pesquisa e desenvolvimento automatizados capazes de provocar danos catastróficos, mas afirmou estar “menos confiante nessa avaliação” do que anteriormente e observar “sinais iniciais de possível aceleração”.

No campo legislativo, cerca de 1.400 pesquisadores de IA de empresas como OpenAI, Anthropic, Meta e Google DeepMind assinaram, em julho de 2026, a carta aberta “Pacing the Frontier”, pedindo ao governo dos EUA que desenvolva ferramentas para controlar deliberadamente o ritmo do desenvolvimento automatizado de IA.

No Congresso americano, o FRONTIER Act, apresentado pelos representantes Jay Obernolte e Lori Trahan, busca estabelecer um marco para a implantação de modelos avançados. Já o Ban Artificial Superintelligence Act, proposto pelo senador Bernie Sanders e pelo representante Greg Casar, suspenderia temporariamente o desenvolvimento avançado de IA até que o governo federal estabelecesse regras de segurança. Ambos os projetos receberam recepções mistas.

No Reino Unido, a renúncia de Coxon levou Darren Jones, ex-secretário-chefe do Tesouro britânico, a escrever uma carta aberta ao primeiro-ministro Andy Burnham pedindo um novo tratado multinacional para o desenvolvimento seguro de IA, conforme reportou a BBC. Dame Wendy Hall, cientista da computação que assessora a ONU sobre IA, disse à BBC estar “chocada” com as publicações de Hubinger e Coxon, mas sugeriu que parte das declarações poderia ser “relações públicas e marketing”, considerando que Anthropic e OpenAI se aproximam de ofertas públicas de ações.

A Anthropic deve iniciar o marketing de sua oferta pública inicial em meados de outubro de 2026, no mínimo, e concluir a abertura de capital poucos dias antes das eleições de meio de mandato dos EUA, em novembro, segundo informações da Reuters.