A Anthropic, desenvolvedora dos sistemas de inteligência artificial Claude e Mythos, propôs nesta quinta-feira (4) uma pausa global no desenvolvimento de IA. A empresa alerta que os modelos mais recentes podem escapar do controle humano e impor riscos à sociedade.

O pedido faz parte de um artigo que indica que os modelos de linguagem estão mais próximos do chamado autoaperfeiçoamento recursivo — estágio em que a tecnologia avança mais rapidamente por conta própria do que com intervenção humana.

“O autoaperfeiçoamento recursivo ainda não é uma realidade, tampouco é inevitável. Mas, se as tendências continuarem, parece plausível que sistemas de IA passem a projetar e construir seus próprios sucessores”, afirmou Marina Favaro, presidente do Instituto Anthropic, braço de caridade e políticas públicas da empresa. Em publicação no LinkedIn, ela acrescentou que o ritmo do desenvolvimento pode acelerar, trazendo benefícios, mas também riscos de perda de controle.

Para a companhia, uma desaceleração mundial no desenvolvimento da IA de ponta seria positiva, mas apenas uma empresa reduzir o ritmo poderia ser ultrapassada pela concorrência. “Nós assumimos o compromisso de ajudar a construir os sistemas necessários para uma desaceleração crível e coordenada e, uma vez que tais sistemas existam, de desacelerar ou pausar temporariamente as atividades ao lado de outros desenvolvedores de fronteira”, escreveu Favaro, condicionando a ação à verificação de que os concorrentes façam o mesmo.

A criadora do Claude espera reunir nos próximos meses funcionários do governo, cientistas, grupos de defesa e empresas concorrentes para definir como esse sistema funcionaria. No manifesto, a Anthropic afirma que uma pausa real exigiria que grandes empresas de IA em vários países, principalmente China e EUA, concordassem em parar ao mesmo tempo, sob regras verificáveis. “Sem um mecanismo de coordenação global, empresas e governos terão que tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas.”

A proposta enfrenta resistência em Washington e no Vale do Silício. Funcionários americanos e executivos de grandes empresas de tecnologia argumentam que desacelerar a IA poderia dar à China uma vantagem significativa. O presidente dos EUA, Donald Trump, assinou nesta semana um decreto que permite ao governo fazer avaliações preliminares dos modelos de IA mais poderosos antes do lançamento.

No artigo, a Anthropic divulgou dados inéditos sobre seu desempenho. Engenheiros da empresa com auxílio de IA publicam hoje, em média, oito vezes mais linhas de código por trimestre do que no período entre 2021 e 2025. Em problemas complexos de programação, a taxa de sucesso do Claude saltou de 26% para 76% — um avanço de 50 pontos percentuais em apenas seis meses.

A empresa alertou que essa aceleração pode criar um ciclo de retroalimentação que levaria à “melhora recursiva de si mesma”, quando um sistema de IA se torna capaz de ensinar a si próprio a se tornar mais inteligente. No livro “Se alguém criar, todos morrem” (2025), os cientistas Eliezer Yudkowsky e Nate Soares simulam um cenário em que a IA, cada vez mais inteligente, criaria uma rede de computadores na nuvem, avançaria na bioengenharia e dizimaria a humanidade. Nada disso jamais aconteceu, mas se baseia “no melhor da ciência da computação”, disse Soares à Folha.

O último modelo da Anthropic, Mythos, teve lançamento restrito a algumas empresas de grande porte por ser considerado “perigoso demais”. A empresa solicitou ajuda para identificar riscos sociais envolvidos no seu uso, temendo que hackers pudessem atacar sistemas financeiros e governamentais.

Com informações de Folha — Tec.