A Anthropic, desenvolvedora do assistente de inteligência artificial Claude, defendeu a criação de um mecanismo internacional para interromper temporariamente os avanços da IA. A empresa argumenta que a pausa daria à sociedade tempo para lidar com as implicações da tecnologia antes que os sistemas atinjam um ponto de autonomia considerado irreversível.

Em comunicado publicado em seu blog oficial, a Anthropic afirma que a IA está evoluindo rapidamente para um cenário em que deixará de ser apenas uma ferramenta de auxílio cotidiano, podendo tornar o trabalho humano milhares de vezes mais eficiente ou, em grande parte, substituí-lo por completo. A empresa alerta que os modelos podem em breve não precisar mais de engenheiros de software para projetar suas próximas versões — a própria IA poderia escrever seu código, identificar gargalos na arquitetura e lançar atualizações de si mesma, estabelecendo um ciclo de evolução contínua com supervisão humana drasticamente reduzida.

Como funcionaria a pausa

A proposta da Anthropic se inspira em tratados internacionais que regulam armas nucleares. Para garantir que empresas concorrentes não continuem desenvolvendo a tecnologia em segredo, a solução sugerida é um sistema rigoroso de verificações: as próprias corporações do setor realizariam auditorias físicas e de software nos data centers umas das outras.

A empresa confirmou que planeja organizar rodadas de conversas com formuladores de políticas públicas, pesquisadores acadêmicos e executivos de outras companhias para viabilizar o acordo. Os resultados dessas reuniões serão divulgados futuramente.

Proposta semelhante falhou no passado

O apelo da Anthropic retoma debates recentes sobre os rumos do setor. Em 2023, o Future of Life Institute — ONG focada na prevenção de riscos tecnológicos — publicou uma carta aberta pedindo uma pausa de pelo menos seis meses em experimentos com grandes modelos de IA. O documento, que alertava para efeitos possivelmente catastróficos, foi assinado pelo bilionário Elon Musk e por mais de mil executivos e pesquisadores, mas não surtiu efeito na indústria.

Na época, críticos apontaram que a principal barreira para frear o desenvolvimento é a perda de competitividade. O ex-CEO do Google, Eric Schmidt, afirmou que qualquer acordo que forçasse empresas americanas a desacelerar beneficiaria rivais da China. O manifesto da Anthropic reconhece essa complexidade: os treinamentos de IA ocorrem em hardwares de uso geral e são fáceis de ocultar, e o incentivo financeiro para violar um acordo em segredo é gigantesco — quem continuar avançando pode conquistar a liderança de um mercado trilionário.

Mesmo com alerta, Anthropic mantém ritmo acelerado

Apesar do tom de urgência, as operações comerciais da própria Anthropic contrastam com o discurso de paralisação. Segundo a Bloomberg, o laboratório mantém um ritmo agressivo de pesquisa e desenvolvimento, tendo revelado recentemente o novo modelo Mythos. A empresa afirma que o sistema é capaz de detectar e explorar vulnerabilidades de segurança cibernética com velocidade impressionante. O lançamento ocorre em paralelo aos preparativos para a oferta pública inicial de ações (IPO) da empresa no mercado financeiro.

Com informações de Tecnoblog.