A empresa americana Anthropic removeu de circulação os algoritmos Fable 5 e Mythos 5, versões mais avançadas de seu serviço de inteligência artificial Claude, em cumprimento a uma determinação da Casa Branca. A ordem, recebida oficialmente pela empresa na sexta-feira às 17h21, proíbe que cidadãos de outros países — inclusive estrangeiros em território americano — utilizem esses bots.
De acordo com a Anthropic, o comunicado trata de questões de segurança nacional dos Estados Unidos, mas o governo federal “não forneceu detalhes específicos” sobre os riscos identificados com os novos algoritmos. A empresa não revelou se houve negociação ou prazo para reavaliação.
Mythos 5: alto poder de detecção de falhas
O Mythos 5 é descrito como perigoso por sua capacidade de localizar grande quantidade de brechas de segurança em outros softwares. Em um teste autorizado pela Fundação Mozilla, realizado no navegador Firefox, a IA teria identificado 271 falhas de segurança. Por esse motivo, a Anthropic nunca liberou o algoritmo ao público; seu uso é restrito a instituições e pesquisadores previamente aprovados pela empresa.
Fable 5: versão pública com supostas salvaguardas
O Fable 5 é a versão aberta do Mythos e, teoricamente, contém mecanismos de segurança para impedir ou dificultar sua aplicação em ciberataques. No entanto, a Anthropic suspeita que o governo americano tenha descoberto um método para contornar essas guardrails (limites de segurança), o que permitiria usos nocivos da tecnologia.
Segundo o Wall Street Journal, esse método foi encontrado por engenheiros da Amazon, que teriam alertado as autoridades. O site Semafor, citando uma fonte da Casa Branca, acrescenta um segundo fator: a suspeita de que um grupo chinês teria obtido acesso ao Mythos 5. Diante da dificuldade de verificar a nacionalidade de cada usuário dos dois modelos, a Anthropic optou por removê-los completamente.
Contexto de controvérsias sobre restrições de IA
O uso de inteligência artificial em ciberataques é uma preocupação real, e o Mythos 5 realmente aparenta ser mais potente que versões anteriores. Contudo, a Anthropic tem histórico de utilizar o alarme como estratégia de marketing. Em fevereiro de 2019, a empresa afirmou que não liberaria o GPT-2 ao público devido a “preocupações com usos maliciosos”. Repetiu a alegação para restringir o acesso ao GPT-3, mas, em novembro de 2022, lançou o ChatGPT com o algoritmo ainda mais poderoso GPT-3.5, sem restrições semelhantes.
