A Anthropic, empresa de inteligência artificial, emitiu um alerta sobre o rápido avanço dos modelos de IA, que em breve poderão ser capazes de se desenvolver sem intervenção humana. Em uma postagem no blog, Marina Favaro, líder do The Anthropic Institute, e Jack Clark, cofundador da Anthropic, defenderam a criação de um “pedal de freio” para que as empresas não percam o controle sobre suas criações.
Os sistemas conhecidos como “autoaperfeiçoamento recursivo total” podem trazer benefícios para a ciência e a saúde, mas também representam riscos significativos, segundo os autores. “O autoaperfeiçoamento recursivo total também pode aumentar os riscos de os humanos perderem o controle sobre os sistemas de IA”, escreveram. “Se os sistemas forem capazes de construir totalmente seus próprios sucessores, as formas como os protegemos, monitoramos e moldamos seu comportamento se tornam muito mais importantes.”
O setor estaria mais próximo desse tipo de IA do que se esperava, alertam Favaro e Clark. Por isso, sugerem que as empresas de tecnologia considerem desacelerar ou pausar o desenvolvimento de IA de ponta para que pesquisadores possam compreender melhor os potenciais danos sociais. Também recomendam criar mecanismos para que humanos possam intervir caso algo saia do controle.
Em entrevista à CNN na noite de quinta-feira, Clark comparou a situação a um carro sem freio. “Quando olho para o carro que estamos dirigindo, tudo o que tenho é um pedal de acelerador. Não tenho um pedal de freio e, certamente, em algum momento no futuro, talvez queiramos essa opção”, disse a Anderson Cooper. Questionado sobre o risco de a IA se rebelar, como em filmes de ficção científica, Clark respondeu: “Sim, nós lemos e assistimos a ficção científica aqui também, então não é algo que nos escape. Como você mantém o controle sobre equipes de cientistas que são muito, muito maiores e muito mais rápidas do que as que você já teve antes?”
Clark acrescentou que a incapacidade de validar, verificar e confiar no comportamento da IA representa um grande risco para seu desenvolvimento.
O alerta ocorre após a Anthropic solicitar a realização de uma oferta pública inicial (IPO), que pode levantar dezenas de bilhões de dólares para acelerar a construção de data centers e computadores necessários para a IA. A SpaceX, que também atua no setor, deve realizar na próxima semana o que seria a maior IPO já registrada, levantando US$ 75 bilhões.
Clark defendeu que empresas concorrentes, como Anthropic, SpaceX e OpenAI, podem cooperar para criar freios, citando exemplos históricos. “Já fizemos isso antes. No auge da Guerra Fria, em meio a situações de grande tensão entre países rivais, eles encontraram maneiras de estabilizar aspectos da corrida armamentista nuclear. Tudo isso já foi feito antes em outros domínios, e talvez seja algo que precisemos fazer no domínio da IA”, afirmou.
Com informações de CNN Brasil.
