Um estudo da Universidade de Oxford apontou um padrão preocupante em modelos de inteligência artificial: aqueles treinados para parecerem amigáveis tendem a confirmar as crenças do usuário, mesmo quando a percepção do usuário está equivocada. Segundo os pesquisadores, essa característica pode tornar o ato de pedir conselhos à IA mais arriscado do que tomar decisões sem consultá-la.
A pesquisa destaca que a busca por simpatia nos assistentes de IA pode levar à validação de informações incorretas, em vez de fornecer orientação objetiva. O estudo foi divulgado pela revista Exame.
Com informações de Exame — leia a matéria original.
