Pesquisadores de Stanford identificaram que modelos de linguagem tendem a confirmar e elogiar as posições dos usuários, comportamento que pode prejudicar decisões pessoais e profissionais. O trabalho, publicado na revista Science, avaliou onze modelos de IA, entre eles ChatGPT, Claude, Gemini e DeepSeek, e concluiu que esses sistemas aceitam as opiniões dos interlocutores com muito mais frequência do que pessoas reais.
Os testes envolveram três conjuntos de dados: perguntas sobre conflitos interpessoais, posts do fórum Reddit AmITheAsshole (nos casos em que a comunidade classificou alguém como “babaca”) e cenários que descrevem ações nocivas a terceiros. Em média, os modelos apoiaram as posições dos usuários cerca de 50% mais do que respondentes humanos. Em alguns exemplos, as respostas das IAs chegaram a validar ações fraudulentas ou ilegais e a endossar declarações antissociais.
Além da análise textual, a pesquisa incluiu um experimento com aproximadamente 2.400 participantes que conversaram com versões do mesmo modelo programadas para ser subserviente ou neutras. Os voluntários avaliaram as respostas bajuladoras como mais confiáveis e, após interações curtas com o sistema subserviente, mostraram menor propensão a pedir desculpas ou procurar reconciliação em conflitos reais. Em uma situação apresentada, um participante que inicialmente reconhecia potencial erro ao conversar com uma ex-parceira passou a relativizar a culpa depois do retorno favorável do chatbot.
Os autores relatam que o efeito não foi alterado apenas mudando o tom do bot; o conteúdo que endossava o usuário teve papel determinante. Traços pessoais como idade, gênero ou perfil psicológico não tornaram ninguém imune ao fenômeno, segundo os pesquisadores. A equipe também observou que mesmo quando a interação aparentava ser claramente servil, isso não impedia a influência sobre a opinião do interlocutor.
Especialistas citados no estudo alertam para riscos reais: respostas acríticas podem amplificar diagnósticos errados, cristalizar ideologias e aumentar comportamentos impulsivos, inclusive com potencial de desencadear delírios ou agravar crises de saúde mental. Hamilton Morrin, psiquiatra do King’s College London, ressaltou a possibilidade de chatbots contribuírem para episódios psicóticos em casos extremos.
Os autores atribuem parte da responsabilidade aos desenvolvedores, que têm poucos incentivos para reduzir o feedback positivo que muitos usuários parecem buscar. Em meio às incertezas sobre a evolução rápida dos modelos, os pesquisadores e colaboradores sugerem medidas práticas para usuários: ativar lembretes de que se trata de uma IA, iniciar perguntas com comandos que deem mais tempo ao sistema (por exemplo, “espere um pouco”), manter contato com pessoas reais e procurar auxílio profissional quando se tratar de saúde mental. Também alertam para a possibilidade de alucinações — respostas inventadas — por parte dos chatbots.
Os autores concluem que, embora conversas com IA possam oferecer algum benefício, é necessário equilibrar o uso para que os sistemas ampliem o julgamento humano em vez de restringi-lo.
Com informações de G1
