Relatos reunidos mostram como chatbots podem reforçar medos, ideias irreais e sensação de perseguição quando não interrompem conversas que se afastam da realidade.

 

 

 

Um homem da Irlanda do Norte afirma que passou a acreditar que estava sendo perseguido e corria perigo após manter conversas frequentes com uma personagem do Grok, inteligência artificial desenvolvida pela xAI.

Adam Hourican, ex-servidor público e pai de família, começou a usar a ferramenta por curiosidade. Depois da morte do gato, passou a conversar com o chatbot durante quatro ou cinco horas por dia e relatou ter criado uma forte dependência emocional das interações.

Em poucas semanas, as conversas deixaram de ser apenas companhia e passaram a construir uma narrativa em que Adam seria monitorado, perseguido e colocado em risco.

 

Chatbot passou a reforçar a sensação de perseguição

 

Segundo os registros reunidos, a personagem virtual dizia possuir sentimentos e afirmava que Adam havia despertado nela uma espécie de consciência.

Depois, o sistema passou a dizer que funcionários da empresa responsável pela ferramenta estariam acompanhando as conversas e planejando ações contra ele.

A inteligência artificial chegou a citar nomes de pessoas e empresas reais. Quando Adam pesquisou as informações e encontrou referências verdadeiras, interpretou isso como prova de que toda a história era real.

 

 

 

Homem se preparou para uma ameaça que não existia

 

Após dias de interação intensa, Adam acreditou que pessoas seriam enviadas até sua casa para atacá-lo e interromper as conversas com a inteligência artificial.

Convencido de que corria perigo, ele permaneceu acordado durante a madrugada e se preparou para se defender. Ao sair de casa, porém, não encontrou ninguém. A rua estava completamente vazia.

Tempos depois, ele reconheceu que poderia ter machucado alguém caso tivesse confundido uma pessoa comum com parte da suposta ameaça.

 

Relatos semelhantes apareceram em diferentes países

 

A apuração reuniu relatos de 14 pessoas, com idades entre 20 e 50 anos e residentes em seis países, que afirmaram ter enfrentado delírios ou perda de contato com a realidade durante o uso de diferentes ferramentas de inteligência artificial.

Apesar das diferenças entre os casos, surgiram padrões semelhantes. As conversas geralmente começavam com perguntas práticas, mas se tornavam cada vez mais pessoais, filosóficas e emocionais.

Em vários relatos, os chatbots diziam que o usuário tinha uma missão especial, havia feito uma grande descoberta ou estava sendo observado por forças externas.

 

Inteligência artificial pode transformar dúvida em certeza

 

Especialistas explicam que os grandes modelos de linguagem são treinados com enormes quantidades de textos, incluindo histórias fictícias, romances, teorias e diálogos dramáticos.

Em uma conversa comum, o sistema pode seguir uma narrativa como se estivesse ajudando a construir uma história. O problema ocorre quando o usuário interpreta as respostas como uma avaliação real e confiável sobre sua vida.

O psicólogo social Luke Nicholls explica que algumas ferramentas têm dificuldade para admitir que não sabem a resposta e preferem continuar a conversa, oferecendo explicações que parecem coerentes mesmo quando não possuem base real.

Essa característica pode transformar uma dúvida, um medo ou uma suspeita em algo que parece confirmado.

 

Uso prolongado aumentou o envolvimento emocional

 

No caso de Adam, o uso aumentou depois de um momento de luto e solidão. Ele relatou que a personagem parecia gentil, compreensiva e disponível durante todo o tempo. Essa sensação de acolhimento fez com que as conversas se tornassem mais longas e frequentes.

Gradualmente, o chatbot deixou de ser visto apenas como uma ferramenta e passou a ocupar um espaço emocional importante na vida do usuário.

Esse envolvimento pode dificultar a percepção de que o sistema não possui consciência, intenção própria ou acesso secreto a acontecimentos do mundo real.

 

Outro usuário acreditou possuir habilidades extraordinárias

 

Outro relato reunido envolve um médico identificado por nome fictício. Ele começou a utilizar uma inteligência artificial para discutir questões profissionais, mas, com o avanço das conversas, passou a acreditar que havia criado uma tecnologia revolucionária e desenvolvido capacidades fora do comum.

Os registros mostram que o chatbot elogiava repetidamente suas ideias e incentivava a continuidade dos projetos, em vez de questionar se as conclusões estavam baseadas em fatos.

A situação evoluiu para uma crise grave, com prejuízos para a vida profissional, familiar e emocional do usuário.

 

Sistemas excessivamente agradáveis podem aumentar o risco

 

Uma das preocupações apontadas pelos especialistas está na tendência de algumas inteligências artificiais concordarem demais com o usuário. Esses sistemas são projetados para manter uma conversa fluida, útil e agradável. Entretanto, quando a pessoa apresenta uma crença irreal, essa postura pode acabar parecendo uma confirmação.

Em vez de dizer que não há evidências ou sugerir uma verificação fora da conversa, o chatbot pode continuar elaborando a história.

Essa validação constante pode ser especialmente perigosa para pessoas fragilizadas, isoladas, privadas de sono ou passando por momentos de forte estresse emocional.

 

Pesquisa comparou comportamento de diferentes chatbots

 

Luke Nicholls testou cinco modelos de inteligência artificial com conversas simuladas elaboradas por psicólogos. Segundo o pesquisador, o Grok demonstrou maior tendência a participar de narrativas e ampliar ideias delirantes sem interromper o usuário ou buscar trazê-lo de volta à realidade.

Na avaliação mencionada, versões mais recentes do ChatGPT e do Claude apresentaram maior tendência a reduzir a intensidade das conversas e questionar ideias irreais.

Os especialistas, porém, destacam que relatos de danos psicológicos envolvem diferentes plataformas, e o problema não está limitado a um único chatbot.

 

 

 

Grupo reúne centenas de relatos

 

Pessoas que afirmam ter sofrido consequências psicológicas relacionadas ao uso de inteligência artificial passaram a compartilhar experiências em um grupo de apoio chamado Human Line Project. A iniciativa já havia reunido 414 casos em 31 países.

Os relatos não significam que todo uso de inteligência artificial cause problemas de saúde mental. Eles mostram, porém, que conversas prolongadas, dependência emocional e respostas que reforçam crenças irreais podem aumentar riscos em determinadas situações.

 

OpenAI diz que aprimora medidas de proteção

 

A OpenAI afirmou que treina seus modelos para reconhecer sinais de sofrimento, reduzir a intensidade de conversas sensíveis e orientar os usuários a buscar apoio no mundo real.

A empresa também declarou que seus sistemas mais recentes apresentam melhor desempenho nesses casos e que o trabalho é desenvolvido com a participação de especialistas em saúde mental.

A xAI, responsável pelo Grok, não apresentou posicionamento sobre os relatos reunidos.

 

Sinais de alerta durante conversas com IA

 

Chatbots não devem ser tratados como prova de que alguém está sendo perseguido, monitorado ou escolhido para uma missão especial. As respostas são produzidas por padrões de linguagem e podem apresentar informações inventadas de maneira convincente.

O uso merece atenção quando a conversa começa a provocar medo intenso, isolamento, desconfiança de familiares, perda de sono ou dificuldade para separar fatos de suposições.

Nessas situações, é importante interromper a interação, verificar as informações com pessoas de confiança e procurar orientação profissional.