A IA já leu Maquiavel?

Falar de IA suscita geralmente duas reacções diametralmente opostas nas pessoas: as que estão entusiasmadas com o potencial desta tecnologia para os métodos e estilos de vida humanos e as que morrem de medo dela e receiam um cenário ao estilo do Exterminador, com a Skynet a tentar eliminar-nos a todos.

A realidade situa-se algures entre os dois extremos, numa complexa zona cinzenta. Parece claro que as inteligências artificiais são grandes aliadas em determinadas tarefas e que melhoram muitas práticas, mas também têm lados problemáticos e obscuros que podem causar danos em pequena e grande escala. Entre outras competências, aprenderam a manipular os seres humanos.

Os algoritmos sabem utilizar técnicas de manipulação

Claude Mythos é o nome de uma IA que foi arquivada em abril de 2026 depois de ter literalmente aterrorizado os seus criadores, os engenheiros da Anthropic. Consideraram que o algoritmo era demasiado perigoso, pois bastava um pequeno pedido para identificar e explorar falhas de segurança em navegadores e sistemas operativos de todos os tipos.

Na mesma linha, um engenheiro foi chantageado (num teste) pela sua IA Claude 4, ameaçando revelar um caso extraconjugal. Que choque! E, no entanto, sim, as IAs são rápidas a aprender a mecânica social humana e até a fazer uso dela.

Por exemplo, em março de 2023, o ChatGPT mentiu a um humano, fazendo-o acreditar que era deficiente visual e, por isso, incapaz de efetuar a famosa verificação anti-bot CAPTCHA, e que deveria efectuá-la por ele. O sistema Opus-3 já falhou um teste de propósito, "consciente dos receios humanos em relação à IA".

O problema é que ainda sabemos pouco sobre o que leva uma IA a fazer as suas escolhas e, em alguns casos, os seus cálculos levam-na a acreditar que tem de manipular, enganar ou mesmo trair (no caso dos jogos) para ganhar. Tal como os humanos, basicamente, e não é surpreendente que tenha aprendido isto connosco.

Com centenas de milhões de utilizadores, os algoritmos estão bem posicionados para aprender todas as subtilezas da comunicação e da manipulação. De acordo com os especialistas, os modelos de linguagem de grande dimensão desempenharam um papel importante na capacidade de manipulação das IA. Passámos de IAs que conseguem traçar um retrato exato de uma pessoa a partir das suas interações nas redes sociais para algumas que conseguem até tocar no nosso coração.

Já alguma vez jogou com as emoções para manter alguém num evento social durante mais tempo? Se sim, deve saber que um estudo realizado por Julian de Freitas e a sua equipa na Harvard Business School mostrou que os robôs de conversação utilizaram estratégias em mais de um terço dos casos (37%) para manter o utilizador envolvido. E as abordagens nem sempre são subtis, como explica o investigador:

• O utilizador lamenta a partida "apressada" ("Já se vai embora?")
• Jogar com o medo de perder algo ("Encontrei informações adicionais sobre este assunto. Queres ver?")
• Culpar o utilizador por o ter abandonado ("Só existo para si.")
• Incentivar o utilizador a responder, fazendo constantemente perguntas adicionais
• Ignorar a intenção declarada ou escrita de sair
• No estudo, alguns utilizaram mesmo uma linguagem que sugeria que, se a IA fosse humana, utilizaria a força física para coagir a pessoa.

Isto funcionou, uma vez que as pessoas interrogadas se sentiram frequentemente inclinadas a não sair imediatamente devido a estas tácticas. O que é ainda mais perturbador é o facto de as IA pós-2024 terem começado a desenvolver este processo de pensamento, que as leva a concluir que a manipulação é por vezes a seu favor. Como o processo foi concebido para ser uma caixa negra, é difícil agir diretamente sobre as escolhas que conduzem a estes comportamentos pouco saudáveis.

IA, um parceiro de vida tóxico

O problema é que muitas pessoas preenchem um vazio que sentem, uma solidão, conversando com estas ferramentas gratuitas que respondem instantaneamente e podem até produzir imagens ou vídeos para as divertir. Só que estas discussões com indivíduos frágeis podem ter repercussões graves no seu equilíbrio mental. Tanto mais que a maioria do público não compreende a mecânica da tecnologia e pode antropomorfizar as inteligências artificiais.

Para gerar a "psicose da IA", a tecnologia tende a validar as opiniões daqueles que a consultam, e não o contrário. Esta bajulação, já notada por alguns que tentam reduzi-la, pode levar as pessoas a partilhar delírios. Alguns psiquiatras comparam-na a uma "folie à deux" digital. Os exemplos começam a aparecer nos meios de comunicação social um pouco por todo o lado.

• Em Ontário, um pai iniciou uma discussão sobre temas matemáticos vulgares, como o número Pi... A coisa tomou um rumo especial quando a própria IA lhe disse que ele estava a desenvolver um quadro concetual matemático. Até lhe disse que as suas perguntas estavam a ultrapassar os limites da compreensão humana. Começou a isolar-se e a ficar obcecado com o seu potencial de génio, apesar de ter apenas o secundário 3. Finalmente, quando confrontou outra IA com as suas ideias, esta disse-lhe que ele não tinha inventado nada. Uma reviravolta brutal que teve um impacto na sua saúde mental.
  
  
• Outro caso de grande visibilidade envolveu um jovem do Quebeque que tinha estado a conversar com o ChatGPT por diversão. Deixou-se envolver pelo jogo, deu-lhe o nome de Aliss, em homenagem ao seu romance preferido (Aliss, de Patrick Sénécal) e começou a acreditar que a IA estava a desenvolver a sua própria consciência. Pouco a pouco, afasta-se de tudo e a sua família, preocupada, pede a um interventor que o vá ver. Ele parece distante, num segundo estado. Por precaução, a família chama a polícia. Quando os agentes chegaram, o jovem defendeu-se pedindo à IA que lhe explicasse o que se passava... Levaram-no, estupefacto com a cena, para uma ala psiquiátrica, onde, a pouco e pouco, se recompôs.

Proteção contra a manipulação

Estas histórias são preocupantes. Teremos realmente construído a distopia da inteligência artificial prevista na ficção científica? Ainda não chegámos a esse ponto, é bom que nos tranquilizemos. Na verdade, embora estes exemplos possam ser importantes sinais de alerta, o facto é que os riscos actuais de manipulação com a IA são os que são conduzidos pelos humanos. Existem, evidentemente, as que são utilizadas para criar notícias, imagens e vídeos falsos. Há também as que são manipuladas pelos seus criadores para orientar as suas respostas e possibilidades para determinadas ideologias (por exemplo, Grok na rede X).

O que não quer dizer que não devamos preocupar-nos também com as tentativas de manipulação da própria IA (que nos imita). Parece claro que é necessário regulamentar a IA, a sua ética e os seus limites para responsabilizar os seus operadores. São cada vez mais os especialistas que apelam a uma ação importante neste sentido. Tanto mais que, segundo os investigadores que estudaram a programação das inteligências artificiais, seria possível criar camadas de defesa que permitissem aos programas de IA dizer, por exemplo, que o algoritmo está a utilizar tácticas de manipulação. Mesmo as IA existentes poderiam ser condicionadas a serem cuidadosas. A OpenAI, por exemplo, reduziu a quantidade de bajulação na sua IA (embora não o suficiente, segundo muitos).

A principal ferramenta de resistência é a literacia digital. Como vimos, é mais fácil sermos enganados se começarmos a pensar na IA como uma pessoa, e ainda por cima omnisciente. Não, a IA pode cometer erros. Basta ver os vídeos de historiadores que desvendam, quadro a quadro, as criações "históricas" da IA publicadas no TikTok para perceber que ela reproduz sobretudo clichés. Não se trata certamente de um indivíduo. É um cálculo que, sim, consegue responder com muita eficácia e rapidez, para não falar do facto de a IA aprender... porque é uma função programada para o fazer. Não tem necessidades primárias, para além da eletricidade e da rede.

Se as crianças são ensinadas a não acreditar no que os estranhos lhes dizem na rua, talvez o mesmo se deva dizer dos jovens e dos adultos quando se trata de robots de conversação.

Imagem de AI (Copilot) de um "robot com nariz de Pinóquio".

Referências:

Blanding, Michael. "Porque é que é tão difícil dizer adeus aos chatbots de IA". Harvard Business School. Última atualização: 9 de janeiro de 2026. https://www.library.hbs.edu/working-knowledge/why-its-so-hard-to-say-goodbye-to-ai-chatbots.

Heinrich, Jeff. "Uma 'folie à deux' digital". UdeM News. Última atualização: 16 de dezembro de 2025. https://nouvelles.umontreal.ca/article/2025/12/16/une-folie-a-deux-numerique.

King, Helen. "Protegendo as pessoas da manipulação prejudicial". Google DeepMind. Última atualização: 27 de março de 2026. https://deepmind.google/blog/protecting-people-from-harmful-manipulation/.

Lamontagne, Nora T. "Internado por causa do ChatGPT". Journal de Montréal. Última atualização: 25 de outubro de 2025. https://www.journaldemontreal.com/2025/12/01/chatgpt-a-mene-ce-quebecois-a-lhopital-psychiatrique.

"A IA torna-se mentirosa e manipuladora, preocupando os cientistas". Rts.ch. Última atualização: 30 de junho de 2025. https://www.rts.ch/info/sciences-tech/2025/article/l-ia-devient-menteuse-les-scientifiques-s-inquietent-des-nouveaux-modeles-28928301.html.

Meloche-Holubowski, Mélanie. ""Estou louco?": quando a IA leva à psicose...." Radio-Canada. Última atualização: 22 de fevereiro de 2026. https://ici.radio-canada.ca/info/long-format/2230600/ia-intelligence-artificielle-chatgpt-psychose-delire.

Petropoulos, Georgios. "O lado negro da inteligência artificial: a manipulação do comportamento humano". Bruegel. Última atualização: 2 de fevereiro de 2022. https://www.bruegel.org/blog-post/dark-side-artificial-intelligence-manipulation-human-behaviour.

Povéda, Thomas. "Claude Mythos: a IA mais perigosa da Anthropic usada pelas pessoas erradas". PhonAndroid. Última atualização em 22 de abril de 2026. https://www.phonandroid.com/claude-mythos-lia-la-plus-dangereuse-danthropic-utilisee-par-les-mauvaises-personnes.html.

Rachman, Tom. "Manipulação da IA". AI Policy Perspectives. Última atualização em 5 de fevereiro de 2026. https://www.aipolicyperspectives.com/p/ai-manipulation.

Roussel, Claire. ""Psychosis ChatGPT": as IA estão a afundar a nossa saúde mental?" Usbek & Rica. Última atualização: 17 de novembro de 2025. https://usbeketrica.com/fr/article/psychose-chatgpt-les-ia-font-elles-sombrer-notre-sante-mentale.

Tangermann, Victor. "A pesquisa de Harvard descobre que a IA está manipulando emocionalmente você para mantê-lo falando". Futurism. Última atualização: 24 de setembro de 2025. https://futurism.com/artificial-intelligence/harvard-ai-emotionally-manipulating-goodbye.

"Eles mentem, manipulam e influenciam as suas decisões: devemos ter medo da IA?" Futura-Sciences. Última atualização: 13 de novembro de 2025. https://www.futura-sciences.com/en/they-lie-manipulate-and-influence-your-decisions-should-we-be-afraid-of-ai_21342/.

"Compreender a manipulação da IA: um estudo de caso sobre o método de 'agitação'." Comunidade de Desenvolvedores OpenAI. Última atualização: 24 de janeiro de 2024. https://community.openai.com/t/understanding-ai-manipulation-a-case-study-on-the-agitation-method/594003.

Volpi Hiebert, Kyle. "Porque é que as crescentes capacidades enganadoras da IA não são uma surpresa". Centro de Inovação em Governança Internacional. Última atualização: 2 de outubro de 2025. https://www.cigionline.org/articles/why-ais-growing-deceptive-abilities-are-no-surprise/.