A nova ciência da manipulação social

O excelente livro de Giuliano da Empoli"Os Engenheiros do Caos" oferece uma análise das consequências directas das capacidades algorítmica na manipulação e direção das nossas reacções.

A física do fogo

A fórmula é simples: todos os dias são publicados na Internet milhões de comentários e notícias; os que recebem mais reacções são desconstruídos, analisados, destilados em concentrados cada vez mais eficazes e depois melhorados, promovidos e amplificados à medida que os dados sobre os participantes se acumulam.

No espaço de alguns anos, analistas perspicazes conseguem desenvolver não um programa político coerente, mas uma força que pode ser dirigida à vontade, amplificada ou mudar de direção, desde que encontre o combustível para a alimentar: frustração, raiva e indignação. Não há que preocupar-se com a exatidão, a verdade ou mesmo a verosimilhança - só a reação interessa.

Estes analistas estão em posição de controlar o fenómeno e oferecem os seus serviços a quem paga mais, seja Trump, Bolsonaro, Salvini ou muitos outros, que não têm qualquer utilidade para as instituições que representam um poder e um sistema descritos como desiguais e elitistas, elementos que exploram em seu proveito, amplificando-os. A Cambridge Analytica é apenas uma anedota no desenvolvimento desta indústria.

"É o algoritmo"

A orientação de um algoritmo parece bastante nebulosa para a maioria das pessoas - eis um exemplo: "Sempre que vir alguém de chapéu e pasta, anote o local e a temperatura." Atualmente, com a inteligência artificial, podemos ir muito mais longe e anotar todo o contexto, com dados estruturados ou não.

Quando se acumulam dados suficientes, surge uma imagem impressionista e podemos orientar acções com base nessa imagem, como enviar mensagens úteis a pessoas com chapéus e pastas, ou oferecer-lhes serviços, actividades ou produtos no momento certo.

É isto que fazem as redes sociais e os motores de busca. Não se preocupam com possíveis enviesamentos porque os seus dados provêm da nossa atividade real; não assumem qualquer responsabilidade. O facto de quase todas as pessoas de chapéu e pasta serem brancas, ricas e viverem no mesmo tipo de bairro não lhes diz respeito. Não estão programados para reduzir as desigualdades, mas sim para "serem úteis onde compensa". É esse o algoritmo. Vendem os seus serviços a quem lhes der mais; o leilão é o seu modus operandi.

Podiam assumir as suas responsabilidades quando vendem os seus serviços, mas também não o fazem. Podem detetar que um utilizador mudou de cidade durante o fim de semana e sugerir um restaurante local que se adeqúe aos seus gostos, mas afirmam ser incapazes de identificar um vigarista em série, de reconhecer uma fraude notória ou uma notícia falsa difamatória, mesmo que esta lhes seja repetidamente comunicada. Não dispõem de um algoritmo para o efeito. A procura do lucro máximo é a sua programação fundamental, não a do bem público. Em 2026, chegou-se ao julgamento Musk-Altman precisamente com base nesse princípio.

Retomar o controlo

Os regimes autoritários, as autocracias, as máfias, os pornógrafos e outros exploradores das fraquezas humanas seriam insensatos se não utilizassem as novas possibilidades que lhes são oferecidas; indivíduos sem escrúpulos põem estes algoritmos a trabalhar para eles, minando tanto as democracias como as conquistas sociais.

Estas novas ferramentas são capazes de identificar os pontos de manipulação de populações inteiras sem qualquer consideração ética ou preocupação com o bem público ou mesmo com o futuro. A exacerbação das reacções conduz sistematicamente a um frenesim destrutivo. A história está cheia disto e até uma I.A. é capaz de o explicar, se lhe pedirmos.

A Google mudou o seu slogan de "Não sejas mau" para "Faz o que está certo"; a sua dificuldade é definir o que é "certo". O slogan da Meta, "Be bold", passou a ser "Live in the future", sem indicar a que visão do futuro se refere (a sua própria?). A Byte Dance (Inspire Creativity, Enrich Life), a Alibaba (Global trade starts here), a Apple (Think different) apresentam a sua orientação geral mas, em todos os casos, estes grandes princípios são amargamente debatidos no Conselho de Administração (CA) e estão sistematicamente e sem exceção sujeitos ao diktat da rentabilidade para os accionistas. O algoritmo de base continua a ser a rendibilidade a curto prazo. A rentabilidade óptima teria em conta o bem-estar da humanidade, na medida do previsível e dentro de parâmetros que não os puramente financeiros.

A Open AI, a empresa que colocou o "bem-estar da humanidade" no centro da sua missão, acolheu finalmente grandes investidores no seu conselho de administração, o que gerou uma crise atípica. A sua missão "sem fins lucrativos" resistirá ao apelo comercial? Será que vai simplesmente externalizar os aspectos lucrativos e preservar uma fachada de virgindade? Não podemos deixar este tipo de decisão à boa vontade de algumas pessoas que controlam estes instrumentos.

A resposta daUnião Europeia ao controlo da I.A. está a ser preparada, tal como a de várias democracias. Os princípios gerais são bem conhecidos e têm por objetivo responsabilizar os operadores destes sistemas a todos os níveis.

Só na educação, as implicações são numerosas, quanto mais não seja na correção dos exames, na orientação profissional, na seleção para um estágio ou no acesso a um programa de formação. A justiça, o comércio, as infra-estruturas, o emprego, o ambiente, etc., não são poupados.

A sociologia, a filosofia e a maior parte das ciências sociais têm muito trabalho a fazer e muitos temas a estudar quando se trata do efeito da tecnologia nas nossas vidas. Não se trata de travar o progresso, mas sim de garantir que há progresso para toda a sociedade, e que este não se define apenas em termos financeiros e digitais.

Ilustração: Apophis26 - DepositPhotos

Referências

Os engenheiros do caos - Giuliano da Empoli
https://www.decitre.fr/livres/les-ingenieurs-du-chaos-9782073019240.html

Connards malgré nous - Como manter a inteligência perante a manipulação emocional - Olivier Bas
https://www.decitre.fr/livres/connards-malgre-nous-9782100817450.html

Cambridge Analytica - Wikipédia - https://fr.wikipedia.org/wiki/Scandale_Facebook-Cambridge_Analytica

Musk accuses Altman of stealing a charity as courtroom battle begins - Lily Jamali - BBC 
https://www.bbc.com/news/articles/cz027nyz529o

Direito da IA - União Europeia
https://digital-strategy.ec.europa.eu/fr/policies/regulatory-framework-ai

Impacto social da IA generativa: benefícios e ameaças - Unite AI
https://www.unite.ai/fr/impact-social-des-avantages-et-des-menaces-de-l%E2%80%99IA-g%C3%A9n%C3%A9rative/

Ética na inteligência artificial: impactos significativos - Le bon digital
https://lebondigital.com/lethique-dans-lintelligence-artificielle-des-impacts-non-negligeables/

Os novos slogans da Meta não estão a impressionar os especialistas em branding - ou os veteranos do metaverso - TNW - Thomas Macaulay
https://thenextweb.com/news/metas-new-values-arent-impressing-branding-experts-or-metaverse-veterans

Apresentação da OpenAI - Declaração de missão
https://openai.com/blog/introducing-openai

OpenAI: "Esta não foi uma batalha empresarial comum" - Chloé Sondervorst - Radio-Canada
https://ici.radio-canada.ca/nouvelle/2030752/openai-bataille-entreprise-chatgpt-gillian-hadfield

---

Veja mais artigos deste autor