La nouvelle science de la manipulation sociale

L'excellent livre de Giuliano da Empoli «Les ingénieurs du chaos» propose une analyse des conséquences directes des capacités algorithmiques dans la manipulation et l'orientation de nos réactions.

Physique de l'incendie

La formule est simple : des millions de commentaires et de nouvelles sont publiées chaque jour dans Internet; celles qui reçoivent le plus de réactions sont décortiquées, analysées, distillées en des concentrés de plus en plus efficaces et ensuite améliorées, promues, amplifiées à mesure que les données s'accumulent sur les participants.

En quelques années, des analystes perspicaces arrivent à développer non pas un programme politique cohérent mais une force qui peut être orientée à volonté, amplifiée ou changée de direction tant qu'elle trouve du combustible pour l'alimenter : frustration, colère et indignation. Pas besoin de s'occuper d'exactitude, de vérité ou même de vraisemblance, seule la réaction compte réellement.

Ces analystes en mesure de contrôler le phénomène proposent leurs services aux plus offrants, qu'ils s'appellent Trump, Bolsonaro, Salvini et bien d'autres, qui n'ont que faire des institutions représentatives d'un pouvoir et d'un système qualifié d'inégalitaire et élitique, éléments qu'ils exploitent à leur avantage en l'amplifiant. Cambridge Analytica n'est qu'une anecdote dans le développement de cette industrie.

«C'est l'algorithme»

Orienter un algorithme semble bien nébuleux pour la plupart des gens.  Voici un exemple :  «À chaque occurrence de quelqu'un avec un chapeau et une mallette, tu notes le lieu et la température.» Aujourd'hui, avec l'intelligence artificielle on peut aller beaucoup plus loin et noter tout le contexte, données structurées ou non.

Quand suffisamment de données sont accumulées un portrait impressionniste se dessine et on peut orienter des actions en fonction de ce portrait, comme de diffuser des messages utiles aux gens avec chapeau et mallette ou leur proposer services, activités ou produits au bon moment.

C'est ce que font les réseaux sociaux et les moteurs de recherche. Ils ne se préoccupent pas des biais éventuels puisque que leurs données sont issues de notre activité réelle; ils n'assument aucune responsabilité. Que presque tous les gens avec un chapeau et une mallette soient blancs, riches et habitent le même genre de quartier ne les concerne pas. Ils ne sont pas programmés pour réduire les inégalités mais «pour être utile là où ça rapporte». C'est l'algorithme. Ils vendent leurs services au plus offrant, l'enchère est leur mode d'opération.

Ils pourraient assumer leurs responsabilités lorsque justement ils vendent leurs services, mais ils ne le font pas non plus. On ne peut que les y contraindre.  Ils peuvent détecter qu'un utilisateur a changé de ville pour la fin de semaine et lui proposer un restaurant local dans ses goûts, mais ils prétendent être incapables d'identifier un escroc en série, de reconnaître une escroquerie notoire ou une fausse nouvelle diffamante même si elle leur est signalée à répétition. Ils n'ont pas d'algorithme pour ça et ça ne les intéresse pas. La recherche du profit maximal est leur programmation fondamentale.

Une reprise en main

Les régimes autoritaires, les autocraties, les mafias, les pornographes et autres profiteurs des faiblesses humaines utilisent sans retenue les nouvelles possibilités qui leur sont proposées; des individus sans scrupules mettent ces algorithmes à leur service et mettent à mal aussi bien les démocraties que les acquis sociaux.

Ces nouveaux outils sont capables d'identifier les points de manipulation de populations entières sans aucune considération éthique ni souci de bien public ou même du futur. L'exacerbation des réactions mène systématiquement à une frénésie destructive. L'Histoire est remplie de ces périodes où tout souci éthique disparait; même une I.A. peut en rendre compte si on lui demande. 

• Google a changé son slogan «Don't be evil» (Ne pas être malveillant) pour «Do the right thing» (Faire ce qui est juste), sa difficulté est de définir ce qui est «juste».
• Le «Be bold» (Soyez audacieux) de Meta est devenu «Live in the future» (Vivez au futur), sans indiquer de quelle vision du futur il s'agit (la sienne?).
• Byte Dance (Inspire Creativity, Enrich Life),
• Alibaba (Global trade starts here),
• Apple (Think different) présente son orientation générale

et dans tous les cas ces grands principes sont âprement débattus dans les conseils d'administrations (CA) et sont systématiquement et sans exception soumis au diktat de la rentabilité pour les actionnaires.

L'algorithme de base demeure la rentabilité à court terme. L'orientation optimale considèrerait le bien être de l'humanité aussi loin que l'on puisse prédire et dans d'autres paramètres que uniquement financiers.

Open AI, la compagnie qui a justement mis «le bien être de l'humanité» au coeur de sa mission a finalement accueilli les grands investisseurs au sein de son CA, ce qui a généré une crise atypique. Sa mission «à but non lucratif» va t'elle résister à l'appel commercial ? Va t'on simplement sous-traiter les aspects rentables et préserver une virginité de façade ? On ne peut pas laisser ce genre de décision au bon vouloir de quelques personnes au contrôle de ces outils.  En 2026 on en est arrivé au procès Musk - Altman justement sur ce principe.

La réponse de l'Union européenne au contrôle de l'I.A. est en gestation ainsi que celle de plusieurs démocraties. Les principes généraux sont connus et visent à rendre imputables les opérateurs de ces systèmes, à tous les niveaux.

Seulement en éducation, les implications sont nombreuses, ne serait-ce que dans la notation aux examens, l'orientation professionnelle. la sélection à un stage ou à l'accès à un programme de formation. Justice, commerce, infrastructures, emploi, environnement, etc. pas un domaine n'est épargné.

La sociologie, la philosophie et la plupart des sciences sociales ont bien du travail sur la planche et beaucoup de sujets d'études en ce qui concerne l'effet des technologies sur nos vies. Il ne s'agit pas de freiner le progrès mais de s'assurer qu'il y en aura un pour toute la société et qu'il ne soit pas défini qu'en termes financiers et numériques.

Illustration : Apophis26 - DepositPhotos

Références

Les ingénieurs du chaos - Giuliano da Empoli
https://www.decitre.fr/livres/les-ingenieurs-du-chaos-9782073019240.html

Connards malgré nous - Comment rester intelligents face à la manipulation de nos émotions - Olivier Bas
https://www.decitre.fr/livres/connards-malgre-nous-9782100817450.html

Cambridge Analytica - Wikipédia - https://fr.wikipedia.org/wiki/Scandale_Facebook-Cambridge_Analytica

Musk accuses Altman of stealing a charity as courtroom battle begins - Lily Jamali - BBC 
https://www.bbc.com/news/articles/cz027nyz529o

Loi sur l’IA - Union européenne
https://digital-strategy.ec.europa.eu/fr/policies/regulatory-framework-ai

Impact social de l'IA générative : avantages et menaces - Unite AI
https://www.unite.ai/fr/impact-social-des-avantages-et-des-menaces-de-l%E2%80%99IA-g%C3%A9n%C3%A9rative/

L’éthique dans l’intelligence artificielle : des impacts non-négligeables - Le bon digital
https://lebondigital.com/lethique-dans-lintelligence-artificielle-des-impacts-non-negligeables/

Meta’s new slogans aren’t impressing branding experts — or metaverse veterans - TNW - Thomas Macaulay
https://thenextweb.com/news/metas-new-values-arent-impressing-branding-experts-or-metaverse-veterans

Introducing OpenAI -  Énoncé de mission
https://openai.com/blog/introducing-openai

OpenAI : « Ce n’était pas une bataille d’entreprise ordinaire » - Chloé Sondervorst - Radio-Canada
https://ici.radio-canada.ca/nouvelle/2030752/openai-bataille-entreprise-chatgpt-gillian-hadfield