Utilisation avisée des I.A. myopes et mono-maniaques

Amplificatrice d’idées

Sous le concept générique d’Intelligence artificielle se trouve des milliers d’agents intelligents en compétition. Seulement dans le monde de la finance, non seulement les places boursières sont assaillies par ces IA financières (plus de 50 % des transactions) mais le nombre de services d’investissement assistés par IA ne fait qu’augmenter. Là où cela devient délirant est lorsque des IA financières se mettent à transiger avec les I.A. des réseaux sociaux, exploitant leurs capacités à amplifier une tendance et à en profiter. En réponse, les opérateurs des réseaux sociaux ont appris à modérer ces activités et les places boursières ont programmé des alarmes et des interrupteurs pour encadrer les fluctuations suspectes.

On peut trouver des exemples comparables dans le monde politique, où une simple nouvelle qui trouve résonance peut entraîner des effets imprévisibles. Dans le domaine social, on ne compte plus les mouvements sociaux, positifs ou négatifs, auxquels ont contribué les algorithmes des réseaux sociaux : printemps arabe, régimes alimentaires étranges, modes éphémères, radicalisation, etc.  

L’originalité renouvelée de ce qui est affiché rend supposément la modération plus difficile alors que dans les faits ces phénomènes d’amplification et de frénésie suivent des patrons bien identifiables. Les places boursières ont développé une parade technique par l’identification de ces modèles de comportement mémorisés et par la mise en place de délais de réponse adaptés aux situations. Il n’y a aucune raison pour que les opérateurs de ces réseaux n’en fassent pas autant, à part qu’ils n’en n’ont aucune envie.

Le principe de base chez les opérateurs est que tant que ces phénomènes n’affectent pas les profits, il est mieux de ne pas s’en occuper. Ils peuvent connaître vos préférences alimentaires, si vous attendez un enfant et pour qui vous allez voter, mais identifier et bloquer un fraudeur notoire ou un émetteur chronique de fausses nouvelles ne leur rapporte visiblement pas grand chose.

Des I.A. myopes et mono-maniaques

Dans le monde de l’intelligence artificielle, on n'aime pas tellement les anthropomorphismes : à mono-maniaque on préfère «étroitesse» et à myopie on choisira plutôt «focalisée». Comme les myopes ne focalisent qu’à courte distance, nous pouvons continuer de les qualifier de myopes tant qu’elles ne seront pas capable de faire varier leur focus.

Programmer un ensemble d’objectifs équilibrés et complexes est autrement plus difficile que de fixer un objectif simple comme «maximiser le paramètre«, (argent, nombre de clics, engagement, indice quelconque), ou «Analyser le paramètre et recommander» (sentiment, opinion, corrélation, etc), ce qui peut inclure des stratégies comme «exploiter les failles» ou «ne pas considérer la crédibilité des informations». On peut se désoler de l’amoralité des machines, mais il est plus efficace de se désoler de l’amoralité de leurs opérateurs et de les encadrer.

Encadrement et finalité

Dans le monde infini de l’imagination et des idées, on peut bien imaginer ce que l’on veut, l’I.A. peut juste nous amener plus loin si on le désire, mais pour ce qui est des applications dans un monde réel, fini, complexe et en équilibre, l’utilisation de l’I.A. vient avec des contraintes éthiques.

Comme les I.A. sont sans finalité propre et qu’elles peuvent poursuivre n’importe quelle tâche qu’on leur aura assigné, il n’apparait pas d’autre possibilité que d’encadrer légalement leurs usages dans le monde matériel, comme on le fait pour les médicaments ou les armes. Le danger n’est pas l’IA elle-même, mais l’hubris des humains qui l’emploient concrètement, sans souci du bien commun ou du milieu dans lequel ils évoluent.

La majorité des IA en activité actuellement peut être qualifiée de «étroite», car ces I.A. sont conçues pour une tâche précise et très focalisée. Elles répondent à une utilité ou fonction bien définie, sans autre considération pour les effets provoqués en dehors de leurs paramètres; elles sont mono-maniaques et myopes à la fois.

La notion de «prudence» parait étrangère à l’intelligence artificielle. Au stade actuel de développement, intégrer une boucle de rétroaction à une finalité pour en moduler les effets dans l’ensemble d’un écosystème réel dépasse encore nos capacités et surtout la vision des opérateurs de ce que pourrait être un monde équilibré. D’où le recours aux freins légaux et à un encadrement réglementaire.

L’éducation éthique

Une I.A. n’a pas de souci moral et, par la nature contextuelle d’un jugement moral, il n’est pas possible de programmer une moralité; tout au plus programme-t’on une bigoterie. Selon son usage, l’I.A. peut soutenir la qualité de vie en société (ex. médecine, éducation), ou au contraire la corrompre (désinformation, polarisation). Le problème n’est pas l’I.A. mais l’humain qui s’en contente dans un environnement de plus en plus technologique, souvent devenu dépendant, sans même pouvoir aller plus loin.

Il demeure que l’I.A est un outil d’amplification de nos capacités, pas un juge, d’où la nécessité d’un encadrement éthique (AI Red Lines). Des outils de contrôle technologique et un cadre juridique peuvent-être mis en place mais la supervision humaine demeure nécessaire, pas celle d’un seul individu ou d’un groupe inféodé, mais bien celle de tous ceux qui en sont affectés, dans un dialogue constant.

À la base, une éducation éthique parait la meilleure voie, pour ne pas dire la seule, pour conserver notre humanité dans l’utilisation concrète de l’intelligence artificielle. À quel autre endroit que l’école pourrait-on le faire ?  

Illustration : StockSnap - Pixabay

Références

L’intelligence artificielle en finance - Recommandations pour une utilisation responsable - Autorité des Marchés Financiers
https://lautorite.qc.ca/fileadmin/lautorite/grand_public/publications/professionnels/rapport-intelligence-artificielle-finance-fr.pdf

Qu'est-ce que l'intelligence artificielle (IA) dans la finance ? Google
https://cloud.google.com/discover/finance-ai?hl=fr

Flash Crash - https://fr.wikipedia.org/wiki/Flash_Crash_de_2010

Artificial Intelligence (AI) and Investment Fraud: Investor Alert - US Securities and exchange commission
https://www.investor.gov/introduction-investing/general-resources/news-alerts/alerts-bulletins/investor-alerts/artificial-intelligence-fraud

De la philosophie pour penser l’intelligence artificielle - Thèse de François Levin
https://theses.hal.science/tel-04974628

L’IA et moi - Magazine Philosophie - https://www.philomag.com/dossiers/lia-et-moi

Philosophie de l'intelligence artificielle
https://fr.wikipedia.org/wiki/Philosophie_de_l%27intelligence_artificielle

L'intelligence artificielle, objet philosophique - Radio France - Balados
https://www.radiofrance.fr/franceculture/podcasts/serie-l-ia-l-intelligence-artificielle

AI Red Lines - https://red-lines.ai/?tl=french#call

Fondements philosophiques de l’intelligence artificielle - Université Laval - Cours
https://cursus.edu/fr/34280/fondements-philosophiques-de-lintelligence-artificielle