“Par précaution, nous fabriquons des machines extrêmement lourdes avec de très petites jambes”.
Larry Page
Quand le “principe de précaution” est mis en avant par les géants du net...
Une centaine de sommités, dont un certain Bill Gates, réclament un moratoire, probablement parce que les conséquences des intelligences artificielles sont mal évaluées actuellement, et des prises de décision inconséquentes sont envisagées avec des risques éthiques, sociétaux, mais aussi de sécurité, ce qui fait réfléchir quand on connait les possibles dévastations des armes nucléaires. Les IA interpellent frontalement ce que signifie être humain. Les effets à suivre pointent l’ampleur du questionnement à l'œuvre de la part de philosophes, de penseurs, d’ingénieurs et d’experts en intelligence artificielle.
L'une des questions philosophiques les plus fondamentales posée par l'intelligence artificielle est de savoir si une machine peut être considérée comme étant intelligente sans comprendre ce qu'elle fait. Selon John Searle,
"Ce que nous voulons savoir, c'est s'il peut y avoir une intelligence artificielle sans compréhension, et si une telle intelligence peut être autonome, et sinon, pourquoi pas" (1980).
Si les machines peuvent être considérées comme intelligentes, cela soulève également des questions sur la relation entre l'intelligence et la conscience. La conscience occidentale avait été bouleversée après la découverte de l'Amérique, quand sera t il après l'émergence du continent caché de l’IA ?
Nick Bostrom suggère que
"Le concept même d'une intelligence non biologique exige une révision radicale de nos idées sur ce que nous sommes et quelle est notre place dans l'univers" (2014).
Ce décalage du lien entre conscience et intelligence interpelle le fondement de notre humanité, toutes les implications de cette dissociation ne sont pas clairement tirées à ce jour.
L'intelligence artificielle peut avoir des implications importantes pour l'anthropologie en ce qui concerne notre compréhension de l'être humain et de notre relation aux technologies. Selon Yuval Harari,
"L'avènement de machines intelligentes menace de perturber les sociétés humaines en rendant de nombreux emplois obsolètes et en créant de nouvelles formes d'inégalités sociales et économiques" (2018).
Selon une étude d’Oxford, les machines surpasseront les humains dans un grand nombre de tâches d'ici à 2060. Publiée en 2017, cette étude expliquait que les programmes informatiques seraient à même de rédiger des livres complets dès 2050, ou encore de remplir certaines tâches de chirurgien en 2053. Selon le principe de la destruction créatrice de Schumpeter, une innovation vient détruire d’anciens métiers et d’anciennes pratiques pour laisser la place à d’autres porteurs d’une plus grande efficacité, cependant dans l’histoire, les laissés pour compte des anciennes pratiques ont souffert des déclassements, quel risque politique encourt-on à laisser le marché s’ajuster selon ses “lois naturelles”?
De même, Kate Crawford et Ryan Calo ont souligné que
"Le développement de l'IA soulève des questions fondamentales sur ce que signifie être humain et comment nous nous rapportons aux machines qui imitent ou surpassent l'intelligence humaine" (2016).
En effet depuis l’antique mythe du Golem, nous ne cessons de nous comparer aux machines que nous créons quand bien même nous ne sommes pas en mesure de rivaliser avec elles sur un ensemble de fonctions de calcul mais désormais également d’analyse et de prospective. Nous pensions jusqu'alors que des champs réservés comme la créativité résisteraient jusqu'à ce qu'en quelques clics des images incroyables apparaissent avec Midjourney.
Les préoccupations éthiques liées à l'intelligence artificielle sont variées, allant des risques de discrimination et de partialité jusqu'à la question de la responsabilité et du contrôle. Selon Joy Buolamwini et Timnit Gebru,
"L'IA n'est aussi impartiale que les données et les algorithmes qui la dirigent" (2018).
... et oublié en pratique
Or, une multiplicité de biais dans la conception des algorithmes est décelable et ils finissent par reproduire les discriminations et croyances majoritaires du moment puisque les IA s'appuient sur la consultation d'une masse de données. Les minorités ethniques, les femmes, les laissés pour compte partent avec un handicap si rien ne vient corriger la masse de données déjà biaisées sur lesquels sont adossés les calculs.
Les enjeux éthiques de l'IA incluent également la transparence, la responsabilité et le contrôle, comme le soulignent Stuart Russell et Peter Norvig :
"Les défis éthiques de l'IA comprennent non seulement le risque de discrimination et de partialité, mais aussi des questions telles que la responsabilité, la transparence et le contrôle" (2020).
Une enquête de Stanford note “les «incidents et controverses» liés à l'IA ont été multipliés par 26 au cours de la dernière décennie”. Des cas de dépendance, de suicide, de divorce ont même été imputé aux agents conversationnels.
L'existence de l'intelligence artificielle soulève des questions profondes sur la nature de la réalité et sur la façon dont nous nous rapportons aux machines intelligentes. Selon Luciano Floridi,
"L'IA est une nouvelle forme de vie qui remet en question nos catégories ontologiques traditionnelles et nous force à repenser notre relation avec le monde" (2014).
La question de savoir si les machines peuvent être dotées d'une conscience artificielle est également pertinente, comme l'a souligné David Chalmers :
"L'existence de machines intelligentes soulève des questions philosophiques profondes sur la nature de la réalité et la possibilité d'une conscience artificielle" (2010).
Si les IA ne rêvent pas encore, ont peu d’humour, l'interconnexion des fonctions d'IA va augmenter la suspicion d'une société généralisée du contrôle. Le croisement entre bases de données, reconnaissance faciale et décision automatique à de quoi questionner. Cela est déjà enclenché sur le continent asiatique, mais les systèmes interconnectés sont déjà bien en place par exemple dans le couplage radar contrôlant la vitesse de circulation des véhicules, adressage et recouvrement des amendes. Petit à petit nous nous habituons dans une variété d’actes quotidiens à cette mécanisation du monde.
Les implications sociales sont déjà importantes, notamment en ce qui concerne l'emploi et la sécurité. Selon Erik Brynjolfsson et Andrew McAfee, "Les machines intelligentes peuvent remplacer les travailleurs humains dans de nombreux emplois, créant des perturbations économiques et sociales" (2017), car si de nouveaux emplois pourraient bien être créés pour concevoir et piloter les IA, des anciens sont appelés à disparaître brutalement. De plus, les préoccupations concernant la sécurité et la protection de la vie privée sont importantes, comme le souligne Edward Felten :
"L'IA peut créer de nouveaux risques pour la sécurité et la vie privée, et nous devons être conscients de ces risques pour pouvoir les gérer de manière responsable" (2019).
La fraude aux IA se développe, la production de fausses informations et de fausses preuves deviennent des fléaux pour les démocraties et distille le poison du doute. Enfin, l'élaboration et l'application de l'intelligence artificielle soulèvent également des défis techniques importants, notamment en lien avec la consommation des ressources. Selon Yann LeCun, Yoshua Bengio et Geoffrey Hinton,
"L'un des défis clés de l'IA est d'élaborer des algorithmes qui peuvent apprendre à partir de données de manière efficace et robuste" (2015).
Ce faisant, non content de produire de l’infobésité, les IA pillent toute propriété intellectuelle en se nourrissant de données dans le plus grand flou juridique. De plus, l'IA consomme des ressources informatiques et énergétiques importantes, et soulève des questions sur l’impact carbonne du numérique prévu de tripler d’ici 2050.
L'ensemble de ces enjeux échappe à la compréhension fine des citoyens et des individus. Quelques experts et entreprises nous engagent sans concertation dans une voie aux conséquences majeures, sans contre pouvoir, ce qui enfreint un principe démocratique majeur.
Sources
John Searle (1980). "Minds, brains, and programs." Behavioral and Brain Sciences, 3(3), 417-424. www.course.sdu.edu.cn/G2S/eWebEditor/uploadfile/20140227112825015.pdf
Nick Bostrom (2014). Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press.
https://www.decitre.fr/livres/superintelligence-9780199678112.html
Yuval Harari (2018). 21 Lessons for the 21st Century. New York: Spiegel & Grau.
https://www.decitre.fr/ebooks/21-lessons-for-the-21st-century-9781473554719_9781473554719_10012.html
Kate Crawford and Ryan Calo (2016). "There is a blind spot in AI research." Nature, 538(7625), 311-313. doi:10.1038/538311a
Joy Buolamwini and Timnit Gebru (2018). "Gender shades: Intersectional accuracy disparities in commercial gender classification." Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 77-91. doi:10.1145/3176349.3176356
Stuart Russell and Peter Norvig (2020). Artificial Intelligence: A Modern Approach. Upper Saddle River, NJ: Pearson Education. https://www.decitre.fr/livres/artificial-intelligence-9781292401133.html
Luciano Floridi (2014). The Fourth Revolution: How the Infosphere is Reshaping Human Reality. Oxford: Oxford University Press.
David Chalmers (2010). "The Singularity: A Philosophical Analysis." Journal of Consciousness Studies, 17(9-10), 7-65.
Le temps Elon Musk et 100 experts réclament un moratoire sur l’intelligence artificielle
https://www.letemps.ch/economie/cyber/elon-musk-experts-reclament-un-moratoire-lintelligence-artificielle
France24 Intelligence artificielle : les métiers qui vont disparaître et ceux qui vont les remplacer
https://www.france24.com/fr/émissions/tech-24/20230113-intelligence-artificielle-les-métiers-qui-vont-disparaître-ceux-qui-vont-les-remplacer
France24 La démocratie : deepfake en corée du sud un faux candidat pour aider le vrai
https://www.france24.com/fr/info-en-continu/20220214-la-démocratie-deepfake-en-corée-du-sud-un-faux-candidat-pour-aider-le-vrai
Futura sciences. Réchauffement climatique : l’empreinte carbone numérique est en train d’exploser à cause de l’IA
https://www.futura-sciences.com/planete/actualites/rechauffement-climatique-empreinte-carbone-numerique-train-exploser-cause-ia-104727/
MSM Technologie et sciences. L’IA nous mène t-elle vers une catastrophe de niveau nucléaire
https://www.msn.com/fr-fr/actualite/technologie-et-sciences/l-ia-nous-mène-t-elle-vers-une-catastrophe-de-niveau-nucléaire/ar-AA1a2uDK
Voir plus d'articles de cet auteur
