Par Denis Cristol  | 4cristol@free.fr

Quelle éthique des IA et des robots pédagogiques?

Créé le mercredi 25 octobre 2017  |  Mise à jour le jeudi 14 décembre 2017

Quelle éthique des IA et des robots pédagogiques?

Une question éthique déjà ancienne

Les problèmes éthiques en robotique et intelligence artificielle pédagogique se posent dès à présent.

Commençons par marquer les esprits pour bien faire comprendre que l'on est rattrapé par les prévisions de la science-fiction.

Selon les ONG (Rapport Amnesty International), c’est une fourchette de 1 500 à 4 000 personnes qui ont été tuées par des drones américains l’année dernière. Cela aurait débuté en 2004. Avec les drones militaires programmés pour tuer, qui plus est avec des décisions autonomes déléguées aux machines, désormais possible avec le programme Skynet.

En y ajoutant des éléments juridiques et éthiques, on songe dès à présent à développer les 3 lois de la robotique d'Isaac Asimov énoncées en 1942 :

  1. un robot ne peut porter atteinte à un être humain, ni, en restant passif, ni permettre qu'un être humain soit exposé au danger ;
  2. un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
  3. un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi ». (Citation extraite de Wikipedia)
     

Les robots éducatifs sont bien sûr d'un autre ordre que les drones de combats, quoiqu'on sache que l'on peut aussi blesser avec des mots et que les façons d’apprendre et d’enseigner construisent des sociétés pacifiques ou violentes.

Des questions se posent pour harmoniser la relation entre vie organique et interaction mécanique et numérique dans le registre éducatif. Il serait là aussi temps d’imaginer des lois de la robotique éducative.

Là où ça se passe

Plusieurs illustrations attestent du discernement qu'il va falloir apprendre à exercer, par exemple, l'irruption d'une interaction d'un robot de télépresence dans un espace où il n'est pas invité

Le don d'ubiquité est un vieux rêve humain. Il peut être satisfait grâce au robot de télépresence qu'un internaute peut piloter à distance. Par ce moyen il peut s'inviter dans un espace de formation où il n'est pas forcément attendu et interagir par robot interposé: se mouvoir, voir entendre et prendre la parole avec des participants à une formation peut s'avérer très intrusif.

S'agit-il simplement de la courtoisie d'un visiteur inopiné ou y-a-t ‘il des règles à programmer ? Et l’étudiant alité sera-t-il pénalisé s’il refuse de suivre un cours via un robot de téléprésence ? Est-ce la fin des excuses pour certaines maladies ?

Programmation de réponses toutes faites et exercice d'une influence

On s'est déjà habitué à l'influence des moteurs de recherche qui nous guident dans nos questionnements. Ils accumulent sur chacun de nous une masse d'informations. Ils connaissent nos préférences et nous présentent ce qui paraît le plus pertinent. Des arrière-pensées commerciales sont perceptibles. Des contenus fallacieux peuvent être développés et propagés.

Devra-t-on interdire aux robots et IA  de diffuser des mensonges ou thèses racistes? Qui et comment s'assurer des vérités acceptables? Qui connaît vraiment les filtres d’un moteur de recherche ? Y a-t-il un réel contrôle des citoyens sur le développement des IA et des programmations de robots ? A fortiori des propositions éducatives ? Pas vraiment et c’est une proposition à suivre de Jacque Testart, pionnier des méthodes de procréation assistée que d’orienter leur développement.

Substitution de formateur par des IA ou des robots

Le « gourou de l’Intelligence Artificielle » Laurent Alexandre étudie l’impact de la robotisation sur les emplois de demain, ses conclusions entraperçoivent une diminution drastique des emplois tenus par des humains. L'un des cas éthiques qui va certainement se poser en des termes aiguës, est celui de la substitution d'un formateur par une machine.

Le site https://willrobotstakemyjob.com/ (les robots prendront-ils mon job) se risque à des pronostics. Toutes les professions d’éducation et de formation sont passées au crible. Essayez le, le résultat donne à réfléchir.

En réalité, les intelligences artificielles remplacent déjà des actes humains dans la formation à distance, par exemple dans l'orientation de tâches à réaliser dans un parcours d'apprentissage, dans des répétitions de consignes ou des corrections d'exercices. Il s’agit pour l’instant essentiellement des tâches cognitives.

La question de la substitution se pose pour le tutorat à distance même si les tâches d’accompagnement, socio-affective  et d’appui à la motivation semblent encore des tâches réservées au formateur.  Ces tâches de médiation sont peu à peu grignotées au fur et à mesure de la progression des IA. Quel est donc le cœur qui ne saurait être programmé ? Quelle est la part spécifique du formateur qui échappera à un codage?

Acceptabilité sociale d'un robot ou d'une IA

Les robots sont particulièrement appréciés par les personnes âgées ou en maison de retraite. Ils sont des substituts affectifs, ils tiennent compagnie et donnent l'illusion d'une présence vivante et réactive, même lorsque les personnes âgées savent qu’il s’agit d’objets programmés.

Va t'on obtenir le même effet en enseignement? La rétroaction d'une machine réputée neutre facilitera-t-elle les retours d'expérience? Lorsque la présence du maître même silencieuse faisait peser un jugement social qu'en sera-t-il de celle d'un robot ? Des études menées par Karsenti sur l’impact de robots humanoïdes en interaction avec des enfants autistes sont prometteuses.

Surveillance et traçabilité des comportements humains

Lorsque des hommes se côtoient, un apprentissage vicariant opère. Par observation et échange ils modifient leurs réactions et leurs pratiques. C'est la confrontation à l'autre qui enseigne. Mais qu'en est-il quand une machine nous observe à notre insu? Quelle est la nature de ce savoir volé, qu'elle en est la légitimité? Jusqu'où les savoirs humains peuvent-ils être traqués et encodés sans le consentement de leur utilisateur? A qui appartiennent leurs traces d’apprentissage ?

Ces questions éthiques ou parfois simplement pratiques ne sont qu'un petit aperçu de la déferlante que nous promettent les nouvelles IA et les progrès de la bionique. J

Jean Staune prédit un accès à Internet des IA, dont le contrôle sera de plus en plus compliqué. Alors même si la question paraît complexe ou lointaine, il est temps de s’intéresser à la façon dont IA et robots éducatifs  sont en train de coloniser nos esprits et nos pratiques, en particulier en matière éducative, qui reste une matrice essentielle des démocraties.

En attendant mieux je propose des lois de la robotique et des IA éducatives :

  1. Un robot éducatif ou IA éducatif a pour visée l’émancipation humaine et la réalisation de potentiel, dans le cadre de valeurs d’altérité et d’ouverture
  2. Nul robot éducatif  ou IA ne sera autorisé à influencer le libre arbitre humain, ses choix et orientations
  3. La connaissance intime des préférences, difficultés d’apprentissage, des données et traces d’apprentissage d’un robot éducatif ou d’une IA sont la propriété de l’apprenant qui décide ou non de les partager  à des tiers.

Si vous avez envie de débattre ou d’abonder la réflexion, échangeons :  4cristol@free.fr

Aller plus loin

TV5 Monde – Robots tueurs un problème mondial méconnu http://information.tv5monde.com/info/robots-tueurs-un-probleme-mondial-meconnu-90548

Isaac Asimov http://monot.jc.pagesperso-orange.fr/divers/plan.htm

Quelles pourraient être les lois de la robotique du 21e siècle? - Radio-Canada
http://ici.radio-canada.ca/nouvelle/1009080/triplex-ia-ai-lois-de-la-robotique-du-21e-siecle-intelligence-artificielle

Thot cursus – Le robot de téléprésence avenir de l’éducation à distance? http://cursus.edu/article/28161/robot-telepresence-avenir-education-distance/

Stopfake - Comment obtenir un résultat impartial lors d’une recherche sur Google? https://www.stopfake.org/fr/comment-obtenir-un-resultat-impartial-lors-d-une-recherche-sur-google/

Reporterre – Jacques Testart il faut un contrôle citoyen des activités de recherche https://reporterre.net/Jacques-Testart-Il-faut-un-controle-citoyen-de-l-activite-de-recherche

T@d Quelle place pour les robots dans le tutorat à distance ? http://blogdetad.blogspot.fr/2016/10/quelle-place-pour-les-robots-dans-le.html

Will Robots Stake my job? https://willrobotstakemyjob.com/

Le nouvel Obs - Laurent Alexandre http://tempsreel.nouvelobs.com/sciences/20170210.OBS5170/10-choses-a-savoir-sur-laurent-alexandre-gourou-de-l-intelligence-artificielle.html

Wikipedia – Trois lois de la robotique https://fr.m.wikipedia.org/wiki/Trois_lois_de_la_robotique

Vte https://www.vteducation.org/fr/laboratoires/synthese/quelle-est-la-place-de-la-robotique-pedagogique-au-sein-de-leducation

Revue Reflet – L’homme robotisé – Jean Staune   https://www.revue-reflets.org/?p=2333

Karsenti, T., Bugmann, J., & Frenette, E. Un robot humanoïde pour aider les élèves ayant un trouble du spectre de l'autisme?
http://www.karsenti.ca/vivre_robot_nao.pdf

Poster un commentaire

Commentaires

0 commentaire