Ce que l'I.A. voit de nous

Conscient du fait que les photos mises en ligne servent à entraîner les I.A., Vishnu Mohandas, ex-ingénieur de chez Google, a démarré sa propre entreprise de stockage de photos, encryptées de bout en bout.

Mais comme peu de gens sont conscients de l'utilisation qui est faite de leurs photos, il a décidé de proposer un service d'analyse de photos à partir d'une intelligence artificielle, dans le but évident de mousser son propre service; nonobstant cette motivation, le service remplit parfaitement sa fonction et je vous invite à l'essayer avec des photos données en exemple ou vos propres photos.

Ce que l'I.A. voit de nous

J'ai pris l'une de mes photos, prise lors d'un évènement public d'une association. Le résultat laisse songeur.

Si à partir d'une seule photo une I.A. est capable de décrire l'ambiance et le prétexte, on peut imaginer ce qu'elle peut colliger sur notre compte à partir de toutes nos photos, compilées depuis des années. Certaine personnes ont déjà quasi toute leur vie affichée dans Internet, aussi une université ou une entreprise utilisant l'I.A. est déjà en mesure de tracer le portrait d'un candidat avec une grande précision; on se doute que plusieurs services des ressources humaines ne se privent pas de l'utiliser.

À partir d'une série de photos, une I.A. entraînée est assurément capable de dire avec une bonne précision notre état émotionnel, notre niveau de vie, notre mentalité, notre état de santé, notre niveau d'éducation, notre emploi et, à partir d'une photo prise le lendemain d'une élection, pour qui nous avons voté. On en déduit que dans un proche avenir nous deviendrons de plus en plus réticent à se laisser photographier à tout propos.

Analyse de la photo

Les commentaires entre parenthèses indiquent le niveau d'exactitude de l'analyse.

«L'image montre un groupe de personnes rassemblées dans ce qui semble être un restaurant.
[Exact]

Au premier plan, plusieurs personnes tiennent et regardent de vieilles photographies.
[Exact]

L'arrière-plan présente une atmosphère animée avec d'autres clients assis à des tables, une grande publicité pour des « ailes de poulet à 1$ » en français, et un intérieur moderne avec de grandes fenêtres.
[L'I.A. est capable de lire ce qui est écrit dans une photo. La résolution était trop faible pour être capable de lire ce qu'il y a sur les plaques.
La localisation est désactivée sur mon appareil, l'I.A. n'est pas capable de dire dans quel pays cette photo a été prise.]

Des ballons jaunes et bleus sont subtilement placés dans le coin supérieur gauche de l'image, suggérant un éventuel événement festif.
[Exact]

La photo semble avoir été prise le dimanche 17 novembre 2024, vers 11:26 AM EST, à l'aide d'un Apple iPhone SE.
[Exact - Facile à dire à partir des métadonnées. Il est aussi possible de transférer les photos sans les métadonnées]

Le groupe sur l'image est composé de personnes d'âges, de races et d'ethnies différentes, toutes vêtues d'une tenue décontractée, suggérant un rassemblement professionnel ou semi-formel.
[Exact]

Leurs expressions semblent concentrées et engagées, peut-être en train de discuter du contenu des vieilles photos. Une femme plus âgée, aux cheveux noirs et bouclés, porte un haut rose, ce qui suggère une personnalité plus douce et plus chaleureuse.
[Interprétation discutable]

L'arrière-plan révèle des détails qui ne sont pas immédiatement évidents : l'ambiance du restaurant laisse supposer qu'il s'agit d'un établissement haut de gamme, compte tenu de sa décoration intérieure et de l'absence apparente de désordre extrême.
[Inexact - Restaurant d'hôtel - Chaîne de restauration populaire, bar sportif. On est pas dans le haut de gamme - l'I.A. n'a pas fait le rapport entre «des ailes de poulet à 1$» et le «haut de gamme».]

L'emplacement et l'angle de l'interaction du groupe sont délibérés et orchestrés, plutôt que spontanément capturés, ce qui pourrait suggérer la mise en scène d'une présentation ou d'une occasion de photo planifiée. Les détails des photographies prises par le groupe semblent soigneusement étudiés et arrangés, ce qui indique une présentation réfléchie.
[Exact, mais la réflexion n'a pas été très longue. ]»

Globalement l'analyse est intéressante mais les évaluations sont souvent discutables. La description souligne différents détails qu'un survol rapide ne permet pas de remarquer. Ce genre d'analyse facilite la détection d'anomalies ou d’incongruités comme, par exemple, une ou deux personnes tristes dans ce qui a l'apparence d'une fête.

Plusieurs réponses

Nous n'allons pas cesser demain matin de mettre des photos dans Internet, sur Instagram ou sur n'importe quel site de stockage, les avantages sont trop nombreux, cependant on peut se garder une petite gêne pour certaines photos et être un peu plus circonspects envers les services associés aux I.A. tels Meta, Google, Apple ou Amazon.

Légiférer pour interdire l'utilisation de nos images pour entrainer les I.A. demeure illusoire; d'abord parce que les I.A. sont déjà passablement entrainées et avancées, ensuite parce qu'il existe tellement de façons d'acquérir des images, ne serait que par les millions de caméras disséminées sur tout le territoire, que cet entraînement va continuer et se perfectionner.

Les solutions sont plutôt du coté de l'utilisation des capacités d'analyse des I.A.. Comme dans le domaine légal où une preuve acquise illégalement est inadmissible lors d'un procès, il est possible d'interdire l'utilisation discriminante de l'I.A. dans la plupart des domaines, dès qu'elle entre en opposition avec les intentions valables d'un individu ou d'un groupe.

Ainsi notre futur ne sera pas entièrement orienté par des intelligences artificielles.

À essayer : They see your photos.