• Home
  • Data privacy
  • L’application de portrait par l’IA Lensa soulève des problèmes d’éthique et de confidentialité

L’application de portrait par l’IA Lensa soulève des problèmes d’éthique et de confidentialité

Partager sur facebook
Partager sur twitter
Partager sur linkedin
Partager sur email

Les « avatars magiques » sont la dernière lubie d’Internet, mais un expert affirme que les personnes qui participent à cette tendance ne sont peut-être pas conscientes des problèmes d’éthique et de protection de la vie privée qu’elle soulève.

La sortie de la fonctionnalité « avatars magiques » de Lensa est un succès mondial pour l’entreprise. Les récentes avancées en matière d’intelligence artificielle générative permettent à l’application de produire des résultats plus impressionnants et diversifiés que son prédécesseur. 

Selon les estimations préliminaires fournies par Sensor Tower, plus de 4 millions de personnes dans le monde ont téléchargé l’application au cours des cinq premiers jours de décembre. Au cours de cette même période, les utilisateurs ont dépensé plus de 8 millions de dollars dans l’application.

Kerry Bowman, bioéthicienne à l’université de Toronto, estime que l’application Lensa, qui crée des portraits de personnes à l’aide de l’intelligence artificielle (IA), peut avoir un effet négatif sur l’image de soi, et soulève d’autres questions éthiques.

Avec Lensa, les utilisateurs peuvent télécharger 10 à 20 images d’eux-mêmes pour créer des « avatars magiques », qui dépeignent des individus dans des cadres fantaisistes où ils sont censés apparaître plus « améliorés » que leur apparence réelle.

« À certains égards, cela peut être très amusant, mais ces images idéalisées sont dictées par des attentes sociales qui peuvent être très cruelles et très étroites », a déclaré Mme Bowman à l’émission Your Morning de CTV lundi.

Ces représentations sont souvent irréalistes et ne reflètent pas toujours avec précision les caractéristiques humaines classiques. Dans certains cas, les personnes à la peau foncée sont représentées plus claires, ou celles qui ont un corps plus large paraissent plus petites.

Ajoutons que ces programmes d’IA recueillent des données sur Internet à la recherche de différents styles artistiques pour créer ces portraits. Cependant, les styles et les œuvres artistiques initiales créés par de véritables artistes sont rarement rémunérés pour l’utilisation de leur travail.

« Ce qui se passe avec l’IA émergente, c’est que les lois n’ont pas vraiment été en mesure de suivre cela en termes de droit d’auteur. C’est très difficile et très obscur et l’éthique est encore plus en retard sur les lois », a affirmé Bowman.

La méthode controversée utilisée par Lensa est appelée le modèle de diffusion stable, dans lequel de nombreux artistes n’ont pas la possibilité d’accepter ou de refuser que leurs œuvres soient utilisées.

En outre, les utilisateurs devraient sérieusement réfléchir à la manière dont l’application stocke leurs données personnelles et à l’utilisation potentielle de leur visage.

Selon la politique de confidentialité de l’application, les photos ne sont stockées dans l’application que pendant 24 heures ; cependant, elle indique qu’à chaque photo traitée, l’algorithme recueille des données à partir de la photo pour de meilleurs résultats futurs.

Les applications de retouche photo virtuelles ont un passé douteux, certaines s’étant révélées être des vecteurs de logiciels malveillants. Dans d’autres cas, les utilisateurs s’inquiètent de ce qu’il advient des photos qu’ils téléchargent dans ces applications. Ces inquiétudes se sont notamment manifestées autour de l’éditeur d’IA FaceApp, basé en Russie, qui a déclaré par la suite qu’il pouvait stocker les photos mises à jour dans le cloud pour des « raisons de performance et de trafic », mais que la plupart des images étaient supprimées dans les 48 heures.

C’est pourquoi les utilisateurs doivent redoubler de vigilance concernant leur activité en ligne et tenir compte de tous les dangers potentiels qui en découlent. 

Évaluez votre niveau
de conformité

En quelques clics,
lancez sans engagement
et en toute conformité un
audit flash !

Pour recevoir votre audit flash gratuit et sans engagement, merci de bien vouloir remplir ce formulaire :