Dans un revirement aussi rapide qu'inattendu, preuve que la protection de la vie privée reste une priorité absolue pour les utilisateurs, Meta a décidé de retirer une fonctionnalité controversée de son nouveau modèle de génération d'images par IA, moins d'une semaine après son lancement. Il semble que le torrent de critiques acerbes et l'indignation des utilisateurs aient suffi à faire comprendre à l'entreprise l'importance du respect de la vie privée et des données personnelles.
L'histoire derrière cette fonctionnalité « sournoise »
L'histoire a commencé lorsque Meta a annoncé son nouveau modèle de génération d'images, Muse Image, permettant aux utilisateurs de créer des visuels de haute qualité et de les partager directement dans les Stories ou les publications. Jusque-là, rien d'anormal comparé aux offres de concurrents comme OpenAI ou Google. Cependant, comme souvent chez Meta, une clause cachée et profondément troublante a été discrètement glissée dans le contrat.
L'entreprise a décidé, sans avertissement préalable ni autorisation explicite, d'utiliser les photos publiques de tous les utilisateurs d'Instagram pour alimenter son outil de création d'images par IA. Concrètement, n'importe qui pouvait saisir votre nom d'utilisateur (via une mention) dans l'application Meta AI, et l'IA récupérait alors vos photos de profil publiques et utilisait vos traits pour créer des images entièrement nouvelles, sans même que vous soyez averti que vos photos avaient été utilisées dans les créations numériques d'autrui !
L'option cachée de la suspension et de la pression syndicale
Bien sûr, Meta proposait une option de désactivation, mais comme d'habitude, elle était enfouie au fin fond des paramètres complexes de l'application, accessible uniquement à ceux qui la cherchaient avec acharnement et qui possédaient des connaissances préalables. L'entreprise n'a envoyé aucune notification dans l'application pour informer les utilisateurs que leurs images étaient désormais analysées par l'IA de Meta, se contentant d'une mention dans un article technique en marge, lu seulement par une poignée de spécialistes.
Ce mépris flagrant de la vie privée a suscité une vive indignation, bien au-delà des seuls utilisateurs. Des organisations majeures comme la Screen Actors Guild-Africa (SAG-AFTRA) sont intervenues, exhortant leurs membres à résilier immédiatement leur abonnement afin de protéger leurs droits et leurs images contre toute exploitation numérique. Des organismes de sécurité publique, tels que le National Center Against Sexual Exploitation, ont également fermement condamné la décision de Meta, exigeant son annulation immédiate et mettant en garde contre la facilité avec laquelle l'outil pourrait être détourné à des fins de chantage et de création d'images compromettantes.
Retraite officielle et craintes liées aux deepfakes
Face à cette pression immense, Meta a jeté l'éponge trois jours seulement après l'annonce de la fonctionnalité. L'entreprise a publié une mise à jour officielle présentant des excuses indirectes : « Notre objectif était de fournir un outil créatif utile et de donner le contrôle aux utilisateurs, mais nous avons pris en compte les retours qui ont confirmé que cette fonctionnalité n'était pas à la hauteur, et elle n'est donc plus disponible. »
Ce qui s'est passé rappelle le chaos provoqué par l'outil Grok d'Elon Musk sur la plateforme X plus tôt cette année, lorsqu'il permettait aux utilisateurs d'identifier des comptes afin de générer des images deepfake contraires à l'éthique et offensantes sans le consentement des propriétaires. Bien que Meta affirme avoir mis en place des mesures de protection, empêcher l'IA générative de franchir les limites éthiques reste une bataille perdue d'avance tant que la porte n'est pas fermée dès le départ et que la vie privée des utilisateurs n'est pas véritablement respectée.
Source:
5 commentaire