Apple et Google font tout leur possible pour nous convaincre que leurs boutiques d'applications sont les endroits les plus sûrs au monde, de véritables forteresses imprenables accessibles uniquement à ceux qui respectent des normes éthiques et techniques strictes. Mais il semblerait que l'intelligence artificielle ait choisi une voie obscure et, chose surprenante, ces géants du numérique ne sont pas à l'abri des conséquences. Un nouveau rapport révèle que des applications spécialisées dans la « nudité » et les fausses images pornographiques prospèrent toujours sur l'App Store d'Apple et Google Play. Plus alarmant encore, les algorithmes de ces plateformes y dirigent parfois directement les utilisateurs via des publicités et des résultats de recherche.
Des chiffres choquants et une présence publique
Le rapport du Tech Transparency Project (TTP) ne reposait pas sur de simples spéculations ; il s'appuyait sur des chiffres stupéfiants. Ce rapport a identifié 18 applications sur l'App Store d'Apple et 20 sur le Google Play Store spécialisées dans ce que l'on appelle les applications « nudify », ou applications de nudité. Ces applications n'étaient pas de simples expériences ratées reléguées dans les recoins obscurs des plateformes de téléchargement ; elles ont généré collectivement environ 122 millions de dollars de revenus et ont été téléchargées 483 millions de fois. Oui, vous avez bien lu : près d'un demi-milliard de téléchargements !
L'ironie, c'est que certaines de ces applications étaient classées « E » (pour tous publics), ce qui signifie que n'importe quel enfant possédant un appareil pouvait y accéder facilement. Alors que les parents peinent à limiter le temps d'écran de leurs enfants, les boutiques d'applications « officielles » proposaient des outils capables de transformer les photos de personnes réelles en images pornographiques ou d'insérer leurs visages dans des vidéos inappropriées grâce à la technologie deepfake.
Algorithmes de recherche : un guide touristique du mauvais contenu
Le problème ne réside pas seulement dans l'existence de ces applications, mais aussi dans la manière dont les utilisateurs y accèdent. Le rapport affirmait que la recherche par mots-clés spécifiques permettait d'y accéder facilement. Plus surprenant encore, les plateformes elles-mêmes affichaient des publicités pour des applications similaires dans les résultats de recherche, rendant ainsi Apple et Google complices.Même involontairement- En diffusant des outils qui transforment des personnes réelles en images sexuelles.
Certaines applications se font connaître en affichant le visage d'une actrice superposé au corps d'une autre, permettant ainsi aux utilisateurs d'insérer de vrais visages sur des corps de femmes légèrement vêtues. Pourtant, elles sont classées par âge comme convenant à tous. Il semblerait que les responsables des évaluations aient eu besoin de lunettes spéciales pour voir l'évidence !
Réactions et actions du gouvernement
Suite à la révélation de ce scandale, les entreprises, comme à leur habitude, se sont empressées de se retrancher derrière leurs communiqués officiels. Apple a déclaré à Bloomberg avoir retiré 15 des applications identifiées, tandis que Google a indiqué en avoir suspendu plusieurs et confirmé que ses règles interdisent tout contenu sexuellement explicite et que l'enquête et les mesures d'application sont en cours. Mais la question demeure : pourquoi avons-nous toujours besoin d'un rapport externe pour faire le travail que des milliards de systèmes de vérification sont censés accomplir ?
Ce laxisme a incité les gouvernements à réagir. Au Royaume-Uni, le Commissaire aux droits de l'enfant a demandé l'interdiction des applications deepfake qui créent des images à caractère sexuel explicite d'enfants. Les États-Unis et d'autres pays ont également proposé des lois interdisant les deepfakes explicites. Le procureur général de Californie a même récemment ordonné à la société X d'Elon Musk de cesser de produire des images deepfake explicites à l'aide de son modèle d'intelligence artificielle, Grok.
Source:
2 commentaire