AppleとGoogleは、自社のアプリストアが地球上で最も安全な場所であり、厳格な倫理基準と技術基準を満たす者だけがアクセスできる難攻不落の要塞であると、私たちに信じ込ませようと必死になっている。しかし、人工知能は暗黒の道へと進み始めており、驚くべきことに、これらの大手企業もその影響から免れることはできないようだ。新たな報告書によると、「ヌード」や偽ポルノ画像に特化したアプリが、iPhone App StoreとGoogle Playで依然として横行していることが明らかになった。さらに憂慮すべきことに、これらのストアのアルゴリズムは、広告や検索結果を通じてユーザーを直接これらのアプリに誘導することもある。
衝撃的な数字と公の場での存在感
テック・トランスペアレンシー・プロジェクト（TTP）の報告書は、単なる憶測に基づくものではなく、驚くべき数字に裏付けられていました。報告書は、Apple App Storeで18個、Google Play Storeで20個の、いわゆる「ヌードアプリ」またはヌードアプリを専門とするアプリを特定しました。これらのアプリは、アプリストアの片隅にひっそりと隠された失敗作ではなく、合計で約1億2200万ドルの収益を上げ、4億8300万回ダウンロードされていました。そうです、間違いなく4億8300万回近くダウンロードされたのです！
皮肉なことに、これらのアプリの中には「E」（全年齢対象）と評価されているものもあり、つまり、デバイスを持っている子供なら誰でも簡単にアクセスできた。親が子供のスクリーンタイムを制限しようと奮闘する一方で、「公式」アプリストアでは、ディープフェイク技術を使って実在の人物の写真をポルノ画像に変換したり、不適切な動画に人物の顔を挿入したりできるツールが提供されていたのだ。
検索アルゴリズム：質の悪いコンテンツへの観光ガイド
問題はアプリの存在そのものだけでなく、ユーザーがどのようにそれらにアクセスするかにある。報告書によると、特定のキーワードで検索することでこれらのツールに簡単にアクセスできるという。驚くべきことに、プラットフォーム自体が検索結果内に類似アプリの広告を表示しており、AppleとGoogleも共犯関係にある。意図せずとも- 実在の人物を性的な画像に変換するツールを配布すること。
ある女優の顔を別の女優の体に重ね合わせて表示し、露出度の高い女性の体に実際の顔を合成できるアプリがあるにもかかわらず、それらのアプリは全年齢対象とされている。どうやら、店のレビュー担当者は、誰にでも明らかなことを理解するためにAIメガネが必要だったようだ！
政府の反応と行動
このスキャンダルが明るみに出ると、企業はいつものように公式声明の陰に隠れようと躍起になった。アップルはブルームバーグに対し、問題となったアプリのうち15個を削除したと述べ、グーグルは複数のアプリを停止し、同社のポリシーでは露骨な性的コンテンツを禁止しており、調査と執行手続きは継続中であることを確認した。しかし、疑問は残る。何十億ものレビューシステムが本来果たすべき役割を、なぜ外部の報告書が代行する必要があるのだろうか？
こうした規制の緩さが、各国政府の行動を促している。英国では、児童擁護委員が、子どもの性的に露骨な画像を生成するディープフェイクアプリの禁止を求めている。米国をはじめとする各国も、露骨なディープフェイクを禁止する法案を提出している。カリフォルニア州司法長官も最近、イーロン・マスク氏の会社Xに対し、同社の人工知能モデル「Grok」を用いた露骨なディープフェイク画像の生成を停止するよう命じた。
動名詞：
2تعليق