プライバシーがユーザーにとって依然として譲れない一線であることを示す、迅速かつ予想外の方針転換として、MetaはAI搭載の新しい画像生成モデルから、発表からわずか1週間足らずで物議を醸していた機能を削除することを決定した。激しい批判とユーザーの怒りの嵐が、同社に個人の空間とプライベートデータの尊重の重要性を痛感させるのに十分だったようだ。
「こっそり」機能の裏話
事の発端は、Metaが新しい画像生成モデル「Muse Image」を発表したことだった。このモデルを使えば、ユーザーは高品質なビジュアルを作成し、ストーリーや投稿に直接共有できる。ここまでは、OpenAIやGoogleといった競合他社が提供するものと比べて、ごく普通で従来通りのように見える。しかし、Metaにありがちなことだが、そこにはひっそりと、そして非常に厄介な条項が紛れ込んでいたのだ。
同社は、事前の警告や明示的な許可なしに、すべてのInstagramユーザーの公開写真をAI生成画像ツールの燃料として使用することを決定しました。つまり、見知らぬ人がMeta AIアプリにあなたのユーザー名（@メンション経由）を入力するだけで、AIがあなたの公開プロフィール写真を取得し、あなたの特徴を利用して全く新しい画像を生成する可能性があり、しかもあなたの写真が他人のデジタルファンタジーに使用されたという通知すら届かないということです。
サスペンションと組合圧力の埋没オプション
もちろん、Metaはオプトアウトオプションを提供していましたが、いつものように、アプリの複雑な設定の奥深くに隠されており、多大な労力と事前の知識を費やして探さなければアクセスできませんでした。同社は、ユーザーの画像がMetaのAIによってアクセスされるようになったことを知らせるアプリ内通知を一切送信せず、ごく少数の専門家しか読まないサイドバーの技術記事で言及しただけでした。
この露骨なプライバシー侵害は、一般ユーザーだけでなく、幅広い層から激しい怒りを引き起こした。全米映画俳優組合アフリカ支部（SAG-AFTRA）のような主要団体が介入し、会員に対し、デジタル搾取から権利と画像を守るため、直ちにサブスクリプションを解約するよう促した。全米性搾取対策センターなどの公共安全団体もMetaの決定を強く非難し、即時撤回を求めるとともに、このツールが恐喝や不適切な画像の作成に悪用される可能性について警告した。
公式撤退とディープフェイクへの懸念
この途方もないプレッシャーに直面し、Metaは機能発表からわずか3日後に白旗を上げた。同社は公式アップデートで間接的に謝罪し、「私たちの目的は、便利なクリエイティブツールを提供し、ユーザーにコントロール権を与えることでしたが、この機能が期待に応えられなかったというフィードバックを受け、提供を中止することにしました」と述べた。
今回起きたことは、今年初めにイーロン・マスク氏のGrokツールがXプラットフォーム上で引き起こした混乱を彷彿とさせる。Grokは、ユーザーがアカウントにタグを付けることで、所有者の同意なしに非倫理的で不快なディープフェイク画像を生成できるツールだった。Metaは安全対策を講じていると主張しているが、生成AIが倫理的な境界線を越えるのを防ぐには、最初から扉を閉ざし、ユーザーのプライバシーを真に尊重することが不可欠であり、そうでなければ勝ち目のない戦いとなるだろう。
動名詞：
5تعليق