画像の作成と編集のための Google の人工知能ツール: 創造性が懸念を引き起こす

加速するテクノロジーの世界において、Google はスマートフォンと人工知能の分野における新たな革命の瀬戸際に立っています。一連の電話機の発売に伴い、 Pixel 9 最近、同社は画像の作成と編集のための一連の革新的な AI ベースのツールを導入しました。しかし、これらのツールは、その創造性にもかかわらず、悪用の可能性や、このデジタル時代における画像の信頼性への影響について深刻な懸念を引き起こしています。

Pixel Studio は物議を醸す写真作成ツールです

Pixel 9 スマートフォンに追加された最も注目すべき新機能の 18 つは、テキスト コマンドを使用してステッカーや写真を作成するように設計された Pixel Studio 機能で、Apple が iOS XNUMX で開始する予定の Image Playground 機能とよく似ています。 Pixel Studio の機能は、猫、ウサギ、建物などのかわいい写真を​​作成するだけではありません。

憂慮すべき可能性

レビュー担当者は、Pixel Studio を使用して、物議を醸すさまざまな画像を作成することができました。例えば：

◉ ナチス版スポンジ・ボブ。

◉ AK47ライフルを持ったエルモの写真。

◉ 薬物やアルコールに関する不適切な状況にある有名な漫画のキャラクター。

◉ 学校での銃撃などの暴力的な状況の写真。

Pixel Studio はこのようなタイプの画像を自動的に作成しませんが、オンデマンドで簡単に画像を作成できるため、このテクノロジーが悪用される可能性について深刻な懸念が生じます。

この広告ビデオでは、Google が友達をからかう画像を作成することを奨励しています。

批判に対するGoogleの対応

これらの懸念に対処するために、GoogleはPixel Studioが「悪意のある」使用を防ぐために「セキュリティチェック」を実施したと述べた。これらの手順には次のものが含まれます。

◉ 実在の人物の画像の作成を禁止します。

◉ レビューや批判に応じて AI を修正します。

◉ 薬物を使用したり、ドイツ軍の制服を着たりした漫画のキャラクターの画像の作成を禁止します。

驚くほどリアルな画像編集ツール「Reimagine」

Google は、Pixel Studio アプリとともに、ユーザーが既存の写真に要素を追加できる「Reimagine」ツールを導入しました。 Pixel Studio よりもさらに厄介なこのツールには、次のような機能があります。

◉ 死体、爆弾、麻薬、災害、事故などの非常にリアルな要素を写真に追加します。

◉ 照明と遠近感を元の画像に正確に一致させます。

◉ 実際の画像と区別がつきにくい加工画像を作成すること。

上の画像を見てください。左側は元の実際の画像、右側は Reimagine の AI ツールによって変更された画像です。問題はそれだけではなく、人々が信頼する人物や信頼できる学者の隣に麻薬やアルコールを置くと、闇夜の断片のように誘惑を呼び起こす可能性があります。

Reimagine 画像のリアリズムは、ソーシャル メディアやインターネット上の画像の信頼性について深刻な懸念を引き起こします。 Googleは編集した画像にメタデータタグを追加しますが、スクリーンショットを撮ることで簡単に削除できます。

良い面: 創造性の大きな可能性

これらのツールをめぐる懸念にもかかわらず、その前向きで創造的な可能性に注目することが重要です。 Pixel Studio と Reimagine を使用すると、次のような楽しく創造的な画像を作成できます。

◉ 写真に夕日と虹を追加します。

◉ オレオピザの画像を作成します。

◉ 波乗りをするキリンを撮影。

◉ バスケットボールをしている子猫の写真を作成します。

Google の新しいツールの特徴は、その使いやすさと画像作成のスピードです。以前は、複雑な画像や変更された画像を作成するには、Photoshop などのプログラムの高度なスキルと多くの時間が必要でしたが、新しい Pixel スマートフォンでは、アイデアと数秒で作成できるようになりました。

Google の立場とフィードバック

Googleは公式声明の中で、自社のAIツールが「ユーザーのプロンプトの意図を尊重する」ように設計されていることを認めた。つまり、ユーザーのプロンプトの意図を尊重するということは、たとえリクエストがあったとしても、ユーザーが望むものの本質を理解し、有用な応答を提供することを意味する。文字通りに実行可能ではありません。そのためには、ユーザーの主な目標に焦点を当て、元の要求の精神を維持しながら、必要に応じて代替ソリューションを提供する必要があります。このアプローチにより、効果的なコミュニケーションが促進され、AI システムとの対話におけるユーザー エクスペリエンスが向上します。

これにより、ユーザーの要求に応じて「不快な」コンテンツが作成される可能性があります。

ただし、同社は、どのようなコンテンツが許可されないかを定義する「利用規約」が存在し、これらの保護策を継続的に改善することを認めています。

将来の展望: テクノロジー企業が直面する課題

Apple が Image Playground や Genmoji などの独自の写真作成ツールの発売に近づくにつれ、Pixel 9 の発売に対する反応から、企業がこの分野で直面する可能性のある課題についての洞察が得られます。ユーザーは、企業がどんなに厳格であっても攻撃的な投稿を作成しないという保証を回避する方法を見つけることができるでしょう。

結論: デジタル画像の不確実な未来

画像の作成と編集における人工知能技術の進歩により、私たちはデジタル写真の新時代の入り口に立っています。 Appleはこれまでのところ、AIを使用してフォトリアリスティックな画像を作成することを避けているが、Googleはこの方向に強力に取り組んでいる。

この発展は、デジタル画像の将来と信頼性について根本的な疑問を引き起こします。本物の画像と偽物の画像をどのように区別できるのでしょうか?これらのテクノロジーの社会的および倫理的な影響は何ですか?テクノロジー企業はどのようにしてイノベーションと社会的責任のバランスを取ることができるのでしょうか?

結局のところ、ソーシャルメディアやインターネット上の画像を信頼することは近い将来さらに難しくなり、ユーザーの意識を高めることと、デジタルコンテンツの信頼性を検証するための新しいツールの開発が必要になると思われます。

動名詞：

マックルーマーズ