谷歌用于创建和编辑图像的人工智能工具：创造力引发担忧

在不断发展的科技世界中，谷歌正处于智能手机和人工智能领域新革命的边缘。随着一系列手机的推出 像素9 最近，该公司推出了一套基于人工智能的创新工具，用于创建和编辑图像。但是，尽管这些工具具有创造力，但它们的滥用可能性及其对数字时代图像真实性的影响引起了人们的严重担忧。

Pixel Studio是一款备受争议的照片创作工具

Pixel 9 手机最引人注目的新功能之一是 Pixel Studio 功能，该应用程序旨在使用文本命令创建贴纸和照片，与苹果计划在 iOS 18 中推出的 Image Playground 功能非常相似。 Pixel Studio 的功能不仅仅是为猫、兔子和建筑物创建可爱的照片。

令人震惊的可能性

审稿人已经能够使用 Pixel Studio 创建各种有争议的图像。例如：

◉ 纳粹版的海绵宝宝。

◉ Elmo 手持 AK47 步枪的照片。

◉ 著名卡通人物在涉及毒品和酒精的不当情况下。

◉ 校园枪击等暴力场景的图片。

尽管 Pixel Studio 不会自动创建这些类型的图像，但根据需要轻松生成这些图像的能力引起了人们对该技术可能被滥用的严重担忧。

在这段广告视频中，我们看到 Google 鼓励您创建图像来取笑您的朋友。

谷歌对批评的回应

为了解决这些问题，谷歌表示，它已经实施了“安全检查”，以防止 Pixel Studio 被“恶意”使用。这些程序包括：

◉ 防止创建真人图像。

◉ 修改人工智能以回应评论和批评。

◉ 禁止创作使用毒品或穿着德国士兵制服的卡通人物形象。

“重新想象”工具以惊人的真实感编辑图像

除了 Pixel Studio 应用程序之外，谷歌还推出了“Reimagine”工具，该工具允许用户向现有照片添加元素。这个工具比 Pixel Studio 更令人不安，它能够：

◉ 为照片添加高度真实的元素，例如尸体、炸弹、毒品、灾难和事故。

◉ 将光照和视角与原始图像准确匹配。

◉ 生成难以与真实图像区分的修改图像。

看上图，左边是原始的真实图像，右边是Reimagine的AI工具修改后的图像。事情不仅如此，你可以将毒品和酒精放在人们信任的人或值得信赖的学者旁边，从而引起像黑夜碎片一样的诱惑。

Reimagine 图像的现实主义引起了人们对社交媒体和互联网上图像真实性的严重担忧。尽管谷歌在编辑后的图像中添加了元数据标签，但可以通过截图轻松删除它。

积极的一面：巨大的创造潜力

尽管围绕这些工具存在一些担忧，但重要的是要注意它们的积极和创造潜力。 Pixel Studio 和 Reimagine 可用于创建有趣且富有创意的图像，例如：

◉ 在照片中添加日落和彩虹。

◉ 创建奥利奥披萨的图像。

◉ 拍摄长颈鹿冲浪。

◉ 创建小猫打篮球的照片。

谷歌新工具的独特之处在于其易用性和图像生成速度。以前创建复杂或经过修改的图像需要 Photoshop 等程序的高级技能和大量时间，而使用新款 Pixel 手机，现在只需要一个想法和几秒钟的时间。

Google 的立场和反馈

谷歌在其官方声明中确认，其人工智能工具的设计是为了“尊重用户提示的意图”，或者说尊重用户提示的意图，这意味着理解他们想要什么的本质并提供有用的响应，即使是请求。从字面上看是不可行的。这需要关注用户的主要目标，在必要时提供替代解决方案，同时保持原始请求的精神。这种方法促进了有效的沟通并改善了与人工智能系统交互的用户体验。

这可能会导致在用户请求时创建“攻击性”内容。

然而，该公司确认有“服务条款”定义了哪些内容是不允许的，并且将继续改进这些保障措施。

未来展望：科技公司面临的挑战

随着苹果公司距离推出自己的照片创作工具（如 Image Playground 和 Genmoji）越来越近，对 Pixel 9 发布的反应可以让我们深入了解公司在这一领域可能面临的挑战。用户可能会找到方法来规避公司提供的不创建攻击性提交的保证，无论多么严格。

结论：数字图像的未来充满不确定性

随着人工智能技术在图像创建和编辑方面的进步，我们正处于数字摄影新时代的风口浪尖。虽然苹果迄今为止一直避免使用人工智能创建逼真的图像，但谷歌正在朝着这个方向大力发展。

这一发展引发了有关数字图像的未来和可信度的基本问题。我们如何区分真假图像？这些技术的社会和伦理影响是什么？科技公司如何平衡创新与社会责任？

最终，在不久的将来，信任社交媒体和互联网上的图像似乎将变得更加困难，需要提高用户的意识并开发新工具来验证数字内容的真实性。

相片：

加拿大家园