苹果和谷歌竭尽全力地向我们灌输这样的观念：他们的应用商店是地球上最安全的地方，如同坚不可摧的堡垒，只有符合严格道德和技术标准的人才能进入。然而，人工智能似乎已经走上了一条黑暗的道路，令人惊讶的是，这些科技巨头也未能幸免于难。一份新的报告显示，专门提供“裸露”内容和虚假色情图片的应用程序仍在iPhone App Store和Google Play上蓬勃发展。更令人担忧的是，这些应用商店的算法有时会通过广告和搜索结果直接将用户引导至这些应用。
令人震惊的数据和公众存在
科技透明度项目（TTP）的报告并非基于臆测，而是由惊人的数据支撑。该报告指出，苹果应用商店中有18款应用、谷歌应用商店中有20款应用专门提供所谓的“裸露”或“裸体应用”。这些应用并非只是被藏在应用商店阴暗角落里的失败实验品；它们总共创造了约122亿美元的收入，下载量高达483亿次。没错，你没看错——我们说的是近5亿次的下载！
讽刺的是，其中一些应用被评为“E”（适合所有人），这意味着任何拥有设备的儿童都可以轻松访问它们。当家长们努力限制孩子的屏幕时间时，“官方”应用商店却在提供一些工具，这些工具可以利用深度伪造技术将真人照片转换成色情图片，或将他们的脸植入不雅视频中。
搜索算法：糟糕内容的旅游指南
问题不仅在于这些应用程序的存在，还在于用户如何访问它们。报告指出，搜索特定关键词可以轻松找到这些工具。令人惊讶的是，这些平台本身也在搜索结果中投放类似应用程序的广告，这使得苹果和谷歌成为共犯。即使是无意的- 分发将真人转化为性图像的工具。
有些应用通过将一位女演员的脸叠加到另一位女演员的身体上进行宣传，允许用户将真实的脸替换到衣着暴露的女性身上，但它们的年龄评级却仍然适合所有人。看来应用商店的评论员需要戴上人工智能眼镜才能看到显而易见的事实！
政府的反应和行动
丑闻曝光后，各大公司一如既往地急于发表官方声明。苹果公司告诉彭博社，已下架15款被曝光的应用；谷歌则表示已暂停部分应用的运行，并确认其政策禁止露骨的性内容，目前调查和执法工作仍在进行中。但问题依然存在：为什么我们总是需要一份外部报告来完成数十亿个审核系统本应完成的工作？
这种监管不力促使各国政府采取行动。在英国，儿童事务专员呼吁禁止使用深度伪造应用程序制作儿童性露骨图像。美国和其他国家也提出了禁止露骨深度伪造图像的法律提案。甚至加州总检察长最近也下令埃隆·马斯克的公司X停止使用其人工智能模型Grok制作露骨的深度伪造图像。
相片：
2条评论