Apple và Google đang nỗ lực hết sức để thuyết phục chúng ta rằng các cửa hàng ứng dụng của họ là những nơi an toàn nhất trên Trái đất, giống như những pháo đài bất khả xâm phạm chỉ những người đáp ứng các tiêu chuẩn đạo đức và kỹ thuật nghiêm ngặt mới có thể tiếp cận. Nhưng dường như trí tuệ nhân tạo đã quyết định đi theo một con đường đen tối, và đáng ngạc nhiên là, những công ty lớn này cũng không tránh khỏi hậu quả. Một báo cáo mới tiết lộ rằng các ứng dụng chuyên về "ảnh khỏa thân" và hình ảnh khiêu dâm giả mạo vẫn đang phát triển mạnh trên App Store của iPhone và Google Play. Thậm chí đáng báo động hơn, các thuật toán của các cửa hàng này đôi khi hướng người dùng trực tiếp đến chúng thông qua quảng cáo và kết quả tìm kiếm.
Những con số gây sốc và sự hiện diện trước công chúng
Báo cáo của Dự án Minh bạch Công nghệ (TTP) không chỉ dựa trên suy đoán đơn thuần; nó được hỗ trợ bởi những con số đáng kinh ngạc. Báo cáo đã xác định 18 ứng dụng trên Apple App Store và 20 ứng dụng trên Google Play Store chuyên về thể loại được gọi là "nudify" hay ứng dụng khỏa thân. Những ứng dụng này không chỉ là những thử nghiệm thất bại bị giấu kín trong các góc tối của cửa hàng ứng dụng; chúng đã tạo ra tổng cộng khoảng 122 triệu đô la doanh thu và được tải xuống 483 triệu lần. Vâng, bạn không đọc nhầm đâu – chúng ta đang nói về gần nửa tỷ lượt tải xuống!
Điều trớ trêu ở đây là một số ứng dụng này được xếp hạng “E” (phù hợp với mọi lứa tuổi), nghĩa là bất kỳ đứa trẻ nào có thiết bị đều có thể dễ dàng truy cập chúng. Trong khi các bậc phụ huynh đang vật lộn để hạn chế thời gian sử dụng màn hình của con cái, các cửa hàng ứng dụng “chính thức” lại cung cấp các công cụ có thể biến ảnh của người thật thành hình ảnh khiêu dâm hoặc chèn khuôn mặt của họ vào các video không phù hợp bằng công nghệ deepfake.
Thuật toán tìm kiếm: Hướng dẫn dành cho du khách về nội dung kém chất lượng
Vấn đề không chỉ nằm ở sự tồn tại của các ứng dụng, mà còn ở cách người dùng truy cập chúng. Báo cáo cho rằng việc tìm kiếm các từ khóa cụ thể giúp dễ dàng truy cập vào các công cụ này. Điều đáng ngạc nhiên là chính các nền tảng này cũng hiển thị quảng cáo cho các ứng dụng tương tự trong kết quả tìm kiếm, khiến Apple và Google trở thành đồng phạm.Dù là vô tình- Trong việc phân phối các công cụ biến người thật thành hình ảnh khiêu dâm.
Có những ứng dụng tự quảng bá bằng cách ghép khuôn mặt của một nữ diễn viên lên thân hình của một nữ diễn viên khác, cho phép người dùng ghép khuôn mặt thật lên những phụ nữ ăn mặc hở hang, nhưng vẫn được xếp hạng độ tuổi phù hợp với mọi người. Có vẻ như những người kiểm duyệt trên cửa hàng ứng dụng cần kính AI để nhìn thấy điều mà ai cũng thấy rõ!
Phản ứng và hành động của chính phủ
Sau khi vụ bê bối này bị phanh phui, các công ty, như thường lệ, vội vàng tìm cách trốn tránh trách nhiệm bằng những tuyên bố chính thức. Apple nói với Bloomberg rằng họ đã gỡ bỏ 15 ứng dụng bị xác định, trong khi Google cho biết họ đã tạm đình chỉ một số ứng dụng và xác nhận rằng chính sách của họ cấm nội dung khiêu dâm và quá trình điều tra và thực thi vẫn đang tiếp diễn. Nhưng câu hỏi vẫn còn đó: tại sao chúng ta luôn cần một báo cáo bên ngoài để làm công việc mà hàng tỷ hệ thống kiểm duyệt tự động lẽ ra phải làm?
Sự lơ là này đã khiến các chính phủ phải hành động. Tại Vương quốc Anh, Ủy viên Trẻ em đã kêu gọi cấm các ứng dụng deepfake tạo ra hình ảnh khiêu dâm trẻ em. Hoa Kỳ và các quốc gia khác cũng đã đề xuất luật cấm deepfake khiêu dâm. Thậm chí, Tổng chưởng lý California gần đây đã ra lệnh cho công ty X của Elon Musk ngừng sản xuất hình ảnh deepfake khiêu dâm bằng mô hình trí tuệ nhân tạo Grok của mình.
Nguồn:
2 nhận xét