Công cụ trí tuệ nhân tạo của Google để tạo và chỉnh sửa hình ảnh: Sự sáng tạo gây lo ngại

Trong thế giới công nghệ đang phát triển nhanh chóng, Google đang đứng trước bờ vực của một cuộc cách mạng mới trong lĩnh vực điện thoại thông minh và trí tuệ nhân tạo. Với sự ra mắt của hàng loạt điện thoại Pixel 9 Gần đây, công ty đã giới thiệu một bộ công cụ sáng tạo dựa trên AI để tạo và chỉnh sửa hình ảnh. Nhưng những công cụ này, bất chấp sự sáng tạo của chúng, đã gây ra những lo ngại nghiêm trọng về khả năng bị lạm dụng và tác động của chúng đối với tính xác thực của hình ảnh trong thời đại kỹ thuật số này.

Pixel Studio là công cụ tạo ảnh gây tranh cãi

Một trong những bổ sung mới đáng chú ý nhất cho điện thoại Pixel 9 là tính năng Pixel Studio, được thiết kế để tạo nhãn dán và ảnh bằng lệnh văn bản, rất giống với tính năng Image Playground mà Apple dự định ra mắt trong iOS 18. Tuy nhiên, khả năng của Pixel Studio không chỉ dừng lại ở việc tạo ra những bức ảnh dễ thương cho mèo, thỏ và các tòa nhà.

Khả năng đáng báo động

Người đánh giá đã có thể tạo ra nhiều loại hình ảnh gây tranh cãi bằng Pixel Studio. Ví dụ:

◉ Một phiên bản SpongeBob của Đức Quốc xã.

◉ Hình ảnh Elmo cầm súng trường AK47.

◉ Nhân vật hoạt hình nổi tiếng trong những tình huống không phù hợp liên quan đến ma túy và rượu.

◉ Hình ảnh các tình huống bạo lực như xả súng ở trường học.

Mặc dù Pixel Studio không tự động tạo ra những loại hình ảnh này nhưng khả năng dễ dàng sản xuất chúng theo yêu cầu làm dấy lên mối lo ngại nghiêm trọng về khả năng lạm dụng công nghệ này.

Trong video quảng cáo này, chúng tôi thấy Google khuyến khích bạn tạo hình ảnh để trêu chọc bạn bè.

Phản ứng của Google trước những lời chỉ trích

Trong nỗ lực giải quyết những lo ngại này, Google cho biết họ đã tiến hành “kiểm tra bảo mật” để ngăn Pixel Studio bị sử dụng “một cách độc hại”. Các thủ tục này bao gồm:

◉ Ngăn chặn việc tạo ra hình ảnh của người thật.

◉ Sửa đổi AI để đáp lại các đánh giá và phê bình.

◉ Cấm tạo hình ảnh các nhân vật hoạt hình sử dụng ma túy hoặc mặc quân phục lính Đức.

Công cụ “Reimagine” chỉnh sửa hình ảnh với độ chân thực đáng kinh ngạc

Cùng với ứng dụng Pixel Studio, Google đã giới thiệu công cụ “Reimagine”, cho phép người dùng thêm các yếu tố vào những bức ảnh đã có sẵn. Công cụ này thậm chí còn đáng lo ngại hơn Pixel Studio, có khả năng:

◉ Thêm các yếu tố có độ chân thực cao vào ảnh, chẳng hạn như xác chết, bom, ma túy, thảm họa và tai nạn.

◉ Kết hợp chính xác ánh sáng và phối cảnh với ảnh gốc.

◉ Tạo ra hình ảnh chỉnh sửa khó phân biệt với hình ảnh thật.

Nhìn vào hình trên, bên trái là ảnh thật gốc và bên phải là ảnh được chỉnh sửa bằng công cụ AI của Reimagine. Vấn đề còn đi xa hơn thế, vì bạn có thể đặt ma túy và rượu bên cạnh một người mà mọi người tin tưởng hoặc một học giả đáng tin cậy, từ đó khơi dậy sự cám dỗ như những mảnh vỡ của đêm tối.

Chủ nghĩa hiện thực của các hình ảnh Tưởng tượng lại làm dấy lên mối lo ngại nghiêm trọng về tính xác thực của hình ảnh trên mạng xã hội và Internet. Mặc dù Google thêm thẻ siêu dữ liệu vào hình ảnh đã chỉnh sửa nhưng bạn có thể dễ dàng xóa thẻ này bằng cách chụp ảnh màn hình.

Mặt tích cực: tiềm năng sáng tạo to lớn

Bất chấp những lo ngại xung quanh những công cụ này, điều quan trọng cần lưu ý là tiềm năng tích cực và sáng tạo của chúng. Pixel Studio và Reimagine có thể được sử dụng để tạo ra những hình ảnh vui nhộn và sáng tạo, chẳng hạn như:

◉ Thêm hoàng hôn và cầu vồng vào ảnh.

◉ Tạo hình ảnh bánh pizza Oreo.

◉ Quay phim hươu cao cổ lướt sóng.

◉ Tạo hình ảnh mèo con đang chơi bóng rổ.

Điều làm nên sự khác biệt của các công cụ mới của Google là tính dễ sử dụng và tốc độ tạo hình ảnh của chúng. Mặc dù việc tạo các hình ảnh phức tạp hoặc được sửa đổi trước đây đòi hỏi các kỹ năng nâng cao trong các chương trình như Photoshop và rất nhiều thời gian, nhưng với điện thoại Pixel mới, giờ đây việc này chỉ cần một ý tưởng và vài giây.

Vị trí và phản hồi của Google

Trong tuyên bố chính thức của mình, Google xác nhận rằng họ đã thiết kế các công cụ AI của mình để “tôn trọng ý định của lời nhắc của người dùng” hoặc tôn trọng ý định của lời nhắc của người dùng. Điều này có nghĩa là hiểu được bản chất của những gì họ muốn và đưa ra phản hồi hữu ích, ngay cả khi có yêu cầu. theo nghĩa đen là không thể hành động được. Điều này đòi hỏi phải tập trung vào mục tiêu chính của người dùng, đưa ra các giải pháp thay thế khi cần thiết, đồng thời duy trì tinh thần của yêu cầu ban đầu. Cách tiếp cận này thúc đẩy giao tiếp hiệu quả và cải thiện trải nghiệm người dùng khi tương tác với hệ thống AI.

Điều này có thể dẫn đến việc tạo ra nội dung “xúc phạm” khi người dùng yêu cầu.

Tuy nhiên, công ty xác nhận rằng có “Điều khoản dịch vụ” xác định nội dung nào không được phép và công ty sẽ tiếp tục cải thiện các biện pháp bảo vệ này.

Triển vọng tương lai: Những thách thức mà các công ty công nghệ phải đối mặt

Khi Apple tiến gần hơn đến việc tung ra các công cụ tạo ảnh của riêng mình, như Image Playground và Genmoji, phản ứng về việc ra mắt Pixel 9 cung cấp cái nhìn sâu sắc về những thách thức mà các công ty có thể gặp phải trong lĩnh vực này. Người dùng có thể sẽ tìm cách phá vỡ những đảm bảo mà các công ty đưa ra để không tạo ra một bài gửi mang tính xúc phạm, bất kể nghiêm ngặt đến đâu.

Kết luận: Một tương lai không chắc chắn cho hình ảnh kỹ thuật số

Với sự tiến bộ của công nghệ trí tuệ nhân tạo trong việc tạo và chỉnh sửa hình ảnh, chúng ta đang đứng trước một kỷ nguyên mới trong lĩnh vực nhiếp ảnh kỹ thuật số. Trong khi Apple cho đến nay vẫn tránh tạo ra những hình ảnh chân thực bằng AI thì Google lại đang đi mạnh mẽ theo hướng này.

Sự phát triển này đặt ra những câu hỏi cơ bản về tương lai và độ tin cậy của hình ảnh kỹ thuật số. Làm sao chúng ta có thể phân biệt được ảnh thật và ảnh giả? Ý nghĩa xã hội và đạo đức của những công nghệ này là gì? Làm thế nào các công ty công nghệ có thể cân bằng giữa đổi mới và trách nhiệm xã hội?

Cuối cùng, có vẻ như việc tin tưởng vào hình ảnh trên mạng xã hội và Internet sẽ trở nên khó khăn hơn trong tương lai gần, đòi hỏi người dùng phải nâng cao nhận thức và phát triển các công cụ mới để xác minh tính xác thực của nội dung số.

Nguồn:

macruors