Di dunia teknologi yang semakin pesat, Google berada di ambang revolusi baru di bidang ponsel pintar dan kecerdasan buatan. Dengan diluncurkannya serangkaian ponsel Pixel 9 Baru-baru ini, perusahaan memperkenalkan seperangkat alat inovatif berbasis AI untuk membuat dan mengedit gambar. Namun alat-alat ini, terlepas dari kreativitasnya, telah menimbulkan kekhawatiran serius mengenai potensi penyalahgunaan dan dampaknya terhadap keaslian gambar di era digital ini.
Pixel Studio adalah alat pembuatan foto yang kontroversial
Salah satu tambahan baru yang paling menonjol pada ponsel Pixel 9 adalah fitur Pixel Studio, yang dirancang untuk membuat stiker dan foto menggunakan perintah teks, sangat mirip dengan fitur Image Playground yang rencananya akan diluncurkan Apple di iOS 18. Namun, kemampuan Pixel Studio lebih dari sekadar membuat foto lucu untuk kucing, kelinci, dan bangunan.
Kemungkinan yang mengkhawatirkan
Peninjau dapat membuat berbagai macam gambar kontroversial dengan Pixel Studio. Misalnya:
◉ SpongeBob versi Nazi.
◉ Gambar Elmo memegang senapan AK47.
◉ Karakter kartun terkenal dalam situasi tidak pantas yang melibatkan narkoba dan alkohol.
◉ Gambar situasi kekerasan seperti penembakan di sekolah.
Meskipun Pixel Studio tidak secara otomatis membuat jenis gambar ini, kemampuannya untuk memproduksinya sesuai permintaan dengan mudah menimbulkan kekhawatiran serius tentang potensi penyalahgunaan teknologi ini.
Dalam video iklan ini, kami melihat Google mendorong Anda membuat gambar untuk mengolok-olok teman Anda.
Tanggapan Google terhadap kritik
Dalam upaya untuk mengatasi masalah ini, Google mengatakan telah melakukan “pemeriksaan keamanan” untuk mencegah Pixel Studio digunakan “secara jahat.” Prosedur-prosedur ini meliputi:
◉ Cegah pembuatan gambar orang sungguhan.
◉ Ubah AI sebagai tanggapan terhadap ulasan dan kritik.
◉ Melarang pembuatan gambar tokoh kartun dengan menggunakan narkoba atau mengenakan seragam tentara Jerman.
Alat “Reimagine” mengedit gambar dengan realisme yang menakjubkan
Bersamaan dengan aplikasi Pixel Studio, Google telah memperkenalkan alat “Reimagine”, yang memungkinkan pengguna menambahkan elemen ke foto yang sudah ada. Alat yang lebih mengkhawatirkan daripada Pixel Studio ini memiliki kemampuan untuk:
◉ Tambahkan elemen yang sangat realistis ke foto, seperti mayat, bom, obat-obatan, bencana, dan kecelakaan.
◉ Mencocokkan pencahayaan dan perspektif secara akurat dengan gambar aslinya.
◉ Menghasilkan gambar hasil modifikasi yang sulit dibedakan dengan gambar asli.
Perhatikan gambar diatas, di sebelah kiri adalah gambar asli asli dan di sebelah kanan adalah gambar yang dimodifikasi oleh alat AI Reimagine. Masalahnya lebih dari itu, karena Anda dapat menempatkan narkoba dan alkohol di samping orang yang dipercaya atau ulama yang dipercaya, sehingga menimbulkan godaan seperti potongan malam yang gelap.
Realisme gambar Reimagine menimbulkan kekhawatiran serius tentang keaslian gambar di media sosial dan Internet. Meskipun Google menambahkan tag metadata ke gambar yang diedit, tag tersebut dapat dengan mudah dihapus dengan mengambil tangkapan layar.
Sisi positifnya: potensi kreatif yang sangat besar
Terlepas dari kekhawatiran seputar alat-alat ini, penting untuk memperhatikan potensi positif dan kreatifnya. Pixel Studio dan Reimagine dapat digunakan untuk membuat gambar yang menyenangkan dan kreatif, seperti:
◉ Tambahkan matahari terbenam dan pelangi ke foto.
◉ Buat gambar pizza Oreo.
◉ Merekam jerapah sedang berselancar di ombak.
◉ Buat gambar anak kucing bermain basket.
Yang membedakan alat baru Google ini adalah kemudahan penggunaannya dan kecepatan produksi gambar. Meskipun membuat gambar yang rumit atau dimodifikasi sebelumnya memerlukan keterampilan tingkat lanjut dalam program seperti Photoshop dan banyak waktu, kini hanya membutuhkan ide dan beberapa detik dengan ponsel Pixel baru.
Posisi dan masukan Google
Dalam pernyataan resminya, Google menegaskan bahwa mereka merancang alat AI-nya untuk “menghormati maksud dari permintaan pengguna,” atau menghormati maksud dari permintaan pengguna. Ini berarti memahami esensi dari apa yang mereka inginkan dan memberikan respons yang berguna, bahkan jika permintaan tersebut secara harfiah tidak dapat ditindaklanjuti. Hal ini memerlukan fokus pada tujuan utama pengguna, menawarkan solusi alternatif bila diperlukan, dengan tetap menjaga semangat permintaan awal. Pendekatan ini mendorong komunikasi yang efektif dan meningkatkan pengalaman pengguna dalam interaksi dengan sistem AI.
Hal ini dapat menyebabkan pembuatan konten yang “menyinggung” jika diminta oleh pengguna.
Namun, perusahaan menegaskan bahwa terdapat “Ketentuan Layanan” yang menjelaskan konten apa yang tidak diizinkan, dan perusahaan akan terus meningkatkan perlindungan ini.
Prospek masa depan: Tantangan yang dihadapi perusahaan teknologi
Saat Apple semakin dekat untuk meluncurkan alat pembuatan fotonya sendiri, seperti Image Playground dan Genmoji, reaksi terhadap peluncuran Pixel 9 menawarkan wawasan tentang tantangan yang mungkin dihadapi perusahaan di bidang ini. Pengguna kemungkinan akan dapat menemukan cara untuk menghindari jaminan yang ditawarkan perusahaan untuk tidak membuat kiriman yang menyinggung, tidak peduli seberapa ketatnya.
Kesimpulan: Masa depan gambar digital yang tidak pasti
Dengan kemajuan teknologi kecerdasan buatan dalam pembuatan dan pengeditan gambar, kita berada di titik puncak era baru dalam fotografi digital. Meskipun Apple sejauh ini menghindari pembuatan gambar fotorealistik menggunakan AI, Google bergerak kuat ke arah ini.
Perkembangan ini menimbulkan pertanyaan mendasar tentang masa depan dan kredibilitas gambar digital. Bagaimana kita bisa membedakan gambar asli dan palsu? Apa implikasi sosial dan etika dari teknologi ini? Bagaimana perusahaan teknologi dapat menyeimbangkan inovasi dan tanggung jawab sosial?
Pada akhirnya, tampaknya kepercayaan terhadap gambar di media sosial dan Internet akan menjadi lebih sulit di masa depan, sehingga memerlukan peningkatan kesadaran dari pengguna dan pengembangan alat baru untuk memverifikasi keaslian konten digital.
Sumber:
13 ulasan