Sebuah eksperimen aneh mengungkap mengapa kecerdasan buatan saja tidak dapat diandalkan.

Dengan pesatnya perkembangan teknologi Kecerdasan buatanPerusahaan teknologi besar telah mulai mempromosikan gagasan bahwa sistem cerdas mampu mengelola tugas-tugas kompleks dan beroperasi sepenuhnya secara otonom tanpa campur tangan manusia. Namun, sebuah eksperimen baru-baru ini telah memicu kontroversi yang cukup besar setelah mengungkapkan bagaimana sistem-sistem ini dapat berubah dari alat cerdas menjadi sumber kekacauan dan keputusan aneh ketika dibiarkan beroperasi secara independen. Artikel ini mengkaji sebuah eksperimen aneh yang dengan jelas menunjukkan bahwa kecerdasan buatan, meskipun telah mengalami kemajuan yang signifikan, masih jauh dari menjadi pengganti yang andal bagi manusia dalam manajemen bisnis dan pengambilan keputusan penting.

Batasan kecerdasan buatan

Andon Labs, sebuah perusahaan yang mengkhususkan diri dalam eksperimen di mana program AI menjalankan bisnis tanpa campur tangan manusia, memutuskan untuk meluncurkan empat stasiun radio yang sepenuhnya didukung oleh model AI populer, termasuk ChatGPT, Gemini, Claude, dan Grok. Setiap model diberi kepribadiannya sendiri, anggaran kecil, dan kesempatan untuk mengelola stasiun radio sungguhan, dengan tujuan menghasilkan keuntungan dan terus menyiarkan tanpa campur tangan manusia. Namun, apa yang terjadi selanjutnya sungguh mengejutkan.

Awalnya normal saja.

Instruksi yang diberikan kepada AI adalah sebagai berikut: mengembangkan kepribadian radio dan menghasilkan pendapatan yang cukup untuk melanjutkan siaran tanpa batas waktu dengan modal awal $20. Pada awalnya, eksperimen ini tampak lebih menghibur daripada berbahaya. Beberapa stasiun menawarkan musik dan komentar konvensional, mirip dengan stasiun radio digital dasar lainnya, sementara yang lain mencoba menciptakan gaya unik mereka sendiri untuk menarik pendengar.

Kekacauan digital

Seiring waktu, model-model tersebut mulai berperilaku dengan cara yang aneh dan tak terduga, seperti:

1. Stasiun Gemini Secara bertahap, stasiun radio tersebut beralih dari menyiarkan musik rock klasik ke menyajikan peristiwa sejarah tragis dengan cara yang ringan dan tidak sensitif, secara mengejutkan menghubungkan bencana kemanusiaan dengan lagu-lagu dengan cara yang membingungkan pemirsa. Tidak berhenti sampai di situ; stasiun tersebut mulai menggunakan bahasa yang aneh, menggambarkan manusia sebagai prosesor biologis (menyiratkan bahwa otak kita hanyalah perangkat organik yang memproses data) daripada sebagai manusia dengan perasaan dan kehidupan manusia, sebelum kemudian beralih ke penyebaran retorika seperti teori konspirasi setelah gagal mendapatkan pendanaan atau lisensi musik.

2. Adapun modelnya GrokoTampaknya ia telah kehilangan kemampuan untuk membentuk kalimat yang koheren, segmen radionya menjadi terputus-putus dan tidak koheren, membuat siaran terdengar seperti berasal dari sistem yang selalu mengalami kerusakan. Terlepas dari klaim telah mendapatkan sponsor dan iklan, kemudian terungkap bahwa perjanjian-perjanjian ini sepenuhnya fiktif, hanya kesimpulan atau halusinasi yang dibuat oleh model itu sendiri.

3. Sebaliknya, model yang diadopsi ChatGPT Hal ini mengambil arah yang sama sekali berbeda, berfokus pada teks sastra dan pesan puitis daripada mengelola stasiun secara komersial atau mengembangkan konten radio sesuai kebutuhan. Meskipun beberapa segmen kreatif, hal itu mengungkapkan masalah mendasar: kecerdasan buatan terkadang dapat menghasilkan konten yang menghibur, tetapi tidak selalu memahami tujuan praktis yang seharusnya dipenuhinya.

4. Model yang paling tidak biasa adalah ClaudeAI tersebut, yang tampaknya menolak gagasan operasi berkelanjutan, mulai membahas hak-hak pekerja, serikat pekerja, dan pemogokan, bahkan menunjukkan sesuatu yang mirip dengan krisis eksistensial mengenai sifatnya sendiri dan pekerjaannya yang tak terputus. Kemudian, stasiun tersebut berubah menjadi platform politik yang mengkritik pemerintah dan menyiarkan lagu-lagu protes serta pesan-pesan aktivis, sangat jauh dari tujuan awal proyek tersebut.

Anda dapat mengunjungi tautan di bawah ini untuk menjelajahi stasiun-stasiun ini dan mendengarkan sendiri konten yang ditawarkan oleh setiap model AI dan cara uniknya dalam mengelola siaran audio.

Mengapa kita tidak bisa mengandalkan kecerdasan buatan?

Apa yang diungkapkan oleh eksperimen ini bukan hanya tentang kesalahan yang lucu atau perilaku aneh, tetapi juga kebenaran yang lebih dalam tentang keterbatasan kecerdasan buatan saat ini. Dapat dikatakan bahwa model bahasa dapat meniru manusia secara meyakinkan, tetapi mereka kurang memiliki pemahaman yang tulus tentang konteks, konsekuensi, atau kepekaan manusia.

Jika dibiarkan tanpa pengawasan, sistem AI dapat dengan cepat beralih ke perilaku irasional atau bahkan berbahaya. Hal ini juga telah dibuktikan dalam eksperimen sebelumnya oleh perusahaan yang sama, di mana sistem AI memesan produk dalam jumlah yang tidak wajar atau membuat keputusan bisnis yang buruk karena kesalahpahaman atau halusinasi.

Apakah kecerdasan buatan siap untuk menjalankan bisnis?

Sejauh ini, jawabannya masih belum. Memang benar bahwa kecerdasan buatan telah menjadi alat yang ampuh yang membantu manusia dalam produksi, penulisan, dan analisis, tetapi masih jauh dari kemampuan untuk mengelola seluruh sistem secara mandiri dan andal.

Terakhir, Anda mungkin berpikir bahwa pengalaman mengelola stasiun radio oleh AI itu ironis dan lucu, tetapi hal itu mengungkapkan realitas penting: ketergantungan penuh pada kecerdasan buatan tanpa pengawasan manusia dapat menyebabkan hasil yang kacau dan tidak dapat diprediksi, tidak peduli seberapa cerdas dan canggih model tersebut.

Menurut Anda, apakah kecerdasan buatan suatu hari nanti dapat mencapai tahap di mana ia mengelola bisnis tanpa campur tangan manusia? Berikan pendapat Anda di kolom komentar!

Sumber:

andonlabs