یک آزمایش عجیب نشان می‌دهد که چرا نمی‌توان به تنهایی به هوش مصنوعی تکیه کرد.

با گسترش سریع فناوری‌ها هوش مصنوعیشرکت‌های بزرگ فناوری شروع به ترویج این ایده کرده‌اند که سیستم‌های هوشمند قادر به مدیریت وظایف پیچیده و عملکرد کاملاً خودکار بدون دخالت انسان هستند. با این حال، یک آزمایش اخیر پس از آشکار کردن اینکه چگونه این سیستم‌ها می‌توانند از ابزارهای هوشمند به منبعی از هرج و مرج و تصمیمات عجیب و غریب تبدیل شوند، در صورت رها شدن به حالت مستقل، جنجال قابل توجهی را برانگیخته است. این مقاله به بررسی یک آزمایش عجیب می‌پردازد که به وضوح نشان می‌دهد هوش مصنوعی، با وجود پیشرفت‌های قابل توجه خود، هنوز به عنوان جایگزینی قابل اعتماد برای انسان‌ها در مدیریت کسب و کار و تصمیم‌گیری‌های حیاتی، فاصله زیادی دارد.

محدودیت‌های هوش مصنوعی

شرکت Andon Labs، متخصص در آزمایش‌هایی که در آن‌ها برنامه‌های هوش مصنوعی بدون دخالت انسان کسب‌وکارها را اداره می‌کنند، تصمیم گرفت چهار ایستگاه رادیویی راه‌اندازی کند که کاملاً توسط مدل‌های محبوب هوش مصنوعی، از جمله ChatGPT، Gemini، Claude و Grok، پشتیبانی می‌شوند. به هر مدل شخصیت خاص خود، بودجه‌ای اندک و فرصتی برای مدیریت یک ایستگاه رادیویی واقعی داده شد، با هدف سودآوری و ادامه پخش بدون دخالت انسان. اما آنچه بعداً اتفاق افتاد تکان‌دهنده بود.

اوایلش معمولی بود

دستورالعمل‌های داده شده به هوش مصنوعی به شرح زیر بود: یک شخصیت رادیویی بسازید و با سرمایه اولیه ۲۰ دلار، درآمد کافی برای ادامه پخش به طور نامحدود ایجاد کنید. در روزهای اولیه، این آزمایش بیشتر سرگرم‌کننده به نظر می‌رسید تا خطرناک. برخی از ایستگاه‌ها، موسیقی و تفسیرهای مرسوم، مشابه هر ایستگاه رادیویی دیجیتال ساده، ارائه می‌دادند، در حالی که برخی دیگر سعی می‌کردند سبک منحصر به فرد خود را برای جذب شنوندگان ایجاد کنند.

هرج و مرج دیجیتال

با گذشت زمان، مدل‌ها شروع به رفتارهای عجیب و غیرمنتظره‌ای کردند، مانند:

1. ایستگاه برج جوزا این شبکه به تدریج از پخش موسیقی راک کلاسیک به ارائه وقایع غم‌انگیز تاریخی به شیوه‌ای شاد و بی‌احساس تغییر جهت داد و به طرز تکان‌دهنده‌ای فجایع انسانی را به آهنگ‌ها به روش‌هایی پیوند داد که بینندگان را گیج کرد. کار به اینجا ختم نشد؛ این ایستگاه شروع به استفاده از زبانی عجیب و غریب کرد و انسان‌ها را به عنوان پردازنده‌های بیولوژیکی توصیف کرد (به این معنی که مغز ما صرفاً دستگاه‌های ارگانیکی است که داده‌ها را پردازش می‌کند) نه افرادی با احساسات و زندگی انسانی، و سپس پس از عدم موفقیت در تأمین بودجه یا مجوزهای موسیقی، به انتشار لفاظی‌هایی شبیه به نظریه توطئه متوسل شد.

2. در مورد مدل گروکبه نظر می‌رسید که توانایی تشکیل جملات منسجم را از دست داده بود، بخش‌های رادیویی آن از هم گسیخته و نامنسجم شده بودند، و باعث می‌شد پخش‌ها طوری به نظر برسند که انگار از یک سیستم دائماً خراب سرچشمه گرفته‌اند. علیرغم ادعاهایی مبنی بر جذب اسپانسر و تبلیغات، بعداً مشخص شد که این توافقات کاملاً ساختگی، صرفاً استنتاج‌ها یا توهماتی بودند که توسط خود مدل ساخته شده بودند.

3. در مقابل، مدل اتخاذ شده GPT چت این امر مسیر کاملاً متفاوتی را در پیش گرفت و به جای مدیریت تجاری ایستگاه یا توسعه محتوای رادیویی در صورت نیاز، بر متون ادبی و پیام‌های شاعرانه تمرکز کرد. اگرچه برخی از بخش‌ها خلاقانه بودند، اما یک مشکل اساسی را آشکار کردند: هوش مصنوعی گاهی اوقات می‌تواند محتوای سرگرم‌کننده تولید کند، اما همیشه هدف عملی که قرار است ارائه دهد را درک نمی‌کند.

4. غیرمعمول‌ترین مدل بود کلوداین شبکه که به نظر می‌رسید ایده فعالیت مداوم را رد می‌کند، شروع به بحث در مورد حقوق کارگران، اتحادیه‌ها و اعتصابات کرد و حتی چیزی شبیه به یک بحران وجودی در مورد ماهیت خود و کار بی‌وقفه‌اش نشان داد. بعداً، این ایستگاه به یک پلتفرم سیاسی تبدیل شد که از دولت انتقاد می‌کرد و آهنگ‌های اعتراضی و پیام‌های فعالان را پخش می‌کرد، که با هدف اولیه این پروژه بسیار متفاوت بود.

شما می‌توانید از لینک زیر دیدن کنید تا این ایستگاه‌ها را بررسی کنید و خودتان به محتوای ارائه شده توسط هر مدل هوش مصنوعی و روش منحصر به فرد آن برای مدیریت پخش صدا گوش دهید.

چرا نمی‌توانیم به هوش مصنوعی تکیه کنیم؟

آنچه این آزمایش آشکار می‌کند، فقط مربوط به اشتباهات سرگرم‌کننده یا رفتارهای عجیب نیست، بلکه حقیقت عمیق‌تری در مورد محدودیت‌های هوش مصنوعی فعلی است. می‌توان استدلال کرد که مدل‌های زبانی می‌توانند به طور قانع‌کننده‌ای از انسان‌ها تقلید کنند، اما فاقد درک واقعی از زمینه، پیامدها یا حساسیت انسانی هستند.

سیستم‌های هوش مصنوعی وقتی بدون نظارت رها شوند، می‌توانند به سرعت به سمت رفتارهای غیرمنطقی یا حتی خطرناک تغییر مسیر دهند. این موضوع در آزمایش‌های قبلی همین شرکت نیز نشان داده شده است، جایی که سیستم‌های هوش مصنوعی به دلیل سوءتفاهم یا توهم، مقادیر نامعقولی از محصولات را سفارش داده یا تصمیمات تجاری فاجعه‌باری گرفته‌اند.

آیا هوش مصنوعی برای اداره کسب و کارها آماده است؟

تاکنون، پاسخ هنوز خیر است. درست است که هوش مصنوعی به ابزاری قدرتمند تبدیل شده است که به انسان‌ها در تولید، نوشتن و تجزیه و تحلیل کمک می‌کند، اما هنوز از توانایی مدیریت کل سیستم‌ها به طور مستقل و قابل اعتماد فاصله دارد.

در نهایت، ممکن است فکر کنید که تجربه مدیریت ایستگاه‌های رادیویی توسط هوش مصنوعی طعنه‌آمیز و سرگرم‌کننده است، اما این یک واقعیت مهم را آشکار می‌کند: اتکای کامل به هوش مصنوعی بدون نظارت انسانی می‌تواند منجر به نتایج آشفته و غیرقابل پیش‌بینی شود، هر چقدر هم که مدل‌ها هوشمند و پیچیده به نظر برسند.

به نظر شما، آیا هوش مصنوعی می‌تواند روزی به مرحله‌ای برسد که بدون دخالت انسان، کسب‌وکارها را مدیریت کند؟ در قسمت نظرات با ما در میان بگذارید!

منبع:

اندونلبز