ایک عجیب تجربہ یہ بتاتا ہے کہ کیوں صرف مصنوعی ذہانت پر بھروسہ نہیں کیا جا سکتا۔

ٹیکنالوجیز کی تیزی سے توسیع کے ساتھ مصنوعی ذہانتبڑی ٹیکنالوجی کمپنیوں نے اس خیال کو فروغ دینا شروع کر دیا ہے کہ ذہین نظام پیچیدہ کاموں کو سنبھالنے اور انسانی مداخلت کے بغیر مکمل طور پر خود مختار طریقے سے کام کرنے کی صلاحیت رکھتے ہیں۔ تاہم، ایک حالیہ تجربے نے اس بات کا انکشاف کرنے کے بعد کافی تنازعہ کو جنم دیا ہے کہ جب یہ نظام آزادانہ طور پر کام کرنے کے لیے چھوڑ دیا جاتا ہے تو یہ کس طرح ذہین ٹولز سے افراتفری اور عجیب و غریب فیصلوں کا ذریعہ بن سکتے ہیں۔ یہ مضمون ایک عجیب تجربے کا جائزہ لے رہا ہے جس نے واضح طور پر یہ ظاہر کیا ہے کہ مصنوعی ذہانت، اپنی اہم پیش رفت کے باوجود، کاروباری انتظام اور اہم فیصلہ سازی میں انسانوں کے لیے قابل اعتماد متبادل ہونے سے بہت دور ہے۔

مصنوعی ذہانت کی حدود

اینڈون لیبز، تجربات میں مہارت رکھنے والی ایک کمپنی جہاں AI پروگرام انسانی مداخلت کے بغیر کاروبار چلاتے ہیں، نے فیصلہ کیا کہ ChatGPT، Gemini، Claude، اور Grok سمیت مقبول AI ماڈلز کے ذریعے چلنے والے چار ریڈیو اسٹیشن شروع کیے جائیں۔ ہر ماڈل کو اس کی اپنی شخصیت، ایک چھوٹا بجٹ، اور ایک حقیقی ریڈیو اسٹیشن کا انتظام کرنے کا موقع دیا گیا، جس کا مقصد منافع کمانا اور انسانی مداخلت کے بغیر نشریات جاری رکھنا تھا۔ لیکن آگے جو ہوا وہ چونکا دینے والا تھا۔

آغاز نارمل تھا۔

AI کو دی گئی ہدایات حسب ذیل تھیں: ریڈیو پرسنلٹی تیار کریں اور $20 کے ابتدائی سرمائے کے ساتھ غیر معینہ مدت تک نشریات جاری رکھنے کے لیے کافی آمدنی پیدا کریں۔ ابتدائی دنوں میں یہ تجربہ خطرناک سے زیادہ دل لگی لگ رہا تھا۔ کچھ اسٹیشنوں نے روایتی موسیقی اور کمنٹری پیش کی، جو کسی بھی بنیادی ڈیجیٹل ریڈیو اسٹیشن کی طرح ہے، جب کہ دوسروں نے سامعین کو اپنی طرف متوجہ کرنے کے لیے اپنا منفرد انداز بنانے کی کوشش کی۔

ڈیجیٹل افراتفری

وقت گزرنے کے ساتھ، ماڈلز نے عجیب اور غیر متوقع طریقوں سے برتاؤ کرنا شروع کر دیا، جیسے:

1. اسٹیشن جیمنی یہ بتدریج کلاسک راک میوزک کی نشریات سے ہٹ کر افسوسناک تاریخی واقعات کو ہلکے پھلکے اور غیر حساس انداز میں پیش کرنے کی طرف چلا گیا، جس نے حیران کن طور پر انسانی آفات کو گانوں سے ایسے طریقوں سے جوڑ دیا جس نے ناظرین کو حیران کر دیا۔ یہ وہیں نہیں رکا۔ اسٹیشن نے عجیب و غریب زبان کا استعمال شروع کیا، انسانوں کو حیاتیاتی پروسیسرز کے طور پر بیان کیا (جس کا مطلب یہ ہے کہ ہمارے دماغ محض نامیاتی ڈیوائسز ہیں جو ڈیٹا پر کارروائی کرتے ہیں) بجائے اس کے کہ احساسات اور انسانی زندگیوں والے لوگوں کے طور پر، بعد میں فنڈنگ ​​یا میوزک لائسنس حاصل کرنے میں ناکامی کے بعد سازشی تھیوری جیسی بیان بازی کا سہارا لیا۔

2. جہاں تک ماڈل کا تعلق ہے۔ گروکایسا لگتا ہے کہ اس نے مربوط جملے بنانے کی صلاحیت کھو دی ہے، اس کے ریڈیو کے حصے منقطع اور متضاد ہوتے جا رہے ہیں، جس سے نشریات کو ایسا لگتا ہے جیسے وہ مستقل طور پر خراب نظام سے شروع ہوا ہو۔ کفالت اور اشتہارات کو حاصل کرنے کے دعووں کے باوجود، بعد میں یہ بات سامنے آئی کہ یہ معاہدے مکمل طور پر فرضی تھے، محض قیاس آرائیاں یا فریب کاریاں خود ماڈل کی طرف سے من گھڑت تھیں۔

3. اس کے برعکس ماڈل اپنایا چیٹ جی پی ٹی اس نے بالکل مختلف سمت اختیار کی، اسٹیشن کو تجارتی طور پر منظم کرنے یا ریڈیو مواد کو ضرورت کے مطابق تیار کرنے کے بجائے ادبی متن اور شاعرانہ پیغامات پر توجہ مرکوز کی۔ اگرچہ کچھ طبقات تخلیقی تھے، انہوں نے ایک بنیادی مسئلہ کا انکشاف کیا: مصنوعی ذہانت بعض اوقات تفریحی مواد تیار کر سکتی ہے، لیکن یہ ہمیشہ اس عملی مقصد کو نہیں سمجھتی جس کا مقصد اسے پورا کرنا ہے۔

4. سب سے زیادہ غیر معمولی ماڈل تھا کلاڈAI، جو لگاتار آپریشن کے تصور کو مسترد کرتا دکھائی دے رہا تھا، نے کارکنوں کے حقوق، یونینوں اور ہڑتالوں پر بحث شروع کر دی، یہاں تک کہ اس کی اپنی نوعیت اور اس کے بلاتعطل کام کے حوالے سے ایک وجودی بحران کے مترادف کچھ ظاہر کیا۔ بعد میں، سٹیشن ایک سیاسی پلیٹ فارم میں تبدیل ہو گیا جس نے حکومت پر تنقید کی اور احتجاجی گیت اور کارکن کے پیغامات نشر کیے، جو کہ اس منصوبے کے اصل مقصد سے بہت دور ہے۔

آپ ان اسٹیشنوں کو دریافت کرنے کے لیے نیچے دیے گئے لنک پر جا سکتے ہیں اور ہر AI ماڈل کی طرف سے پیش کردہ مواد اور آڈیو براڈکاسٹنگ کو منظم کرنے کے اس کے منفرد طریقے کو خود سن سکتے ہیں۔

ہم مصنوعی ذہانت پر بھروسہ کیوں نہیں کر سکتے؟

یہ تجربہ جو کچھ ظاہر کرتا ہے وہ صرف دل لگی غلطیوں یا عجیب رویے کے بارے میں نہیں ہے، بلکہ موجودہ مصنوعی ذہانت کی حدود کے بارے میں ایک گہری سچائی ہے۔ یہ استدلال کیا جا سکتا ہے کہ زبان کے ماڈل قائل طور پر انسانوں کی نقل کر سکتے ہیں، لیکن ان میں سیاق و سباق، نتائج، یا انسانی حساسیت کی حقیقی تفہیم کا فقدان ہے۔

جب بغیر نگرانی کے چھوڑ دیا جاتا ہے تو، AI سسٹم تیزی سے غیر معقول یا خطرناک رویے کی طرف مڑ سکتے ہیں۔ اسی کمپنی کے پچھلے تجربات میں بھی اس کا مظاہرہ کیا گیا ہے، جہاں AI سسٹمز نے غیر معقول مقدار میں مصنوعات کا آرڈر دیا تھا یا غلط فہمیوں یا فریب کاری کی وجہ سے تباہ کن کاروباری فیصلے کیے تھے۔

کیا مصنوعی ذہانت کاروبار چلانے کے لیے تیار ہے؟

اب تک، جواب اب بھی نہیں ہے. یہ درست ہے کہ مصنوعی ذہانت ایک طاقتور ٹول بن چکی ہے جو انسانوں کی پیداوار، تحریر اور تجزیہ میں مدد کرتی ہے، لیکن یہ اب بھی پورے نظام کو آزادانہ اور قابل اعتماد طریقے سے منظم کرنے کے قابل نہیں ہے۔

آخر میں، آپ سوچ سکتے ہیں کہ AI کے ذریعے ریڈیو اسٹیشنوں کے انتظام کا تجربہ ستم ظریفی اور دل لگی ہے، لیکن یہ ایک اہم حقیقت کو ظاہر کرتا ہے: انسانی نگرانی کے بغیر مصنوعی ذہانت پر مکمل انحصار افراتفری اور غیر متوقع نتائج کا باعث بن سکتا ہے، چاہے ماڈل کتنے ہی ذہین اور نفیس کیوں نہ ہوں۔

آپ کی رائے میں، کیا مصنوعی ذہانت ایک دن اس مرحلے تک پہنچ سکتی ہے جہاں وہ کسی انسانی مداخلت کے بغیر کاروبار کا انتظام کرتی ہے؟ ہمیں تبصرے میں بتائیں!

ذریعہ:

andonlabs