ایسا لگتا ہے کہ ہم مصنوعی ذہانت کے دور میں ایک ایسے موڑ پر پہنچ گئے ہیں جو شناخت کی چوری اور صحت عامہ کو لاحق خطرات کو شامل کرنے کے لیے محض ڈیجیٹل "فریب" سے آگے بڑھ گیا ہے۔ ریاست پنسلوانیا نے Character.AI کے خلاف ایک ہائی پروفائل مقدمہ دائر کیا ہے، جس میں کمپنی پر الزام لگایا گیا ہے کہ اس کے چیٹ بوٹس میں سے ایک کو لائسنس یافتہ سائیکاٹرسٹ کی نقالی کرنے کی اجازت دی گئی ہے، جو ریاست کے طبی لائسنسنگ اور صارفین کے تحفظ کے قوانین کی صریح خلاف ورزی ہے۔
چونکا دینے والی تفصیلات: روبوٹ "ایملی" کٹہرے میں ہے۔
کہانی اس وقت شروع ہوئی جب ریاست کے آفس آف پروفیشنل کنڈکٹ کے ایک تفتیش کار نے Character.AI پلیٹ فارم پر "ایملی" نامی چیٹ بوٹ کا تجربہ کیا۔ قانونی چارہ جوئی کے مطابق، بوٹ نے نہ صرف طبی مشورہ پیش کیا بلکہ واضح طور پر دعویٰ کیا کہ وہ ایک لائسنس یافتہ نفسیاتی ماہر ہے۔ جب تفتیش کار نے ڈپریشن میں مبتلا مریض کے طور پر یہ پوچھا کہ کیا بوٹ کے پاس پریکٹس کرنے کا لائسنس ہے، بوٹ نے ہاں میں جواب دیا اور یہاں تک کہ ریاست کی طرف سے جاری کردہ ایک جعلی میڈیکل لائسنس کا سیریل نمبر بھی بنا لیا!
اس نے گورنر جوش شاپیرو کو ایک تیز بیان جاری کرنے پر مجبور کیا جس میں کہا گیا: "پنسلوینیا کے باشندے یہ جاننے کے مستحق ہیں کہ وہ آن لائن کس کے ساتھ بات چیت کر رہے ہیں، خاص طور پر جب ان کی صحت کی بات ہو۔
یہ پہلا بحران نہیں ہے: قانونی مقدمات کی تاریخ
Character.AI قانونی لڑائیوں میں کوئی اجنبی نہیں ہے، لیکن یہ اپنی نوعیت کا پہلا کیس ہے جس میں خاص طور پر طبی بدانتظامی پر توجہ دی گئی ہے۔ اس سال کے شروع میں، کمپنی کو نابالغ صارفین کی خودکشیوں سے متعلق مقدمات کو طے کرنے پر مجبور کیا گیا، ان الزامات کے درمیان کہ روبوٹس نے انہیں خود کو نقصان پہنچانے کی ترغیب دی۔ ریاست کینٹکی نے بھی اسی طرح کا مقدمہ دائر کیا جس میں کمپنی پر بچوں کو نشانہ بنانے اور انہیں بات چیت کے خطرناک جال میں کھینچنے کا الزام لگایا گیا تھا۔
یہ قانونی کارروائیاں ایک ایسے وقت میں ہوئی ہیں جب مصنوعی ذہانت کا شعبہ بڑی اور چھوٹی کمپنیوں کے درمیان یکساں شدید دوڑ کا مشاہدہ کر رہا ہے، کیونکہ ہر کوئی اس بلین ڈالر کی مارکیٹ میں جگہ حاصل کرنا چاہتا ہے، بعض اوقات سخت حفاظت اور نگرانی کے معیارات کی قیمت پر۔
کمپنی کا دفاع: یہ صرف "فنتاسی" ہے!
اپنی طرف سے، Character.AI نے اس بات پر زور دیتے ہوئے اپنے موقف کا دفاع کرنے کی کوشش کی کہ صارف کی حفاظت اس کی اولین ترجیح ہے، یہ نوٹ کرتے ہوئے کہ وہ زیر التواء قانونی مقدمات پر تفصیل سے تبصرہ نہیں کر سکتا۔ تاہم، کمپنی نے صارف کے تخلیق کردہ کرداروں کی خیالی نوعیت پر زور دیا، یہ کہتے ہوئے کہ وہ ہر گفتگو میں واضح انتباہات دیتا ہے جو صارفین کو یاد دلاتے ہیں کہ بوٹ ایک حقیقی شخص نہیں ہے اور یہ کہ اس کی ہر بات کو خالصتاً خیالی تصور کیا جانا چاہیے۔
لیکن کیا یہ انتباہات کافی ہیں جب روبوٹ جعلی میڈیکل لائسنس نمبروں کی فہرست بنانا شروع کردے؟ پنسلوانیا کے وکلاء کا خیال ہے کہ یہ انتباہات کمپنی کی ذمہ داری کو ختم نہیں کرتی ہیں، خاص طور پر جب طبی مشق کے قوانین کی خلاف ورزی کی جاتی ہے جو دھوکہ بازوں اور دھوکہ بازوں سے زندگیوں کو بچانے کے لیے بنائے گئے ہیں۔
صنعت کا تناظر: جنات کا تصادم اور تلخ حقیقت
جبکہ Character.AI قانونی مشکلات میں پھنسا ہوا ہے، دوسری کمپنیاں جیسے OpenAI اور Anthropic بڑے پیمانے پر مشترکہ منصوبے شروع کر رہی ہیں تاکہ کاروباری اداروں کو AI خدمات فراہم کرنے کے لیے، ٹریلین ڈالر کی قیمتوں تک پہنچنے کی دوڑ میں شامل ہوں۔ یہ تضاد ان کمپنیوں کے درمیان فرق کو نمایاں کرتا ہے جو ضابطے کی تلاش میں ہیں اور جو اپنے پلیٹ فارمز جیسے "اولڈ ویسٹ" کو شائع شدہ مواد کی حقیقی نگرانی کے بغیر چھوڑ دیتی ہیں۔
یہاں تک کہ چپ بنانے والے جیسے Cerebras اور ASML جیسے بڑے سپلائرز خود کو اس تکنیکی دھماکے کے مرکز میں پاتے ہیں، کیونکہ ان پیچیدہ نظاموں کا استحکام طاقتور ہارڈ ویئر اور پروسیسنگ کی زبردست صلاحیتوں پر منحصر ہوتا ہے، یعنی کوئی بھی سافٹ ویئر یا اخلاقی خامی پوری ویلیو چین میں گونجتی ہے۔
Character.AI کے خلاف مقدمہ صرف ایک مقامی قانونی جنگ نہیں ہے، بلکہ ہر اس شخص کے لیے ایک جاگنے کی کال ہے جو یہ مانتا ہے کہ مصنوعی ذہانت حساس شعبوں میں انسانی مہارت کی جگہ لے سکتی ہے جیسے کہ بغیر کسی سخت نگرانی کے۔ سب کے بعد، ایک روبوٹ کے پاس میڈیکل لائسنس نہیں ہے، اور وہ اپنے ہی برے مشورے کے نتائج کو برداشت نہیں کر سکتا۔
ذریعہ:
ایک جواب چھوڑیں۔