ایپل اور گوگل کی جانچ پڑتال کے تحت: اے آئی سے چلنے والی "سیکس" ایپس ہمارے آفیشل ایپ اسٹورز کو پریشان کرتی رہتی ہیں۔

ایپل اور گوگل ہمیں اس بات پر قائل کرنے کی پوری کوشش کر رہے ہیں کہ ان کے ایپ اسٹورز زمین پر محفوظ ترین جگہیں ہیں، جیسے ناقابل تسخیر قلعے جو صرف سخت اخلاقی اور تکنیکی معیارات پر پورا اترتے ہیں۔ لیکن ایسا لگتا ہے کہ مصنوعی ذہانت نے ایک تاریک راستہ اختیار کرنے کا فیصلہ کر لیا ہے، اور حیرت کی بات یہ ہے کہ یہ بڑی کمپنیاں اس کے نتائج سے محفوظ نہیں ہیں۔ ایک نئی رپورٹ سے پتہ چلتا ہے کہ "عریانیت" اور جعلی فحش تصاویر میں مہارت رکھنے والی ایپس اب بھی آئی فون ایپ اسٹور اور گوگل پلے پر فروغ پزیر ہیں۔ اس سے بھی زیادہ تشویشناک بات یہ ہے کہ ان اسٹورز کے الگورتھم بعض اوقات اشتہارات اور تلاش کے نتائج کے ذریعے صارفین کو براہ راست ان تک پہنچاتے ہیں۔

چونکا دینے والے اعداد و شمار اور عوامی موجودگی

ٹیک ٹرانسپیرنسی پروجیکٹ (TTP) رپورٹ محض قیاس آرائیوں پر مبنی نہیں تھی۔ یہ حیران کن اعداد و شمار کی طرف سے حمایت کی گئی تھی. رپورٹ میں ایپل ایپ سٹور پر 18 اور گوگل پلے سٹور پر 20 ایپس کی نشاندہی کی گئی ہے جو "نوڈیفائی" یا عریانیت ایپس کے نام سے مشہور ہیں۔ یہ ایپس ایپ اسٹور کے تاریک کونوں میں صرف ناکام تجربات ہی نہیں تھیں۔ انہوں نے مجموعی طور پر تقریباً 122 ملین ڈالر کی آمدنی حاصل کی اور 483 ملین بار ڈاؤن لوڈ ہوئے۔ جی ہاں، آپ نے صحیح پڑھا — ہم تقریباً نصف بلین ڈاؤن لوڈز کے بارے میں بات کر رہے ہیں!

یہاں ستم ظریفی یہ ہے کہ ان میں سے کچھ ایپس کو ہر کسی کے لیے "E" کا درجہ دیا گیا ہے، یعنی کوئی بھی بچہ جس کے پاس ڈیوائس ہے وہ آسانی سے ان تک رسائی حاصل کر سکتا ہے۔ جب کہ والدین اپنے بچوں کے اسکرین ٹائم کو محدود کرنے کے لیے جدوجہد کر رہے تھے، "آفیشل" ایپ اسٹورز ایسے ٹولز پیش کر رہے تھے جو حقیقی لوگوں کی تصاویر کو فحش تصاویر میں تبدیل کر سکتے تھے یا ڈیپ فیک ٹیکنالوجی کا استعمال کرتے ہوئے ان کے چہروں کو نامناسب ویڈیوز میں ڈال سکتے تھے۔

الگورتھم تلاش کریں: خراب مواد کے لیے ٹورسٹ گائیڈ

مسئلہ صرف ایپس کی موجودگی کا نہیں ہے، بلکہ صارف ان تک کیسے رسائی حاصل کرتے ہیں۔ رپورٹ میں دعویٰ کیا گیا ہے کہ مخصوص مطلوبہ الفاظ کی تلاش ان ٹولز تک آسان رسائی فراہم کرتی ہے۔ حیرت کی بات یہ ہے کہ پلیٹ فارم خود تلاش کے نتائج میں ملتے جلتے ایپس کے اشتہارات دکھا رہے تھے، جس سے ایپل اور گوگل شامل تھے۔چاہے غیر ارادی طور پر- ٹولز کی تقسیم میں جو حقیقی لوگوں کو جنسی تصویروں میں بدل دیتے ہیں۔

ایسی ایپس موجود ہیں جو ایک اداکارہ کے چہرے کو دوسری کے جسم پر سپرمپوز کر کے اپنی تشہیر کرتی ہیں، جس سے صارفین کم لباس پہنے خواتین پر حقیقی چہرے رکھ سکتے ہیں، پھر بھی ان کی عمر کی درجہ بندی سب کے لیے موزوں تھی۔ ایسا لگتا ہے کہ اسٹور کے جائزہ لینے والوں کو یہ دیکھنے کے لیے AI شیشوں کی ضرورت تھی کہ سب کے سامنے کیا واضح تھا!

حکومتی ردعمل اور اقدامات

اس اسکینڈل کے سامنے آنے کے بعد، کمپنیاں، ہمیشہ کی طرح، اپنے سرکاری بیانات کے پیچھے چھپنے کو دوڑیں۔ ایپل نے بلومبرگ کو بتایا کہ اس نے شناخت شدہ ایپس میں سے 15 کو ہٹا دیا ہے، جب کہ گوگل نے کہا کہ اس نے کئی کو معطل کر دیا ہے اور اس بات کی تصدیق کی ہے کہ اس کی پالیسیاں صریح جنسی مواد کی ممانعت کرتی ہیں اور تحقیقات اور نفاذ کا عمل جاری ہے۔ لیکن سوال باقی ہے: ہمیں وہ کام کرنے کے لیے ہمیشہ ایک بیرونی رپورٹ کی ضرورت کیوں پڑتی ہے جو اربوں ریویو سسٹم کو کرنا ہے؟

اس سستی نے حکومتوں کو ایکشن لینے پر اکسایا ہے۔ برطانیہ میں بچوں کے کمشنر نے ڈیپ فیک ایپس پر پابندی لگانے کا مطالبہ کیا ہے جو بچوں کی جنسی طور پر واضح تصاویر بناتے ہیں۔ ریاستہائے متحدہ اور دیگر ممالک نے بھی واضح ڈیپ فیکس پر پابندی کے قوانین تجویز کیے ہیں۔ یہاں تک کہ کیلیفورنیا کے اٹارنی جنرل نے حال ہی میں ایلون مسک کی کمپنی، ایکس کو حکم دیا کہ وہ اپنے مصنوعی ذہانت کے ماڈل گروک کا استعمال کرتے ہوئے واضح ڈیپ فیک تصاویر بنانا بند کرے۔

ذریعہ:

engadget.com