تبذل آبل وجوجل قصارى جهدهما لإقناعنا بأن متاجر التطبيقات الخاصة بهما هي أكثر الأماكن أماناً على وجه الأرض، تماماً مثل حصن حصين لا يدخله إلا من استوفى شروطاً أخلاقية وتقنية صارمة. ولكن يبدو أن “الذكاء الاصطناعي” قرر أن يسلك طريقاً مظلماً، والشركات الكبرى -للمفاجأة- ليست بعيدة عن المشهد. كشف تقرير جديد أن تطبيقات متخصصة في “التعري” وتزييف الصور الإباحية لا تزال تعيش وتنتعش داخل متجر تطبيقات آي-فون و”جوجل بلاي”، بل والأنكى من ذلك، أن خوارزميات هذه المتاجر تقوم أحياناً بتوجيه المستخدمين إليها مباشرة عبر الإعلانات ونتائج البحث.
أرقام صادمة وتواجد علني
تقرير مشروع الشفافية التقنية (TTP) لم يأتِ بمجرد تخمينات، بل بأرقام تجعل الرأس يشيب. حدد التقرير 18 تطبيقاً في متجر تطبيقات آبل و20 تطبيقاً في متجر جوجل بلاي متخصصة في ما يعرف بـ “nudify” أو تطبيقات التعري. هذه التطبيقات لم تكن مجرد تجارب فاشلة في زوايا المتجر المظلمة، بل حققت مجتمعة حوالي 122 مليون دولار من الإيرادات، وتم تحميلها 483 مليون مرة. نعم، قرأت الرقم بشكل صحيح، نحن نتحدث عن قرابة نصف مليار تحميل!
الأمر المثير للسخرية هنا هو أن بعض هذه التطبيقات كانت تحمل تصنيف “E” للجميع (Everyone)، مما يعني أن أي طفل يملك جهازاً يمكنه الوصول إليها بكل بساطة. فبينما يقاتل الوالدان لمنع أطفالهم من قضاء وقت طويل على الشاشات، كانت المتاجر “الرسمية” تقدم لهم أدوات يمكنها تحويل صور الأشخاص الحقيقيين إلى صور إباحية أو وضع وجوههم في فيديوهات غير لائقة عبر تقنية التزييف العميق.
خوارزميات البحث.. الدليل السياحي للمحتوى السيئ
المشكلة لا تتوقف عند وجود التطبيقات فحسب، بل في كيفية وصول المستخدمين إليها. التقرير زعم أن البحث عن كلمات معينة يعطي وصولاً سهلاً لهذه الأدوات. المثير للدهشة أن المنصات نفسها كانت تعرض إعلانات لتطبيقات مشابهة ضمن نتائج البحث، مما يجعل آبل وجوجل شريكتين –حتى لو بغير قصد– في نشر أدوات تحول الأشخاص الحقيقيين إلى صور جنسية.
هناك تطبيقات تروج لنفسها عبر عرض وجه ممثلة مركب على جسد ممثلة أخرى، ويسمح للمستخدمين بوضع وجوه حقيقية على أجساد نساء شبه عاريات، ورغم ذلك كان يتمتع بتصنيف عمري مناسب للجميع. يبدو أن المراجعين في المتاجر كانوا يحتاجون إلى نظارات ذكاء اصطناعي ليروا ما هو واضح للجميع!
ردود الأفعال وتحركات الحكومات
بعد الكشف عن هذه الفضيحة، سارعت الشركات كعادتها للاحتماء خلف بياناتها الرسمية. آبل أخبرت بلومبرج أنها قامت بإزالة 15 تطبيقاً من التي تم تحديدها، بينما قالت جوجل إنها علقت عدداً منها وأكدت أن سياساتها تمنع المحتوى الجنسي الصريح وأن عملية التحقيق والتنفيذ مستمرة. لكن السؤال الذي يطرح نفسه: لماذا نحتاج دائماً إلى تقرير خارجي ليقوم بالعمل الذي يُفترض أن تقوم به أنظمة المراجعة المليارية؟
هذا التسيب دفع الحكومات للتحرك؛ ففي المملكة المتحدة دعا مفوض الأطفال إلى حظر تطبيقات التزييف العميق التي تنشئ صوراً جنسية للأطفال. كما اقترحت الولايات المتحدة ودول أخرى قوانين تمنع التزييف العميق الصريح. حتى المدعي العام في كاليفورنيا أرسل مؤخراً أمراً لشركة إيلون ماسك “X” للتوقف عن إنتاج صور تزييف عميق صريحة عبر نموذج الذكاء الاصطناعي “Grok”.
المصدر:
اترك رد