اپل و گوگل تمام تلاش خود را میکنند تا ما را متقاعد کنند که فروشگاههای اپلیکیشن آنها امنترین مکانهای روی زمین هستند، مانند قلعههای تسخیرناپذیری که فقط برای کسانی که استانداردهای اخلاقی و فنی دقیقی را رعایت میکنند، قابل دسترسی هستند. اما به نظر میرسد که هوش مصنوعی تصمیم گرفته است مسیر تاریکی را در پیش بگیرد و در کمال تعجب، این شرکتهای بزرگ نیز از عواقب آن مصون نیستند. یک گزارش جدید نشان میدهد که برنامههایی که متخصص «برهنگی» و تصاویر مستهجن جعلی هستند، هنوز در فروشگاه اپلیکیشن آیفون و گوگل پلی رونق دارند. حتی نگرانکنندهتر اینکه، الگوریتمهای این فروشگاهها گاهی اوقات کاربران را مستقیماً از طریق تبلیغات و نتایج جستجو به آنها هدایت میکنند.
چهرههای تکاندهنده و حضور عمومی
گزارش پروژه شفافیت فناوری (TTP) صرفاً بر اساس حدس و گمان نبود؛ بلکه با ارقام سرسامآوری پشتیبانی میشد. این گزارش ۱۸ برنامه در فروشگاه اپل اپ و ۲۰ برنامه در فروشگاه گوگل پلی را شناسایی کرد که در زمینهای که به عنوان "nudify" یا برنامههای برهنگی شناخته میشود، تخصص دارند. این برنامهها فقط آزمایشهای شکستخوردهای نبودند که در گوشههای تاریک فروشگاه اپ پنهان شده باشند؛ آنها در مجموع تقریباً ۱۲۲ میلیون دلار درآمد ایجاد کردند و ۴۸۳ میلیون بار دانلود شدند. بله، درست خواندید - ما در مورد تقریباً نیم میلیارد دانلود صحبت میکنیم!
طنز ماجرا اینجاست که برخی از این برنامهها برای همه در رده «E» قرار گرفتهاند، به این معنی که هر کودکی که دستگاهی داشته باشد میتواند به راحتی به آنها دسترسی داشته باشد. در حالی که والدین برای محدود کردن زمان استفاده فرزندانشان از صفحه نمایش تقلا میکنند، فروشگاههای رسمی اپلیکیشن ابزارهایی را ارائه میدهند که میتوانند عکسهای واقعی افراد را به تصاویر مستهجن تبدیل کنند یا چهره آنها را با استفاده از فناوری دیپفیک در ویدیوهای نامناسب قرار دهند.
الگوریتمهای جستجو: راهنمای گردشگری برای محتوای بد
مشکل فقط وجود این برنامهها نیست، بلکه نحوه دسترسی کاربران به آنهاست. این گزارش ادعا میکند که جستجوی کلمات کلیدی خاص، دسترسی آسان به این ابزارها را فراهم میکند. جالب اینجاست که خود پلتفرمها نیز تبلیغات برنامههای مشابه را در نتایج جستجو نمایش میدادند و اپل و گوگل را همدست خود میکردند.حتی اگر ناخواسته- در توزیع ابزارهایی که افراد واقعی را به تصاویر جنسی تبدیل میکنند.
برنامههایی وجود دارند که با نمایش چهره یک بازیگر زن روی بدن بازیگر دیگر، خود را تبلیغ میکنند و به کاربران اجازه میدهند چهرههای واقعی را روی زنان کمپوشیده قرار دهند، با این حال هنوز رتبهبندی سنی مناسبی برای همه دارند. به نظر میرسد که بازرسان فروشگاه برای دیدن آنچه برای همه واضح است، به عینک هوش مصنوعی نیاز داشتند!
واکنشها و اقدامات دولت
پس از افشای این رسوایی، شرکتها، طبق معمول، به سرعت پشت بیانیههای رسمی خود پنهان شدند. اپل به بلومبرگ گفت که ۱۵ مورد از برنامههای شناساییشده را حذف کرده است، در حالی که گوگل اعلام کرد که چندین مورد را به حالت تعلیق درآورده و تأیید کرد که سیاستهای آن محتوای صریح جنسی را ممنوع میکند و روند تحقیقات و اجرای قانون در حال انجام است. اما این سؤال همچنان باقی است: چرا ما همیشه برای انجام کاری که قرار است میلیاردها سیستم بررسی انجام دهند، به یک گزارش خارجی نیاز داریم؟
این سهلانگاری دولتها را وادار به اقدام کرده است. در بریتانیا، کمیسر کودکان خواستار ممنوعیت برنامههای دیپفیکی شده است که تصاویر صریح جنسی از کودکان ایجاد میکنند. ایالات متحده و سایر کشورها نیز قوانینی را برای ممنوعیت دیپفیکهای صریح پیشنهاد کردهاند. حتی دادستان کل کالیفرنیا اخیراً به شرکت ایلان ماسک، X، دستور داده است که تولید تصاویر دیپفیک صریح با استفاده از مدل هوش مصنوعی خود، گروک، را متوقف کند.
منبع:
2 نظر