در یک تغییر موضع سریع و غیرمنتظره که ثابت میکند حریم خصوصی همچنان خط قرمز کاربران است، متا تصمیم گرفت یک ویژگی بحثبرانگیز را از مدل جدید تولید تصویر مبتنی بر هوش مصنوعی خود، کمتر از یک هفته پس از راهاندازی آن، حذف کند. به نظر میرسد سیل انتقادات تند و خشم کاربران برای آموزش سریع این شرکت در مورد احترام به فضای شخصی و دادههای خصوصی کافی بوده است.
داستان پشت ویژگی «مخفیانه»
داستان از زمانی شروع شد که متا مدل جدید تولید تصویر خود، Muse Image، را معرفی کرد که به کاربران امکان میدهد تصاویر با کیفیت بالا ایجاد کنند و آنها را مستقیماً در استوریها یا پستها به اشتراک بگذارند. تاکنون، این در مقایسه با آنچه رقبایی مانند OpenAI یا گوگل ارائه میدهند، عادی و مرسوم به نظر میرسد. با این حال، همانطور که در مورد متا معمول است، یک بند پنهان و عمیقاً نگرانکننده وجود داشت که بیسروصدا از آن عبور شد.
این شرکت بدون هشدار قبلی یا اجازه صریح، تصمیم گرفت از عکسهای عمومی همه کاربران اینستاگرام به عنوان سوخت برای ابزار تصویر تولید شده توسط هوش مصنوعی خود استفاده کند. این بدان معناست که هر غریبهای میتواند نام کاربری شما را (از طریق @mention) در برنامه Meta AI تایپ کند و هوش مصنوعی سپس تصاویر پروفایل عمومی شما را استخراج کرده و از ویژگیهای شما برای ایجاد تصاویر کاملاً جدید استفاده میکند، بدون اینکه حتی اعلانی مبنی بر استفاده از عکسهای شما در فانتزیهای دیجیتالی شخص دیگری دریافت کنید!
گزینه پنهان تعلیق و فشار اتحادیه
البته، متا یک گزینه انصراف ارائه داد، اما طبق معمول، این گزینه در اعماق تنظیمات پیچیده برنامه پنهان شده بود و فقط برای کسانی که با سختی زیاد و دانش قبلی آن را جستجو میکردند، قابل دسترسی بود. این شرکت هیچ اعلان درون برنامهای برای اطلاعرسانی به کاربران مبنی بر اینکه تصاویرشان اکنون توسط هوش مصنوعی متا قابل دسترسی است، ارسال نکرد و صرفاً در یک پست فنی در نوار کناری که فقط تعداد انگشتشماری از متخصصان آن را میخواندند، به این موضوع اشاره کرد.
این بیتوجهی آشکار به حریم خصوصی، خشم گستردهای را نه تنها در میان کاربران عادی، برانگیخت. سازمانهای بزرگی مانند انجمن بازیگران سینما-آفریقا (SAG-AFTRA) مداخله کردند و از اعضای خود خواستند که فوراً اشتراکهای خود را لغو کنند تا از حقوق و تصاویر خود در برابر سوءاستفاده دیجیتال محافظت کنند. سازمانهای امنیت عمومی، مانند مرکز ملی مبارزه با سوءاستفاده جنسی، نیز تصمیم متا را به شدت محکوم کردند و خواستار لغو فوری آن شدند و نسبت به سهولت سوءاستفاده از این ابزار برای باجگیری و ایجاد تصاویر افشاگرانه هشدار دادند.
عقبنشینی رسمی و ترس از دیپفیک
در مواجهه با این فشار عظیم، متا تنها سه روز پس از اعلام این ویژگی، پرچم سفید را بالا برد. این شرکت با انتشار یک بهروزرسانی رسمی، به طور غیرمستقیم عذرخواهی کرد و اظهار داشت: «هدف ما ارائه یک ابزار خلاقانه مفید و دادن کنترل به کاربران بود، اما به بازخوردهایی گوش دادیم که تأیید میکردند این ویژگی از هدف خود دور مانده است و بنابراین دیگر در دسترس نیست.»
آنچه اتفاق افتاد یادآور هرج و مرجی است که اوایل امسال توسط ابزار Grok ایلان ماسک روی پلتفرم X ایجاد شد، زمانی که به کاربران اجازه میداد حسابها را برای تولید تصاویر دیپفیک غیراخلاقی و توهینآمیز بدون رضایت صاحبانشان تگ کنند. در حالی که متا ادعا میکند که اقدامات حفاظتی لازم را انجام داده است، جلوگیری از عبور هوش مصنوعی مولد از مرزهای اخلاقی همچنان یک نبرد شکستخورده است، مگر اینکه از همان ابتدا در بسته شود و حریم خصوصی کاربران واقعاً رعایت شود.
منبع:
5 نظر