एप्पल और गूगल जांच के दायरे में: एआई-संचालित "सेक्स" ऐप्स हमारे आधिकारिक ऐप स्टोरों में परेशानी पैदा करते रहते हैं।

एप्पल और गूगल हमें यह यकीन दिलाने की पूरी कोशिश कर रहे हैं कि उनके ऐप स्टोर धरती पर सबसे सुरक्षित जगह हैं, जैसे अभेद्य किले, जहां सिर्फ वही लोग पहुंच सकते हैं जो सख्त नैतिक और तकनीकी मानकों को पूरा करते हैं। लेकिन ऐसा लगता है कि कृत्रिम बुद्धिमत्ता ने एक बुरा रास्ता चुन लिया है, और हैरानी की बात यह है कि ये बड़ी कंपनियां भी इसके परिणामों से अछूती नहीं हैं। एक नई रिपोर्ट से पता चलता है कि "नग्नता" और नकली अश्लील छवियों वाले ऐप्स अभी भी आईफोन ऐप स्टोर और गूगल प्ले पर फल-फूल रहे हैं। इससे भी ज्यादा चिंताजनक बात यह है कि इन स्टोरों के एल्गोरिदम कभी-कभी विज्ञापनों और खोज परिणामों के माध्यम से उपयोगकर्ताओं को सीधे इन ऐप्स तक पहुंचा देते हैं।

चौंकाने वाले आंकड़े और सार्वजनिक उपस्थिति

टेक्नोलॉजी ट्रांसपेरेंसी प्रोजेक्ट (टीटीपी) की रिपोर्ट महज अटकलों पर आधारित नहीं थी; यह चौंका देने वाले आंकड़ों से समर्थित थी। रिपोर्ट में ऐप्पल ऐप स्टोर पर 18 और गूगल प्ले स्टोर पर 20 ऐसे ऐप्स की पहचान की गई जो "न्यूडिफाई" या नग्नता वाले ऐप्स के नाम से जाने जाते हैं। ये ऐप्स ऐप स्टोर के किसी कोने में छिपे असफल प्रयोग मात्र नहीं थे; इनसे सामूहिक रूप से लगभग 122 मिलियन डॉलर का राजस्व प्राप्त हुआ और इन्हें 483 मिलियन बार डाउनलोड किया गया। जी हां, आपने सही पढ़ा—हम लगभग आधा अरब डाउनलोड की बात कर रहे हैं!

विडंबना यह है कि इनमें से कुछ ऐप्स को "ई" यानी सभी के लिए रेटिंग दी गई थी, जिसका अर्थ है कि डिवाइस रखने वाला कोई भी बच्चा आसानी से उनका उपयोग कर सकता था। माता-पिता अपने बच्चों के स्क्रीन टाइम को सीमित करने के लिए संघर्ष कर रहे थे, वहीं "आधिकारिक" ऐप स्टोर ऐसे टूल उपलब्ध करा रहे थे जो असली लोगों की तस्वीरों को अश्लील छवियों में बदल सकते थे या डीपफेक तकनीक का उपयोग करके उनके चेहरों को अनुचित वीडियो में डाल सकते थे।

खोज एल्गोरिदम: खराब सामग्री के लिए एक पर्यटक मार्गदर्शिका

समस्या केवल ऐप्स के अस्तित्व की नहीं है, बल्कि उपयोगकर्ताओं द्वारा उन तक पहुँचने के तरीके की भी है। रिपोर्ट में दावा किया गया कि विशिष्ट कीवर्ड खोजकर इन टूल्स तक आसानी से पहुँचा जा सकता है। हैरानी की बात यह है कि प्लेटफॉर्म स्वयं खोज परिणामों में मिलते-जुलते ऐप्स के विज्ञापन प्रदर्शित कर रहे थे, जिससे Apple और Google भी इसमें शामिल हो गए।भले ही अनजाने में ही सही- ऐसे उपकरण वितरित करने में जो वास्तविक लोगों को यौन छवियों में बदल देते हैं।

कुछ ऐप्स एक अभिनेत्री के चेहरे को दूसरी अभिनेत्री के शरीर पर लगाकर खुद का प्रचार करते हैं, जिससे उपयोगकर्ता कम कपड़ों वाली महिलाओं पर असली चेहरे लगा सकते हैं, फिर भी उनकी आयु रेटिंग सभी के लिए उपयुक्त होती है। लगता है स्टोर के समीक्षकों को वह बात देखने के लिए कृत्रिम बुद्धिमत्ता वाले चश्मे की ज़रूरत थी जो सभी को स्पष्ट थी!

सरकार की प्रतिक्रियाएँ और कार्रवाई

इस घोटाले के सामने आने के बाद, हमेशा की तरह, कंपनियों ने अपने आधिकारिक बयानों के पीछे छिपने की कोशिश की। ऐप्पल ने ब्लूमबर्ग को बताया कि उसने पहचाने गए 15 ऐप्स हटा दिए हैं, जबकि गूगल ने कहा कि उसने कई ऐप्स निलंबित कर दिए हैं और पुष्टि की है कि उसकी नीतियों में स्पष्ट यौन सामग्री प्रतिबंधित है और जांच एवं प्रवर्तन प्रक्रिया जारी है। लेकिन सवाल यह उठता है कि अरबों समीक्षा प्रणालियों द्वारा किए जाने वाले काम के लिए हमें हमेशा बाहरी रिपोर्ट की आवश्यकता क्यों होती है?

इस ढिलाई के चलते सरकारों को कार्रवाई करनी पड़ी है। यूनाइटेड किंगडम में, बाल आयुक्त ने बच्चों की यौन रूप से आपत्तिजनक तस्वीरें बनाने वाले डीपफेक ऐप्स पर प्रतिबंध लगाने की मांग की है। संयुक्त राज्य अमेरिका और अन्य देशों ने भी आपत्तिजनक डीपफेक पर रोक लगाने वाले कानूनों का प्रस्ताव रखा है। यहां तक ​​कि कैलिफोर्निया के अटॉर्नी जनरल ने भी हाल ही में एलोन मस्क की कंपनी, एक्स को, अपने कृत्रिम बुद्धिमत्ता मॉडल ग्रोक का उपयोग करके आपत्तिजनक डीपफेक तस्वीरें बनाना बंद करने का आदेश दिया है।

الم الدر:

engadget.com