Apple та Google роблять усе можливе, щоб переконати нас, що їхні магазини додатків – це найбезпечніші місця на Землі, подібні до неприступних фортець, доступних лише тим, хто відповідає суворим етичним та технічним стандартам. Але, схоже, штучний інтелект вирішив піти темним шляхом, і, як не дивно, ці великі компанії не застраховані від наслідків. Новий звіт показує, що додатки, що спеціалізуються на «оголеності» та фальшивих порнографічних зображеннях, досі процвітають в iPhone App Store та Google Play. Ще більш тривожним є те, що алгоритми цих магазинів іноді спрямовують користувачів до них безпосередньо через рекламу та результати пошуку.
Шокуючі цифри та публічна присутність
Звіт Проекту прозорості технологій (TTP) не ґрунтувався на простих припущеннях; він був підкріплений вражаючими цифрами. У звіті було визначено 18 програм в Apple App Store та 20 в Google Play Store, що спеціалізуються на так званих «nudify» або програмах для оголених зображень. Ці програми були не просто невдалими експериментами, захованими в темних куточках магазину додатків; вони разом принесли приблизно 122 мільйони доларів доходу та були завантажені 483 мільйони разів. Так, ви правильно прочитали — мова йде про майже півмільярда завантажень!
Іронія полягає в тому, що деякі з цих програм мали рейтинг «E» для всіх, тобто будь-яка дитина з пристроєм могла легко отримати до них доступ. Поки батьки намагаються обмежити час, який їхні діти проводять перед екраном, «офіційні» магазини додатків пропонували інструменти, які могли перетворювати фотографії реальних людей на порнографічні зображення або вставляти їхні обличчя в неприйнятні відео за допомогою технології діпфейків.
Алгоритми пошуку: туристичний путівник по поганому контенту
Проблема полягає не лише в існуванні цих програм, а й у тому, як користувачі отримують до них доступ. У звіті стверджується, що пошук за певними ключовими словами забезпечує легкий доступ до цих інструментів. Дивно, але самі платформи показували рекламу схожих програм у результатах пошуку, що робило Apple та Google співучасниками.Навіть якщо ненавмисно- У розповсюдженні інструментів, які перетворюють реальних людей на сексуальні образи.
Існують додатки, які просувають себе, показуючи обличчя однієї акторки, накладене на тіло іншої, дозволяючи користувачам розміщувати справжні обличчя на ледь одягнених жінках, але при цьому вони все ще мали віковий рейтинг, що підходить для всіх. Схоже, рецензентам магазинів потрібні були окуляри штучного інтелекту, щоб побачити те, що було очевидним для всіх!
Реакції та дії уряду
Після викриття цього скандалу компанії, як завжди, поспішили сховатися за своїми офіційними заявами. Apple повідомила Bloomberg, що видалила 15 із виявлених програм, тоді як Google заявила, що призупинила дію кількох із них, і підтвердила, що її політика забороняє відвертий контент сексуального характеру, а розслідування та процес правозастосування тривають. Але питання залишається відкритим: чому нам завжди потрібен зовнішній звіт для виконання роботи, яку повинні виконувати мільярди систем перевірки?
Ця недбалість спонукала уряди вжити заходів. У Великій Британії Уповноважений з питань дітей закликав до заборони додатків для діпфейків, які створюють сексуально відверті зображення дітей. Сполучені Штати та інші країни також запропонували закони, що забороняють відверті діпфейки. Навіть Генеральний прокурор Каліфорнії нещодавно наказав компанії Ілона Маска X припинити створення відвертих діпфейкових зображень за допомогою своєї моделі штучного інтелекту Grok.
Джерело:
2 відгуків