Apple и Google изо всех сил пытаются убедить нас, что их магазины приложений — самые безопасные места на Земле, словно неприступные крепости, доступные только тем, кто соответствует строгим этическим и техническим стандартам. Но, похоже, искусственный интеллект выбрал темный путь, и, что удивительно, эти крупные компании не застрахованы от последствий. Новый отчет показывает, что приложения, специализирующиеся на «обнаженке» и поддельных порнографических изображениях, по-прежнему процветают в App Store для iPhone и Google Play. Еще более тревожно то, что алгоритмы этих магазинов иногда направляют пользователей непосредственно к ним через рекламу и результаты поиска.
Шокирующие цифры и присутствие в обществе
Отчет проекта Tech Transparency Project (TTP) не был основан на одних лишь догадках; он был подкреплен ошеломляющими цифрами. В отчете было выявлено 18 приложений в Apple App Store и 20 в Google Play Store, специализирующихся на так называемых «приложениях для демонстрации обнаженного тела». Эти приложения были не просто неудачными экспериментами, затерянными в темных уголках магазинов приложений; в совокупности они принесли около 122 миллионов долларов дохода и были загружены 483 миллиона раз. Да, вы правильно прочитали — речь идет о почти полумиллиарде загрузок!
Ирония заключается в том, что некоторые из этих приложений имели рейтинг «E» (для всех), что означает, что любой ребенок с устройством мог легко получить к ним доступ. Пока родители пытаются ограничить время, которое их дети проводят за экраном, «официальные» магазины приложений предлагали инструменты, которые могли превращать фотографии реальных людей в порнографические изображения или вставлять их лица в непристойные видеоролики с помощью технологии дипфейк.
Поисковые алгоритмы: Путеводитель по некачественному контенту.
Проблема заключается не только в существовании приложений, но и в способе доступа к ним для пользователей. В отчете утверждалось, что поиск по определенным ключевым словам обеспечивает легкий доступ к этим инструментам. Удивительно, но сами платформы показывали рекламу похожих приложений в результатах поиска, что делает Apple и Google соучастниками.Даже если это произошло непреднамеренно- В распространении инструментов, которые превращают реальных людей в изображения сексуального характера.
Существуют приложения, которые рекламируют себя, накладывая лицо одной актрисы на тело другой, позволяя пользователям размещать реальные лица на полуобнаженных женщинах, и при этом у них есть возрастной рейтинг, подходящий для всех. Похоже, что пользователям, оценивавшим приложения в магазине, понадобились очки с искусственным интеллектом, чтобы увидеть то, что было очевидно для всех!
Реакция и действия правительства
После того, как этот скандал получил огласку, компании, как обычно, поспешили спрятаться за своими официальными заявлениями. Apple сообщила Bloomberg, что удалила 15 из выявленных приложений, а Google заявила, что приостановила работу нескольких и подтвердила, что ее политика запрещает контент откровенно сексуального характера, а расследование и процесс принятия мер продолжаются. Но остается вопрос: почему нам всегда нужен внешний отчет для выполнения работы, которую должны делать миллиарды систем проверки отзывов?
Такая халатность побудила правительства принять меры. В Соединенном Королевстве Уполномоченный по правам ребенка призвал к запрету приложений для создания дипфейков, которые формируют изображения сексуального характера с участием детей. Соединенные Штаты и другие страны также предложили законы, запрещающие дипфейки откровенного характера. Даже генеральный прокурор Калифорнии недавно обязал компанию Илона Маска, X, прекратить производство дипфейков откровенного характера с использованием своей модели искусственного интеллекта Grok.
Источник:
2 комментариев