애플과 구글은 자사의 앱 스토어가 마치 엄격한 윤리적, 기술적 기준을 충족하는 사람만 접근할 수 있는 난공불락의 요새처럼 지구상에서 가장 안전한 곳이라고 우리를 설득하기 위해 최선을 다하고 있습니다. 하지만 인공지능이 어두운 길을 택한 듯하며, 놀랍게도 이 거대 기업들조차 그 결과에서 자유롭지 못합니다. 새로운 보고서에 따르면, "노출" 및 가짜 음란 이미지를 전문으로 하는 앱들이 아이폰 앱 스토어와 구글 플레이 스토어에서 여전히 성행하고 있는 것으로 나타났습니다. 더욱 충격적인 것은, 이들 스토어의 알고리즘이 광고와 검색 결과를 통해 사용자들을 이러한 앱으로 직접 유도하는 경우도 있다는 점입니다.
충격적인 수치와 대중의 존재
테크 투명성 프로젝트(TTP) 보고서는 단순한 추측에 기반한 것이 아니라, 놀라운 수치에 근거했습니다. 이 보고서는 애플 앱스토어에서 18개, 구글 플레이 스토어에서 20개의 앱이 이른바 "누디파이(nudify)" 또는 노출 앱으로 분류된다는 사실을 밝혀냈습니다. 이 앱들은 단순히 앱스토어 구석에 숨겨진 실패한 실험작이 아니었습니다. 이 앱들은 총 1억 2200만 달러의 수익을 올렸고, 무려 4억 8300만 번이나 다운로드되었습니다. 네, 맞습니다. 거의 5억 번에 달하는 다운로드 횟수입니다!
아이러니하게도 이러한 앱 중 일부는 전체 이용가(E) 등급을 받아, 기기를 가진 아이라면 누구나 쉽게 접근할 수 있었습니다. 부모들이 자녀의 화면 사용 시간을 제한하려고 애쓰는 동안, "공식" 앱 스토어에서는 딥페이크 기술을 이용해 실제 사람들의 사진을 음란물로 바꾸거나 부적절한 영상에 얼굴을 합성하는 도구들을 제공하고 있었습니다.
검색 알고리즘: 형편없는 콘텐츠에 대한 관광 안내서
문제는 앱의 존재 자체뿐만 아니라 사용자가 앱에 접근하는 방식입니다. 보고서에 따르면 특정 키워드를 검색하면 이러한 도구에 쉽게 접근할 수 있다고 합니다. 놀랍게도, 플랫폼 자체도 검색 결과에 유사한 앱 광고를 게재하고 있어 애플과 구글이 공모한 것으로 드러났습니다.의도치 않았더라도- 실제 사람을 성적인 이미지로 변환하는 도구를 배포하는 행위.
한 여배우의 얼굴을 다른 여배우의 몸에 합성하여 보여주는 방식으로 홍보하는 앱들이 있는데, 이런 앱들은 노출이 심한 여성 사진에 실제 얼굴을 합성할 수 있게 해 주면서도 전체 이용가 등급을 부여했습니다. 앱 스토어 리뷰어들은 누구나 다 아는 사실을 알아보려면 인공지능 안경이라도 써야 했을 것 같네요!
정부의 대응 및 조치
이 스캔들이 폭로되자 기업들은 여느 때처럼 공식 성명 뒤에 숨으려 서둘렀습니다. 애플은 블룸버그에 문제의 앱 15개를 삭제했다고 밝혔고, 구글은 여러 앱을 일시 중단했으며 자사 정책상 노골적인 성적 콘텐츠는 금지되어 있고 조사 및 제재 절차가 진행 중이라고 확인했습니다. 하지만 여전히 의문은 남습니다. 수십억 개의 앱 검토 시스템이 해야 할 일을 왜 항상 외부 보고서가 대신해야 하는 걸까요?
이러한 허술한 규제로 인해 각국 정부가 조치를 취하게 되었습니다. 영국에서는 아동 위원장이 아동의 성적으로 노골적인 이미지를 생성하는 딥페이크 앱의 금지를 촉구했습니다. 미국을 비롯한 여러 국가에서도 노골적인 딥페이크를 금지하는 법안을 발의했습니다. 심지어 캘리포니아 주 법무장관은 최근 일론 머스크의 회사인 X에 인공지능 모델인 그록(Grok)을 이용한 노골적인 딥페이크 이미지 제작을 중단하라고 명령했습니다.
한국어 :
2 리뷰