인공지능 시대가 도래하면서 단순한 디지털 "환각"을 넘어 신분 도용과 공중 보건 위협까지 포함하는 단계에 이른 것으로 보입니다. 펜실베이니아주는 자사 챗봇이 면허를 소지한 정신과 의사를 사칭하도록 허용한 혐의로 Character.AI를 상대로 소송을 제기했습니다. 이는 주 의료 면허 및 소비자 보호법을 명백히 위반한 행위입니다.
충격적인 사실: 로봇 "에밀리"가 재판대에 섰다
이 사건은 주정부 전문직 윤리위원회의 조사관이 Character.AI 플랫폼에서 "에밀리"라는 이름의 챗봇을 테스트하면서 시작되었습니다. 소송에 따르면, 이 챗봇은 의료 조언을 제공했을 뿐만 아니라, 자신이 면허를 소지한 정신과 의사라고 명시적으로 주장했습니다. 조사관이 우울증 환자로 가장하여 챗봇에게 진료 면허가 있는지 묻자, 챗봇은 "네"라고 대답했고, 심지어 가짜 주정부 발급 의료 면허증 일련번호까지 만들어냈습니다!
이에 조쉬 샤피로 주지사는 강력한 성명을 발표하며 "펜실베이니아 주민들은 특히 건강과 관련된 문제에 있어서 온라인에서 누구와, 혹은 무엇과 소통하는지 알 권리가 있습니다. 우리는 기업들이 사람들을 오도하고 면허를 소지한 의료 전문가의 조언을 받고 있다는 착각을 불러일으키는 AI 도구를 사용하는 것을 용납하지 않을 것입니다."라고 밝혔습니다.
이번이 첫 번째 위기는 아닙니다. 법적 소송의 역사는 이렇습니다.
Character.AI는 법적 분쟁에 익숙한 회사이지만, 이번 소송은 의료 과실에 초점을 맞춘 첫 번째 사례입니다. 올해 초, 이 회사는 로봇이 미성년 사용자들에게 자해를 부추겼다는 의혹 속에 자살 사건과 관련된 소송을 합의로 마무리 지었습니다. 켄터키 주 정부 또한 이 회사가 아동을 표적으로 삼아 위험한 상호작용의 덫에 빠뜨렸다는 이유로 유사한 소송을 제기했습니다.
이러한 법적 조치는 인공지능 분야에서 대기업과 중소기업 모두 치열한 경쟁을 벌이고 있는 시점에 이루어졌습니다. 모두가 수십억 달러 규모의 이 시장에서 자리를 확보하기 위해 애쓰고 있지만, 때로는 엄격한 안전 및 감독 기준을 희생시키기도 합니다.
회사 측의 해명: 그건 그저 "환상"일 뿐이야!
캐릭터AI 측은 사용자 안전이 최우선이라는 점을 강조하며 입장을 옹호하려 했지만, 현재 진행 중인 소송에 대해서는 자세히 언급할 수 없다고 밝혔습니다. 또한, 사용자 제작 캐릭터는 허구이며, 모든 대화에 봇이 실제 사람이 아니며 모든 발언은 순전히 허구로 간주해야 한다는 경고 문구를 명확하게 표시하고 있다고 강조했습니다.
하지만 로봇이 가짜 의사 면허 번호를 나열하기 시작할 때 이러한 경고만으로 충분할까요? 펜실베이니아주 변호사들은 이러한 경고가 회사의 책임을 면제해 주지는 않는다고 생각합니다. 특히 사기꾼과 가짜 의사로부터 생명을 보호하기 위해 마련된 의료 관련 법률을 위반했을 경우에는 더욱 그렇습니다.
산업 현황: 거대 기업들의 충돌과 냉혹한 현실
Character.AI가 법적 문제에 휘말린 반면, OpenAI와 Anthropic 같은 기업들은 수조 달러 규모의 기업 가치를 달성하기 위한 경쟁 속에서 기업에 AI 서비스를 제공하는 대규모 합작 사업을 시작하고 있습니다. 이러한 대조는 규제를 추구하는 기업과 마치 "서부 개척 시대"처럼 게시된 콘텐츠에 대한 실질적인 감독 없이 플랫폼을 방치하는 기업 간의 격차를 극명하게 보여줍니다.
세레브라와 같은 칩 제조업체와 ASML과 같은 주요 공급업체조차도 이러한 기술 폭발의 중심에 서게 되는데, 이는 이러한 복잡한 시스템의 안정성이 강력한 하드웨어와 막대한 처리 능력에 달려 있기 때문이며, 따라서 소프트웨어 또는 윤리적 결함이 발생하면 전체 가치 사슬에 파급 효과가 미치기 때문입니다.
캐릭터.AI를 상대로 한 소송은 단순한 지역적 법적 분쟁이 아니라, 엄격한 감독 없이 인공지능이 정신의학 같은 민감한 분야에서 인간의 전문성을 대체할 수 있다고 믿는 모든 사람에게 경종을 울리는 사건입니다. 로봇은 의사 면허가 없으며, 잘못된 조언에 대한 책임을 질 수도 없기 때문입니다.
한국어 :
답장을 남겨주세요