人工知能の時代は、単なるデジタル上の「幻覚」にとどまらず、個人情報の盗難や公衆衛生への脅威といった問題にまで発展する段階に達したようだ。ペンシルベニア州は、Character.AI社に対し、同社のチャットボットが認可を受けた精神科医になりすますことを許したとして、注目を集める訴訟を起こした。これは、州の医療免許法および消費者保護法に明白に違反する行為である。
衝撃的な詳細：ロボット「エミリー」が被告席に
事の発端は、州の職業倫理局の調査官がCharacter.AIプラットフォーム上で「エミリー」という名のチャットボットをテストしたことだった。訴訟によると、このボットは医療アドバイスを提供するだけでなく、自身が認可を受けた精神科医であると明言した。うつ病患者を装った調査官が、ボットに開業免許を持っているかと尋ねると、ボットは「はい」と答え、さらに偽の州発行の医師免許番号まで捏造したという。
これを受けて、ジョシュ・シャピロ州知事は厳しい声明を発表し、「ペンシルベニア州民は、特に健康に関することに関しては、オンラインで誰と、あるいは何とやり取りしているのかを知る権利がある。我々は、人々を誤解させ、資格のある医療専門家からアドバイスを受けているという錯覚を与えるようなAIツールを企業が展開することを許さない」と述べた。
これは初めての危機ではない：訴訟の歴史
Character.AIは訴訟沙汰には慣れているものの、今回の訴訟は医療過誤に特化した初めてのケースとなる。今年初め、同社は未成年ユーザーの自殺に関連する訴訟で和解を余儀なくされた。ロボットが未成年者に自傷行為を促したとの疑惑が持ち上がっていた。ケンタッキー州も同様の訴訟を起こし、同社が子供を標的にして危険なやり取りに引き込んだと非難している。
これらの法的措置は、人工知能分野において大小さまざまな企業が激しい競争を繰り広げている時期に行われた。誰もがこの数十億ドル規模の市場での地位を確保しようと躍起になっており、時には厳格な安全基準や監督基準を犠牲にしている場合もある。
同社の弁明：それは単なる「空想」だ！
Character.AIは、ユーザーの安全を最優先事項としていることを強調し、係争中の訴訟については詳細をコメントできないと述べ、自社の立場を擁護しようと試みた。しかし、同社はユーザーが作成したキャラクターは架空のものであることを強調し、すべての会話に、ボットは実在の人物ではなく、その発言はすべて純粋なフィクションであるとユーザーに知らせる明確な警告を表示していると述べた。
しかし、ロボットが偽の医師免許番号を列挙し始めた場合、これらの警告だけで十分なのでしょうか？ペンシルベニア州の弁護士たちは、特に詐欺師やなりすましから人命を守るために制定された医療行為に関する法律が侵害された場合、これらの警告だけでは企業の責任を免れることはできないと考えています。
業界背景：巨人同士の衝突と厳しい現実
Character.AIが法的トラブルに巻き込まれる一方で、OpenAIやAnthropicといった企業は、企業向けAIサービスを提供するため、大規模な合弁事業を立ち上げ、1兆ドル規模の企業価値を目指して熾烈な競争を繰り広げている。この対照的な状況は、規制を求める企業と、公開コンテンツに対する実質的な監視体制のない「西部開拓時代」のようなプラットフォームを放置する企業との間の大きな隔たりを浮き彫りにしている。
Cerebrasのような半導体メーカーやASMLのような大手サプライヤーでさえ、この技術革新の渦中に身を置いている。なぜなら、これらの複雑なシステムの安定性は、強力なハードウェアと膨大な処理能力に依存しており、ソフトウェアや倫理上の欠陥があれば、バリューチェーン全体に影響を及ぼすからだ。
Character.AIに対する訴訟は、単なる地域的な法廷闘争にとどまらず、厳格な監視なしに人工知能が精神医学のようなデリケートな分野で人間の専門知識を代替できると考えるすべての人にとって、警鐘となるべき出来事だ。結局のところ、ロボットは医師免許を持っておらず、自らの誤った助言による結果に責任を負うことはできないのだから。
動名詞：
返信を残す