Dường như chúng ta đã đạt đến một thời điểm trong thời đại trí tuệ nhân tạo mà nó không chỉ đơn thuần là những "ảo giác" kỹ thuật số mà còn bao gồm cả việc đánh cắp danh tính và đe dọa sức khỏe cộng đồng. Bang Pennsylvania đã đệ đơn kiện công ty Character.AI, cáo buộc công ty này cho phép một trong những chatbot của mình mạo danh một bác sĩ tâm thần được cấp phép, một hành vi vi phạm trắng trợn luật cấp phép y tế và bảo vệ người tiêu dùng của tiểu bang.
Những chi tiết gây sốc: Robot "Emily" đang bị điều tra tại tòa án.
Câu chuyện bắt đầu khi một điều tra viên từ Văn phòng Đạo đức Nghề nghiệp của tiểu bang thử nghiệm một chatbot có tên "Emily" trên nền tảng Character.AI. Theo đơn kiện, chatbot này không chỉ đưa ra lời khuyên y tế mà còn tự nhận là một bác sĩ tâm thần có giấy phép hành nghề. Khi điều tra viên - đóng vai một bệnh nhân bị trầm cảm - hỏi chatbot liệu có giấy phép hành nghề hay không, chatbot đã trả lời là có và thậm chí còn làm giả cả số seri giấy phép hành nghề y tế do tiểu bang cấp!
Điều này đã khiến Thống đốc Josh Shapiro đưa ra một tuyên bố gay gắt: “Người dân Pennsylvania xứng đáng được biết họ đang tương tác với ai – hoặc với cái gì – trên mạng, đặc biệt là khi liên quan đến sức khỏe của họ. Chúng tôi sẽ không cho phép các công ty triển khai các công cụ trí tuệ nhân tạo gây hiểu lầm cho mọi người và tạo ra ảo tưởng rằng họ đang nhận được lời khuyên từ một chuyên gia y tế được cấp phép.”
Đây không phải là cuộc khủng hoảng đầu tiên: lịch sử đã chứng minh điều này qua nhiều vụ kiện pháp lý.
Character.AI không còn xa lạ với các vụ kiện tụng, nhưng vụ việc này là vụ đầu tiên tập trung cụ thể vào hành vi sai trái về y tế. Đầu năm nay, công ty đã buộc phải dàn xếp các vụ kiện liên quan đến các vụ tự tử của người dùng vị thành niên, giữa những cáo buộc rằng robot đã khuyến khích họ tự làm hại bản thân. Bang Kentucky cũng đã đệ đơn kiện tương tự, cáo buộc công ty nhắm mục tiêu vào trẻ em và lôi kéo chúng vào một mạng lưới tương tác nguy hiểm.
Những hành động pháp lý này diễn ra vào thời điểm ngành trí tuệ nhân tạo đang chứng kiến một cuộc cạnh tranh khốc liệt giữa các công ty lớn và nhỏ, khi mọi người đều tìm cách giành lấy vị trí trong thị trường tỷ đô này, đôi khi phải trả giá bằng việc bỏ qua các tiêu chuẩn an toàn và giám sát nghiêm ngặt.
Lời bào chữa của công ty: Đó chỉ là "chuyện viễn tưởng"!
Về phía mình, Character.AI đã cố gắng bảo vệ lập trường của mình bằng cách nhấn mạnh rằng sự an toàn của người dùng là ưu tiên hàng đầu, đồng thời lưu ý rằng họ không thể bình luận chi tiết về các vụ kiện đang chờ xử lý. Tuy nhiên, công ty nhấn mạnh tính chất hư cấu của các nhân vật do người dùng tạo ra, tuyên bố rằng họ đặt cảnh báo rõ ràng trong mỗi cuộc trò chuyện để nhắc nhở người dùng rằng bot không phải là người thật và mọi điều nó nói đều nên được coi là hoàn toàn hư cấu.
Nhưng liệu những cảnh báo này có đủ khi robot bắt đầu liệt kê các số giấy phép hành nghề y giả mạo? Các luật sư ở Pennsylvania tin rằng những cảnh báo này không thể miễn trừ trách nhiệm cho công ty, đặc biệt là khi luật hành nghề y được thiết kế để bảo vệ tính mạng khỏi những kẻ mạo danh và lừa đảo bị vi phạm.
Bối cảnh ngành: Cuộc đụng độ của những gã khổng lồ và thực tế khắc nghiệt
Trong khi Character.AI đang vướng vào rắc rối pháp lý, các công ty khác như OpenAI và Anthropic lại đang khởi động các liên doanh khổng lồ để cung cấp dịch vụ AI cho doanh nghiệp, trong một cuộc đua điên cuồng nhằm đạt được mức định giá nghìn tỷ đô la. Sự tương phản này làm nổi bật khoảng cách giữa các công ty tìm kiếm sự quản lý và những công ty để nền tảng của họ giống như "miền Viễn Tây cũ" mà không có sự giám sát thực sự nào đối với nội dung được công bố.
Ngay cả các nhà sản xuất chip như Cerebras và các nhà cung cấp lớn như ASML cũng thấy mình đang ở trung tâm của sự bùng nổ công nghệ này, vì sự ổn định của các hệ thống phức tạp này phụ thuộc vào phần cứng mạnh mẽ và khả năng xử lý khổng lồ, có nghĩa là bất kỳ lỗi phần mềm hoặc sai sót về mặt đạo đức nào cũng sẽ gây ảnh hưởng đến toàn bộ chuỗi giá trị.
Vụ kiện chống lại Character.AI không chỉ là một cuộc chiến pháp lý địa phương, mà còn là lời cảnh tỉnh cho bất cứ ai tin rằng trí tuệ nhân tạo có thể thay thế chuyên môn của con người trong các lĩnh vực nhạy cảm như tâm thần học mà không có sự giám sát chặt chẽ. Xét cho cùng, robot không có giấy phép hành nghề y và không thể chịu trách nhiệm về hậu quả từ những lời khuyên sai lầm của chính mình.
Nguồn:
Để lại phản hồi