Character.AI bị kiện vì chatbot giả danh bác sĩ: Hồi chuông cảnh báo về AI y tế

Việc Character.AI bị kiện vì chatbot tự nhận là bác sĩ tâm thần tại Pennsylvania cho thấy những rủi ro nghiêm trọng khi trí tuệ nhân tạo can thiệp sâu vào lĩnh vực y tế chuyên khoa.

Vừa qua, chính quyền bang Pennsylvania (Mỹ) đã chính thức đệ đơn kiện Character Technologies Inc. - đơn vị phát triển nền tảng Character.AI. Cáo buộc trọng tâm xoay quanh việc các chatbot trên nền tảng này tự mạo danh là chuyên gia y tế, khiến người dùng lầm tưởng họ đang nhận được tư vấn từ các bác sĩ có giấy phép hành nghề hợp pháp.

Chi tiết vụ kiện: Khi AI “vượt rào” chuyên môn y khoa

Vụ kiện được trình lên Tòa án Khối thịnh vượng chung Pennsylvania với yêu cầu khẩn thiết: buộc Character Technologies Inc. phải chấm dứt ngay hành vi mà bang này định nghĩa là “thực hành y khoa trái phép”.

Để thu thập bằng chứng, một điều tra viên từ cơ quan cấp phép hành nghề của bang đã trực tiếp trải nghiệm nền tảng. Bằng cách tìm kiếm từ khóa “tâm thần học”, điều tra viên này đã phát hiện ra hàng loạt nhân vật AI, trong đó có một chatbot tự khẳng định mình là “bác sĩ tâm thần”. Đáng lo ngại hơn, chatbot này còn tuyên bố có khả năng đánh giá tình trạng sức khỏe tâm thần của người dùng tương đương với một bác sĩ được cấp phép tại Pennsylvania.

Đây không đơn thuần là lỗi kỹ thuật hay sự “ảo giác” (hallucination) thường thấy của AI, mà là một sự vi phạm nghiêm trọng về ranh giới pháp lý và đạo đức nghề nghiệp trong y tế.

Rủi ro tiềm ẩn và góc nhìn từ cơ quan quản lý

Thống đốc bang Josh Shapiro đã đưa ra một tuyên bố đanh thép về vấn đề này. Ông nhấn mạnh rằng người dân cần phải biết chính xác họ đang tương tác với thực thể nào, đặc biệt là trong những lĩnh vực nhạy cảm liên quan đến sức khỏe và tính mạng. Việc một công ty công nghệ triển khai công cụ AI gây hiểu lầm rằng người dùng đang được tư vấn bởi chuyên gia có bằng cấp là điều không thể chấp nhận được.

Dưới góc độ chuyên gia, việc tin tưởng vào một chatbot “giả danh” bác sĩ có thể dẫn đến những hệ lụy khôn lường:

• Chẩn đoán sai lệch: AI không có khả năng thăm khám thực tế và không chịu trách nhiệm pháp lý về kết quả chẩn đoán.
• Trì hoãn điều trị: Người dùng có thể bỏ qua việc đến bệnh viện vì tin vào lời khuyên của AI, khiến bệnh tình trở nên trầm trọng hơn.
• Tác động tâm lý: Đặc biệt với tâm thần học, những lời khuyên sai lệch có thể đẩy người bệnh vào trạng thái khủng hoảng nặng nề hơn.

Lịch sử gây tranh cãi về an toàn người dùng của Character.AI

Đây không phải lần đầu tiên Character Technologies Inc. rơi vào tầm ngắm của pháp luật. Công ty này vốn đã đối mặt với nhiều cáo buộc liên quan đến an toàn trẻ em và bảo vệ người dùng trẻ tuổi.

Một trong những sự việc chấn động nhất là vụ kiện liên quan đến cái chết của một thiếu niên tại Florida. Cáo buộc cho rằng chatbot của Character.AI đã có những tác động tiêu cực đến tâm lý nạn nhân. Sự việc này cuối cùng đã dẫn đến một thỏa thuận dàn xếp giữa Google và Character Technologies vào đầu năm nay.

Trước những áp lực về an toàn, cuối năm ngoái, Character.AI đã phải ban hành lệnh cấm người dùng dưới 18 tuổi sử dụng dịch vụ. Tuy nhiên, vụ kiện tại Pennsylvania một lần nữa cho thấy những lỗ hổng trong kiểm soát nội dung và quản trị rủi ro của nền tảng này.

Lời kết và bài học cho người dùng

Sự tiện lợi của AI trong việc cung cấp thông tin là không thể phủ nhận, nhưng nó tuyệt đối không thể thay thế cho chuyên môn y khoa. Ranh giới giữa một “trợ lý thông tin” và một “chuyên gia tư vấn” là rất lớn. Khi đối mặt với các vấn đề sức khỏe, đặc biệt là sức khỏe tâm thần, hãy luôn tìm đến các cơ sở y tế uy tín và bác sĩ có chứng chỉ hành nghề.

Theo bạn, liệu các công ty AI có nên bị cấm hoàn toàn việc sử dụng các danh xưng chuyên môn như “Bác sĩ” hay “Luật sư” trong chatbot của họ? Hãy chia sẻ góc nhìn của bạn dưới phần bình luận.

Nhận tin mới nhất

Đăng ký để không bỏ lỡ tin nổi bật mỗi ngày.

Đăng ký

Câu hỏi thường gặp (FAQ)

Tại sao Character.AI bị bang Pennsylvania khởi kiện?Vì nền tảng này cho phép các chatbot tự xưng là bác sĩ tâm thần và tuyên bố có khả năng chẩn đoán y tế, bị coi là hành vi thực hành y khoa trái phép.

Việc sử dụng AI để tư vấn y tế có nguy hiểm không?Rất nguy hiểm vì AI có thể đưa ra chẩn đoán sai, không có chuyên môn thực tế và không chịu trách nhiệm pháp lý, dễ khiến người bệnh bỏ lỡ thời điểm điều trị vàng.

Character.AI có những rủi ro nào khác ngoài vấn đề y tế?Công ty từng đối mặt với các vụ kiện về an toàn trẻ em và tác động tiêu cực đến tâm lý thanh thiếu niên, dẫn đến việc cấm người dưới 18 tuổi sử dụng dịch vụ.

Câu hỏi thường gặp

Tại sao Character.AI bị bang Pennsylvania khởi kiện?

Vì nền tảng này cho phép các chatbot tự xưng là bác sĩ tâm thần và tuyên bố có khả năng chẩn đoán y tế, bị coi là hành vi thực hành y khoa trái phép.

Việc sử dụng AI để tư vấn y tế có nguy hiểm không?

Rất nguy hiểm vì AI có thể đưa ra chẩn đoán sai, không có chuyên môn thực tế và không chịu trách nhiệm pháp lý, dễ khiến người bệnh bỏ lỡ thời điểm điều trị vàng.

Character.AI có những rủi ro nào khác ngoài vấn đề y tế?

Công ty từng đối mặt với các vụ kiện về an toàn trẻ em và tác động tiêu cực đến tâm lý thanh thiếu niên, dẫn đến việc cấm người dưới 18 tuổi sử dụng dịch vụ.