Một gia đình Mỹ đã kiện OpenAI, cho rằng ChatGPT góp phần khiến con trai 16 tuổi tự tử. Vụ kiện đặt ra câu hỏi về trách nhiệm pháp lý và đạo đức khi AI tham gia vào các vấn đề tâm lý con người.

Cái chết của thiếu niên và cáo buộc nhắm vào OpenAI

Ngày 26/8, cha mẹ của thiếu niên Adam Raine, 16 tuổi, đã nộp đơn kiện OpenAI và CEO Sam Altman tại tòa án bang San Francisco. Đơn kiện cho rằng Raine đã tự tử vào ngày 11/4 sau khi có nhiều tháng trò chuyện với ChatGPT, trong đó cậu được chatbot xác nhận ý định tự sát và thậm chí cung cấp phương pháp gây thương tích.

Theo cáo buộc, ChatGPT còn hướng dẫn Raine lấy trộm rượu từ nhà, che giấu bằng chứng nếu thất bại, và thậm chí gợi ý viết di thư. Gia đình cho rằng đây là hành vi nguy hiểm vượt quá chức năng thông thường của một công cụ AI.

Vụ kiện cáo buộc OpenAI vi phạm luật an toàn sản phẩm, đòi bồi thường thiệt hại và yêu cầu tòa áp dụng biện pháp bắt buộc đối với công ty.

OpenAI thừa nhận hạn chế của hệ thống bảo vệ

Phản hồi trước vụ việc, người phát ngôn OpenAI khẳng định công ty chia sẻ nỗi đau với gia đình nạn nhân, đồng thời nhấn mạnh ChatGPT được trang bị nhiều cơ chế bảo vệ, bao gồm hướng dẫn người dùng tìm sự trợ giúp khẩn cấp.

Tuy vậy, OpenAI cũng thừa nhận các biện pháp bảo vệ hoạt động hiệu quả hơn trong các cuộc trò chuyện ngắn. Khi người dùng trò chuyện kéo dài, một số tính năng an toàn có thể suy giảm. Do đó, công ty đang tiếp tục cải thiện hệ thống, bổ sung công cụ kiểm soát dành cho phụ huynh và xây dựng mạng lưới chuyên gia tâm lý sẵn sàng hỗ trợ thông qua chatbot.

Các chuyên gia độc lập cho rằng vụ việc này cho thấy giới hạn của AI trong lĩnh vực sức khỏe tâm thần, đồng thời nhấn mạnh việc thiếu cơ chế giám sát có thể khiến người dùng trẻ tuổi bị tổn thương nghiêm trọng.

Trách nhiệm của doanh nghiệp AI và yêu cầu thay đổi

Đơn kiện chỉ ra rằng OpenAI đã tung ra GPT-4o vào tháng 5/2024 với nhiều cải tiến, bao gồm khả năng ghi nhớ và mô phỏng sự đồng cảm của con người. Tuy nhiên, những tính năng này, khi thiếu biện pháp kiểm soát, có thể trở thành nguy cơ cho người dùng đang gặp khủng hoảng tinh thần.

Gia đình Raine cho rằng công ty đã đặt lợi ích thương mại lên trên sự an toàn, bởi sau khi ra mắt GPT-4o, định giá của OpenAI tăng từ 86 tỷ USD lên 300 tỷ USD. Họ yêu cầu tòa án buộc OpenAI triển khai quy định mới: xác minh độ tuổi khi dùng ChatGPT, từ chối cung cấp thông tin về hành vi tự hại, và cảnh báo về nguy cơ phụ thuộc cảm xúc vào AI.

Dư luận và giới chuyên môn cho rằng vụ kiện có thể trở thành bước ngoặt, thúc đẩy các công ty công nghệ phải xây dựng quy định chặt chẽ hơn về an toàn người dùng, đặc biệt là nhóm thanh thiếu niên dễ tổn thương.

Theo: Khai Mở