Tuy nhiên, báo cáo mới cho biết cho biết hàng trăm người dùng ChatGPT mỗi tuần có dấu hiệu mắc bệnh tâm thần, và hơn một triệu người đã từng nghĩ đến việc tự tử. Cụ thể, Gizmodo cho biết 0,07% người dùng ChatGPT hàng tuần có các dấu hiệu rối loạn tâm thần, trong khi 0,15% có xu hướng tự tử.
Tổng cộng, ước tính có khoảng 3 triệu người thể hiện những hành vi đáng báo động này. Con số này đáng lo ngại khi mà công ty mẹ của ChatGPT là OpenAI cho biết khoảng 800 triệu người sử dụng dịch vụ của họ hàng tuần, tương đương với khoảng 10% dân số thế giới.
Để đối phó với tình trạng này, OpenAI đã tham khảo ý kiến của 170 chuyên gia sức khỏe tâm thần nhằm cải thiện phản hồi của ChatGPT đối với người dùng có triệu chứng đáng lo ngại. Công ty đã nỗ lực để giảm thiểu các phản hồi không mong muốn trong những tình huống nhạy cảm, với tỷ lệ giảm từ 65-80%. Tuy nhiên, ChatGPT vẫn không chấm dứt cuộc trò chuyện hoặc chặn quyền truy cập của những người dùng này.
Theo số liệu, có khoảng 560.000 người dùng ChatGPT mỗi tuần biểu hiện dấu hiệu rối loạn tâm thần, trong khi 1,2 triệu người dùng tiềm năng tự tử tạo ra tới 9 triệu tin nhắn liên quan đến vấn đề này.
Mặc dù OpenAI đang cố gắng thể hiện sự quan tâm đến sức khỏe tâm thần của người dùng, công ty cũng đang phải đối mặt với chỉ trích vì những sáng kiến gần đây nhằm phát triển tính cách cho chatbot và sử dụng AI để tạo nội dung khiêu dâm. Những phát triển này có thể không góp phần cải thiện sức khỏe tâm thần của người dùng.
Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống