Facebook dùng AI để ngăn chặn người dùng tự tử hoặc "làm điều dại dột"

Facebook đang nỗ lực cải tiến khả năng phát hiện các bài đăng tiềm ẩn nguy cơ tự tử từ người dùng để kịp thời đưa ra những trợ giúp và lời khuyên, tránh người dùng làm những điều dại dột.

Hồi đầu năm nay, Facebook lần đầu tiên phát triển và thử nghiệm thuật toán hỗ trợ phát hiện người dùng có nguy cơ tự tử, sau đó đánh dấu bài đăng, status của người cần giúp đỡ nhằm đưa ra hướng giải quyết.

Ban đầu tính năng mới chỉ được thử nghiệm tại Mỹ nhưng sau khi nhận được nhiều phản hồi tích cực, Facebook dự kiến sẽ mang tính năng này tới nhiều khu vực hơn trên thế giới, ngoại trừ Châu Âu do các vấn đề liên quan đến quyền riêng tư.

Guy Rosen, phó giám đốc mảng quản lý sản phẩm của Facebook khẳng định, Facebook đã bắt đầu ứng dụng công nghệ nhận diện mẫu để thúc đẩy quá trình phát hiện những báo cáo liên quan đến tự tử nhanh và kịp thời hơn.

Khi ứng dụng AI, mọi việc trở nên đơn giản hơn, đồng thời giảm thời gian phản hồi và trợ giúp cho những người có nguy cơ tự tử.

Trí tuệ nhân tạo tham gia trợ giúp Facebook bằng cách quét các bài đăng của người dùng để tìm các dấu hiệu họ đang có ý nghĩ tự tử. Khi tìm thấy một người nào đó có nguy cơ tự tử, Facebook sẽ đánh dấu để các nhân viên trợ giúp kịp thời gửi tài liệu liên quan đến sức khỏe tâm thần cho người đó. Thậm chí rơi vào trường hợp khẩn cấp, Facebook sẽ liên hệ với những người thân để kịp thời can ngăn.

Theo TheVerge, hiện tại Facebook đang cung cấp một số tùy chọn trợ giúp người tự tử như liên lạc với bạn bè hoặc cung cấp một đường dây nóng 24/7 để các tư vấn viên Facebook có thể lắng nghe và chia sẻ về nỗi phiền muộn của người dùng.

Trong một chia sẻ gần đây, CEO Facebook Mark Zukerberg hy vọng, công cụ ứng dụng AI này sẽ trở thành cứu cánh cho những người có ý định tự tử. Cũng theo Mark, chỉ tính riêng trong tháng 10 vừa qua, AI đã giúp phát hiện hơn 100 trường hợp nghi vấn nhanh hơn so với các phương pháp truyền thống.

Mark nói thêm: "Nếu chúng ta có thể sử dụng AI để giúp mọi người, điều đó chắc chắn là một bước tinees quan trọng và đầy tích cực".

AI có lợi thế về tốc độ và khả năng xử lý lượng dữ liệu khổng lồ về người muốn tự tử

Mặc dù nhấn mạnh vào sức mạnh của AI nhưng Facebook không tiết lộ nhiều về cách phát hiện và đánh giá ai đang thực sự gặp nguy hiểm. Tuy nhiên, Facebook tiết lộ, AI được đào tạo từ nguồn bài viết và tin nhắn được người dùng sử dụng trong quá khứ. Sau đó, AI được lệnh phải tìm kiếm và phát hiện các dấu hiệu khả nghi, ví dụ những lời bình luận hỏi người dùng như "bạn ổn chứ", "bạn có cần giúp gì không?".

Trí tuệ nhân tạo cũng kiểm tra thêm cả luồng phát video trực tiếp nếu có ghi nhận những bình luận bất thường hoặc báo cáo từ người dùng khác. Tuy nhiên, người quản lý cuối cùng là quan trọng nhất vì họ đóng vai trò quyết định trường hợp nào cần giúp đỡ.

Nhiều nghiên cứu cho thấy, AI là một công cụ hữu ích trong việc xác định các vấn đề sức khoẻ tâm thần. Nghiên cứu gần đây sử dụng máy học để dự đoán liệu các cá nhân có muốn tự sát trong vòng hai năm tới hay không. Kết quả thu được khá ấn tượng với độ chính xác từ 80 đến 90%. Tuy nhiên, nghiên cứu chỉ xem xét dữ liệu từ những người đã nhập viện sau khi tự sát. Trong khi đó, các nghiên cứu quy mô hơn vẫn chưa được công bố.

Tiến Thanh