Vì sao Instagram vẫn để lọt Livestream bắn giết hàng loạt

Hiện trường vụ việc xả súng tại vụ xả súng và livestream tại siêu thị TOPS ở Buffalo, bang New York, ngày 14/5. Ảnh: Reuters.

Một nhân viên ngân hàng 25 tuổi đã nổ súng vào sáng 11 tháng 4 tại nơi làm việc ở trung tâm thành phố Louisville, bang Kentucky (Mỹ) và kết quả là 5 người thiệt mạng. Connor Sturgeon, tay súng, đã phát hiện trực tiếp vụ việc trên Instagram. Đây không phải là lần đầu tiên các mạng xã hội chuyển phát thông điệp cho những kẻ bắn giết hàng loạt.

Sarah T. Roberts, nhà nghiên cứu về kiểm duyệt nội dung mạng xã hội tại Đại học California, Los Angeles, lưu ý rằng các hệ thống rà quét tự động vẫn chưa thể xác định chính xác các yếu tố bạo lực trong các video.

Theo Roberts, "Sự phức tạp của định dạng video, bao gồm số khung hình mỗi giây và ý nghĩa thực sự của cảnh quay, là rất khó xác định với các thuật toán AI."

Sự cố lặp đi lặp lại

"Cảnh sát đã thông báo cho chúng tôi ngay sau khi buổi phát trực tiếp bắt đầu và chúng tôi đã nhanh chóng cả tài khoản Facebook và Instagram của kẻ xả súng cũng như video", Meta thông báo sau vụ việc xả súng ở New Zealand được phát trực tiếp vào ngày 15/3/2019.

Hình ảnh kẻ xả súng tại nhà thờ Hồi giáo Masjid Al Noor ở Christchurch, New Zealand, được lấy từ Livestream. Ảnh: Facebook.

Khi đó, khi đang lái xe ô tô và đến nhà thờ Hồi giáo Masjid Al Noor ở Christchurch (New Zealand), kẻ thủ ác Brenton Tarrant bắt đầu livestream. Chất đống vũ khí, đạn dược và xăng được mô tả trên xe. Tarrant bước vào nhà thờ và bắn súng khiến hàng trăm người thiệt mạng hoặc bị thương. Theo Meta, "thông báo của cảnh sát" đã được "thông báo" 17 phút sau khi livestream bị gỡ.

Payton Gendron đã bắn chết 10 người vào ngày 15 tháng 5 năm2022, tại một siêu thị ở Buffalo, bang New York (Mỹ). Kẻ này cũng quay video vụ việc trên Twitch. Gần đây hơn, cảnh sát thành phố Memphis, bang Tennessee (Mỹ) đã bắt giữ nghi phạm Ezekiel Kelly, kẻ đã quay video trên Facebook cảnh mình vào cửa hàng và bắn vào 5 người khác.

Sau vụ việc ở Memphis, đại diện Quỹ hưu trí bang New York, nhà đầu tư nắm giữ hơn 1 tỷ USD cổ phiếu Meta vào thời điểm đầu năm 2022, lên tiếng yêu cầu cách chức CEO của công ty này vì không tuân thủ các tiêu chuẩn an toàn sau và để vụ việc Buffalo lặp lại.

Vào tối 7/9/2022, Ezekiel Kelly, thủ phạm gây ra vụ xả súng ở Memphis, đã bị bắt giữ. Ảnh: FOX13.

Các video và ảnh chụp màn hình từ livestream của tay súng và tuyên ngôn phân biệt chủng tộc của tội phạm vẫn tiếp tục xuất hiện trên các nền tảng Meta, theo các dẫn chứng của quỹ này.

"Đây là minh gần đây nhất về việc Meta không thực thi các tiêu chuẩn và nguyên tắc cộng đồng để quản lý việc phổ biến ngôn ngữ kích động thù địch và nội dung bạo lực", quỹ này đánh giá về vụ việc Memphis.

Và đến ngày 11/4, một sự việc tương tự lại xảy ra, lần này trên Instagram. Mặc dù Meta đã gỡ livestream, nhưng đến nay vẫn chưa rõ liệu các hình ảnh và đoạn clip có bị lan truyền trên các nền tảng hay không.

"Điểm mù" của các thuật toán rà quét tự động

Các thuật toán rà quét tự động vẫn chưa xác định hiệu quả các nội dung thù hận, khiêu dâm hoặc bạo lực, đặc biệt là ở định dạng video, một nguyên nhân rất quan trọng.

Theo Daniel Lowd, nhà nghiên cứu trí tuệ nhân tạo và học máy tại Đại học Oregon, ngữ cảnh và bối cảnh là các yếu tố quan trọng với dạng nội dung bạo lực, trong khi các thuật toán là kém quan trọng.

Các lỗ đạn tại hiện trường vụ xả súng tại ngân hàng ở thành phố Louisville, bang Kentucky (Mỹ) ngày 11/4. Ảnh: Reuters.

Những bình luận thoạt nghe có vẻ bạo lực có thể là những lời châm biếm để phản đối bạo lực hoặc nghe có vẻ lành tính nhưng thực tế là nguy hiểm đối với những người có kiến thức về tin tức gần đây hoặc văn hóa địa phương.

Theo Lowd, "Rất nhiều tác động của một vài từ phụ thuộc vào bối cảnh văn hóa", lưu ý rằng ngay cả các kiểm duyệt viên con người vẫn gặp khó khăn trong việc phân tích các bối cảnh này trên mạng xã hội.

Vấn đề phức tạp hơn nữa ở định dạng video. Chẳng hạn, vũ khí có thể bị khuất hoặc hiển thị ở các góc khác nhau hoặc đoạn clip có vẻ bạo lực thực sự là đoạn phim hoặc mô phỏng, theo Roberts. Ngoài ra, các yếu tố như ánh sáng hoặc hình nền có thể gây khó khăn cho thị giác máy tính.

Mỗi mạng xã hội có hàng trăm nghìn giờ video mỗi ngày, trong khi việc sử dụng AI để thu thập ý nghĩa từ một video là một thách thức. Roberts cho rằng "hàng trăm nghìn giờ video là thứ mà các công ty này kinh doanh", nhưng lưu ý thêm rằng nền tảng cần nhiều video như vậy như thế nào để được thu hút và mong muốn.

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống