Công ty công nghệ và con đường nan giải để chặn video bạo lực trên mạng xã hội

Trong thời gian qua, một trong những vấn đề đau đầu với các công ty công nghệ, nhất là các công ty hoạt động trên nền internet, chính là vấn nạn video bạo lực. Từ Facebook, YouTube, cho đến các mạng xã hội ít tên tuổi hơn như Twitter, tất cả đều "dính phốt", không ít thì nhiều. Đó là lý do vì sao, những công ty này đang tích cực cải tiến trí tuệ nhân tạo để các phần mềm của họ có thể xác định và chặn các video về những vụ giết người rùng rợn trước khi chúng tiếp cận được với quá nhiều người dùng trên mạng xã hội.

Tuy nhiên, cho tới nay chưa một công ty nào dám khẳng định có thể ngăn chặn hoàn toàn loại nội dung này.

Hồi đầu tuần này, một người đàn ông Thái Lan đã dùng tính năng phát video trực tiếp của ứng dụng Facebook (Facebook Live) để phát cảnh hắn ta tự tay giết chết đứa con gái mới 11 tháng tuổi. Đây chỉ là một trong chuỗi các nội dung bạo lực được phát trực tiếp trên Facebook trong thời gian qua. Sự chậm trễ của Facebook trong việc ngăn chặn chúng dấy lên câu hỏi về tính hiệu quả của hệ thống báo cáo vi phạm mà Facebook đang áp dụng.

Không chỉ Facebook, hàng loạt công ty khác cũng đang phải vật lộn với vấn đề tương tự. Google là một ví dụ. YouTube, trang video thuộc sở hữu của hãng tìm kiếm, cũng đã không ít lần để tồn tại video bạo lực cũng như các video truyền bá tin giả mạo khiến các nhà quảng cáo từng phải lên chiến dịch tẩy chay. 2 ông lớn này, chính vì thế, đang gấp rút tìm ra các giải pháp cho vấn nạn mà có lẽ trước đây họ chưa từng nghĩ sẽ nghiêm trọng như hiện nay.

Hầu hết giải pháp đều tập trung vào công nghệ "học sâu" (deep learning): một dạng trí tuệ nhân tạo tận dụng các mạng nơ-ron được tự động hóa (computerized). Đây là cách tiếp cận mà theo David Lissmyr, nhà sáng lập công ty phân tích video/hình ảnh Sightengine, đang lặp lại những gì được áp dụng vào những năm 1950, nhằm bắt chước cách nơ-ron hoạt động và tương tác trong não.

Dạy máy tính học với các lớp nơ-ron nhân tạo đang thực sự nổi lên trong những năm qua. Tuy nhiên, chỉ trong thời gian gần đây máy tính mới có đủ sức mạnh xử lý, và chúng ta mới có đủ dữ liệu để dạy những hệ thống này, tạo ra một bước nhảy vọt về tính chính xác và độ hiệu quả của máy học (machine learning) - theo Matt Zeiler, nhà sáng lập và CEO công ty về phân tích video Clarifai.

Dùng hình ảnh

Hệ thống dạy bắt đầu bằng cách đưa ảnh qua các tầng nơ-ron của máy tính, và chúng sẽ "học" để xác định các đối tượng cụ thể, như đây là biển chỉ đường, còn đây là cảnh bạo lực trong một video.