Thử thách độc hại "French scar" khiến TikTok bị điều tra

Đặc biệt với những người dùng dễ bị tổn thương, chẳng hạn như trẻ em hoặc trẻ vị thành niên, giới chức lo ngại rằng TikTok đã không tạo ra hệ thống kiểm duyệt thông tin an toàn. Ảnh: DR.

Cơ quan Quản lý Cạnh tranh Italy (AGCM) đã thông báo vào ngày 21/3 rằng họ sẽ bắt đầu điều tra TikTok liên quan đến cáo buộc đăng tải những nội dung nguy hiểm như tự sát, ngược đãi bản thân và nhịn ăn, tự bỏ đói trên nền tảng.

Trào lưu tự làm hại bản thân

Cụ thể, một trào lưu có tên "French scar" đang bùng nổ trên TikTok. Trong video, những người tham gia dùng tay véo mạnh vào mặt để tạo ra những vết lằn đỏ giống như vết sẹo.

Theo AGCM, TikTok đã thiếu sót trong hệ thống kiểm duyệt thông tin do người dùng đăng tải, đồng thời không tuân thủ các điều khoản dịch vụ đã nêu ra trước đó như gỡ bỏ nội dung nguy hiểm liên quan đến tự sát, ngược đãi bản thân, rối loạn ăn uống.

Cuộc điều tra của AGCM chủ yếu sẽ nhắm mục tiêu đến chi nhánh Ireland của Công ty TikTok Technology Limited ở Ireland, chuyên phụ trách mảng quản trị khách hàng ở khu vực châu Âu, cũng như công ty quyền TikTok ở Anh và Ireland. Ngoài ra, AGCM thông báo sẽ bắt đầu điều tra trụ sở TikTok ở Italy với sự hỗ trợ của Đội đặc nhiệm chống độc quyền Guardia di Finanza.

Các nội dung độc hại trên nền tảng đã thường xuyên bị TikTok vướng phải kiện cáo. Ảnh: Reuters.

Theo cơ quan Bộ Y tế Ý, họ sẽ điều tra về TikTok dựa trên một loạt video có cảnh người tham gia thể hiện các biểu hiện tự gây hại cho bản thân, chẳng hạn như trào lưu véo mặt "French scar". Nhiều chuyên gia y tế đã cảnh báo rằng hành vi này sẽ gây ra vết thương hoặc ửng đỏ vĩnh viễn.

Đặc biệt, với những người dùng dễ bị tổn thương, chẳng hạn như trẻ em hoặc trẻ vị thành niên, AGCM cho biết họ lo ngại rằng TikTok đã không xây dựng hệ thống kiểm duyệt thông tin an toàn.

Theo cơ quan quản lý của Italy, TikTok đã không những nội dung nguy hiểm như hãng đã nêu trong điều khoản dịch vụ. Ngoài ra, họ muốn điều tra chức năng của trí tuệ nhân tạo (AI) TikTok đối với việc hiển thị các bản ghi gây hại cho cộng đồng.

Lo ngại về thuật toán đề xuất

Một thuật toán đề được sử dụng để xuất video ngắn trên trang chủ "For You" trên nền tảng chia sẻ video ngắn TikTok vốn nổi tiếng. Dựa trên dữ liệu mà TikTok đã theo dõi trước đó, chẳng hạn như lượt like, tương tác của người dùng với những nội dung tương tự, các video ngắn xuất hiện trên "For You" được cá nhân hóa cho mỗi người dùng.

Tuy nhiên, vẫn còn nhiều điều để nói về cách thức hoạt động và quản lý của thuật toán này. TechCrunch viết rằng câu hỏi được đặt ra là liệu thuật toán này có thể bị lợi dụng để lan truyền những thử thách hoặc trào lưu độc hại hay không.

Thử thách "French scar" trên TikTok. Ảnh: Xiaomi Today.

Theo TikTok, người đã nhận được thông báo về cuộc điều tra, người đã nói với TechCrunch. Họ khẳng định đã thuê hơn 40.000 chuyên gia để bảo vệ cộng đồng người dùng một cách an toàn, đặc biệt là bảo vệ nhóm đối tượng trẻ em.

"Chúng tôi không cho phép hiển thị hoặc lan truyền những hành vi, thử thách nguy hiểm như tự sát, ngược đãi bản thân và ăn uống thiếu lành mạnh," nền tảng video ngắn khẳng định. Ngoài ra, quy tắc đề xuất hiển thị sẽ hỗ trợ đảm bảo nội dung phù hợp cho đại chúng và đại diện TikTok sẽ hợp tác với chính quyền địa phương để tuân thủ mọi quy tắc.

Trong đó, liên quan đến thử thách "French scar", TikTok tuyên bố rằng đội An toàn và Tin tưởng của họ đã đánh giá độ an toàn và cấm mọi nội dung nguy hiểm liên quan đến hành vi véo mặt, gây hại cho bản thân. Theo hãng công nghệ, chỉ những người dùng 18 tuổi trở lên mới có thể xem những nội dung tương tự và chúng sẽ không xuất hiện ở mục đề xuất.

TechCrunch không phải lần đầu tiên các lo ngại về an ninh của TikTok khiến các nhà làm luật ở Italy bắt tay vào cuộc.

Cơ quan quản lý quyền riêng tư dữ liệu của Ý đã yêu cầu TikTok chặn tài khoản người dùng chưa được xác minh và cam kết cấm trẻ em dưới 13 tuổi đăng ký tài khoản vào năm 2021.

Sau khi một bé gái tham gia "Thử thách bất tỉnh" trên TikTok bị chết não, động thái này đã được thông báo. Thử thách này yêu cầu người tham gia phải tự làm ngất xỉu bản thân trong vài giây trước khi đăng video lên TikTok.

Các quan chức ở Rome đã từng yêu cầu tạm dừng chính sách thu thập dữ liệu mới tại châu Âu vào tháng 7/2022. Trước đó, ứng dụng này đã công bố thực hiện chính sách mới cho phép thu thập dữ liệu từ những người sử dụng ứng dụng này từ 18 tuổi trở lên bất kể họ có đồng ý hay không.

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống