Tâm sự của một cựu nhân viên Facebook về những góc tối nhất trên mạng xã hội lớn nhất hành tinh

Sarah Katz, 27 tuổi, đến với Facebook qua một hợp đồng ngắn hạn bên thứ ba và làm công việc kiểm duyệt nội dung tại văn phòng của công ty ở Menlo Park, California trong vòng 8 tháng. Công việc của cô khá đơn giản: Xem và quyết định xem liệu một bài đăng có vi phạm quy chuẩn cộng đồng do công ty đề ra hay không.

Về cơ bản, Katz dành toàn bộ thời gian làm việc để săm soi nội dung gửi tới cô mỗi 10 giây một  lần, sau đó nhanh chóng đưa ra quyết định loại bỏ hoặc chấp thuận. Những bài đăng cô phải xem thường đã bị AI kiểm duyệt và từ chối đăng lên Facebook, sau đó được chuyển qua cho người thật xem lại và Sarah phải kiểm duyệt trên dưới 8.000 bài đăng như vậy mỗi ngày.

Sarah Katz, cựu quản trị viên Facebook

Để phục vụ hơn 2 tỷ người dùng, Facebook đã phải thuê 4.500 quản trị viên như Katz trong năm ngoái, và tháng 5/2017 hãng tuyên bố dự định thuê thêm 3.000 nhân viên nữa trong một nỗ lực chống tin giả mạo cũng như nội dung không phù hợp. Facebook cũng đang nghiên cứu trí tuệ nhân tạo đẻ giúp kiểm soát những bài đăng vi phạm quy tắc của mình.

Do sức ép từ scandal Cambridge Analytica, Facebook đã buộc phải công bố một báo cáo minh bạch hồi tháng 5, trong đó mạng xã hội cho biết chỉ tính riêng 3 tháng đầu năm mình đã “hành động cương quyết” với hơn 21 triệu bài đăng không phù hợp bao gồm ảnh khỏa thân và khiêu dâm, bên cạnh đó là 3,4 triệu bài đăng chứa hình ảnh bạo lực. Đó là chưa kể đến con số hàng triệu bài đăng khác ngôn ngữ không phù hợp, spam và nội dung khủng bố cũng bị loại bỏ.

Quản trị viên Facebook phải ký giấy từ bỏ quyền của mình trước khi được vào làm

Hợp đồng của Facebook với quản trị viên nêu rõ công việc sẽ bao gồm phải xem rất nhiều nội dung và tư liệu độc hại

Nhân viên review nội dung Facebook phải ký một tờ giấy từ bỏ quyền của mình, về cơ bản là xác nhận mình đã nhận thức được công việc sẽ bao gồm việc phải xem và nhìn rất nhiều nội dung chướng tai gai mắt, trước khi bắt đầu hành trình làm việc tại mạng xã hội này. Bản hợp đồng cũng là một lá bùa hộ mệnh bảo vệ Facebook trước bất kỳ tranh chấp pháp lý nào có thể xảy ra.

Katz cho biết trong giấy từ bỏ quyền của mình nói rằng quản trị viên sẽ phải xem những nội dung “có thể khó coi với mọi người”, bao gồm cả ảnh khiêu dâm. Hợp đồng còn nói thêm rằng nhân viên nên “nhanh chóng thông báo” với Facebook nếu họ “không muốn làm nữa”.

“Facebook sở hữu hàng tỷ người dùng, và rất nhiều người không biết, hoặc không muốn sử dụng nền tảng này sao cho đúng. Vậy nên hàng ngày tôi phải kiểm duyệt rất nhiều nội dung bao gồm video về khiêu dâm, quan hệ với thú vật, hay bạo lực. Có rất nhiều nội dung những người dùng phổ thông sẽ không bao giờ muốn thấy chia sẻ trên Facebook”, Katz nói với Business Insider.

Không chỉ Sarah, rất nhiều quản trị viên khác đang ngày đêm xem những nội dung không phù hợp, để người dùng không phải nhìn thấy chúng trên Facebook.

Nếu một “ticket” - cách Facebook gọi những bài đăng cần kiểm duyệt lại không đạt yêu cầu quá 3 lần, moderator đó sẽ bị đuổi việc. "Quản trị viên sẽ bị cảnh cáo nếu không đạt mục tiêu “một hoặc hai lần, nhiều hơn ba lần, bạn sẽ phải đi khỏi đây”. Katz cho biết cô chưa bao giờ chứng kiến ai bị đuổi việc nhưng đó là một quy tắc được hiểu ngầm giữa các quản trị viên với nhau.

“Sau một thời gian, nó trở thành một dạng công việc nhàm chán. Bạn sẽ dần chai sạn hơn với những tư liệu bạo lực khó coi bởi bạn phải nhìn chúng quá nhiều hằng ngày. Rất nhiều nội dung thường hay được đăng đi đăng lại”, cô tâm sự.

Nếu không có những người như Katz, Facebook sẽ còn có cả phim ấu dâm

Sarah Katz cho biết có một lần cô đã phải xử lý một bức ảnh và video rất xấu xa cứ liên tục xuất hiện trong hàng chờ video đợi kiểm duyệt. Video quay cảnh hai đứa trẻ độ tuổi từ 9 đến 12 tuổi, bán khỏa thân từ nửa dưới thắt lưng và có những hành động đụng chạm cơ thể nhau - rõ ràng có sự dàn dựng của bàn tay người lớn đằng sau.

“Nó cứ liên tục quay trở lại và xuất hiện nhiều lần trong ngày. Mỗi lần vị trí địa lý của người gửi lại thay đổi - khi thì tại Pakistan, nhưng ngày hôm sau lại ngay trên đất Mỹ, Rất khó để định vị được kẻ xấu đã tung video này ở đâu”, cô nói.

Chưa hết, tại thời đó, Katz được lệnh không báo xấu tài khoản chia sẻ đoạn clip độc hại: “Nếu tài khoản người dùng ít hơn 30 ngày tuổi, chúng tôi sẽ vô hiệu hóa tài khoản và coi đó là account giả. Tuy nhiên, nếu đã hoạt động hơn 30 ngày, Facebook sẽ chỉ đơn giản là loại bỏ nội dung không phù hợp và không làm gì tài khoản chia sẻ cả”. Điều này dấy lên câu hỏi về những hiệu quả thực tiễn của hàng loạt nỗ lực từ Facebook chống lại lợi dụng trẻ em trên nền tảng của mình.

Về phần mình, công ty cho biết hồi 2012 rằng Facebook báo cáo tất cả mọi trường hợp phát hiện lợi dụng trẻ em tới Trung tâm Quốc gia Mỹ về Mất tích và Lợi dụng Trẻ em:

“Chúng tôi cương quyết không chấp nhận nội dung ấu dâm được đăng tải lên Facebook cũng như cực kỳ gay gắt trong việc ngăn chặn và loại bỏ nội dung liên quan đến lợi dụng trẻ em”, một phát ngôn viên mạng xã hội cho biết tại thời điểm đó.

Tuy nhiên, mạng xã hội của CEO Mark Zuckereberg đã từ chối bình luận về sự không nhất quán giữa câu chuyện Katz kể và chính sách của mình.

Giữ được Facebook "trong sạch" và an toàn là điều không hề dễ dàng

Quản trị viên sẽ là công việc AI không bao giờ thay thế được

Sau 8 tháng làm việc dưới vai trò quản trị viên duyệt tin của Facebook, Sarah Katz giờ đây đã làm nhà phân tích an ninh mạng cho công ty điện toán đám mây ServiceNow và cho ra đời cuốn tiểu thuyết khoa học viễn tưởng đầu tay của mình mang tên Apex Five, lấy cảm hứng từ thời gian cô làm việc tài Facebook.

Dù thừa nhận 8 tháng của mình tại Đế chế chữ F màu xanh quá căng thẳng và không dễ dàng vượt qua, Katz lại tỏ ra rất phấn khởi và hào hứng khi nói về trải nghiệm của mình tại đó, cho rằng những mặt trái của công việc tăm tối mình từng làm hoàn toàn xứng đáng với cảm giác hạnh phúc vì cô đang bảo vệ được hàng tỷ người dùng và cô ủng hộ các công ty công nghệ tìm cách biến quản trị viên thành một công ăn việc làm thực sự thay vì chỉ là một công việc ngắn hạn.

“Sẽ luôn cần có người thật kiểm duyệt bài đăng, AI sẽ không thể đảm nhận được toàn bộ phần việc, dù nó có tiến bộ vượt trội đến thế nào đi nữa, đó chính là mặt trái lớn nhất của công việc này”, Sarah bộc bạch.

Facebook cho biết: "Đội ngũ nhân viên kiểm duyệt nội dung toàn cầu của chúng tôi đóng vai trò then chốt góp phần tạo nên một môi trường an toàn hơn cho cộng đồng Facebook, vốn là ưu tiên hàng đầu tại Facebook. Chúng tôi hiểu rằng công việc này đôi khi có thể trở nên áp lực và căng thẳng, vậy nên hỗ trợ về sức khỏe thể chất cũng như tinh thần luôn luôn sẵn sàng cho các nhân viên của chúng tôi”.