Mất nhiều năm để gỡ video khiêu dâm bị ghép mặt

Khi được sử dụng để tạo ra các tác phẩm nghệ thuật, thử nghiệm trang phục cho các nhân vật trong phòng thử đồ ảo hoặc thiết kế các chiến dịch quảng cáo, trí tuệ nhân tạo tạo tạo sinh (Generative AI) ngày càng trở nên phổ biến. Tuy nhiên, nhiều chuyên gia trong ngành lo ngại về mặt tối của các công cụ này. Chúng sẽ tiếp tay cho các hành vi lan truyền trái phép nội dung khiêu dâm bằng deepfake.

Một trong những nạn nhân của thực tế này là Noelle Martin (28 tuổi), người Perth, Australia. Cô đã phát hiện video khiêu dâm deepfake ghép mặt mình từ 10 năm trước trong một lần tò mò sử dụng công cụ tìm kiếm hình ảnh của Google để tìm hình ảnh của mình.

Martin không biết ai đã tạo ra những tấm ảnh và video nhạy cảm đó cho đến tận ngày nay. Cô cho rằng có thể ai đó đã gắn các bức ảnh mà cô đăng lên các video đồi trụy sau khi chúng được tải lên mạng xã hội và Internet.

Martin, người đã chia sẻ với SCMP, nói rằng cô ấy rất sợ hãi. Cô gái 28 tuổi đã liên hệ với rất nhiều trang web trong những năm qua để gỡ những tấm ảnh này xuống. Trang web thậm chí không phản hồi. Có trang web đã gỡ xuống, nhưng sau đó cô lại phát hiện ra rằng nó vẫn đang được đăng lên.

"Đây là cuộc chiến mà tôi không thể giành chiến thắng. Martin cho biết, "Đó liên tục ở đâu đó ngoài kia và hoại tôi vĩnh viễn.

AI càng phát triển, deepfake càng nguy hiểm

Theo SCMP, deepfake là những hình ảnh hoặc video được tạo ra bằng các công cụ kỹ thuật số hoặc bị can thiệp, chỉnh sửa bởi AI hoặc máy học. Khi một người dùng Reddit chia sẻ đoạn video ghép mặt nhiều người nổi tiếng vào cơ thể của các diễn viên khiêu dâm, nội dung đồi trụy bằng deepfake lần đầu tiên được lan truyền trên Internet.

Kể từ đó, những người làm nội dung bằng deepfake đã lợi dụng những video có nội dung tương tự để tấn công những người nổi tiếng, cánh nhà báo hoặc những nhân vật được công chúng chú ý. Internet tràn ngập hàng nghìn video đồi trụy.

Công nghệ deepfake bị lạm dụng để tạo những video nhạy cảm của các cô gái, đặc biệt là người nổi tiếng. Ảnh: Samantha Cole.

Một số công cụ deepfake cũng cho phép người dùng tạo ảnh hoặc video. Điều này ngụ ý rằng bất cứ ai cũng có thể chuyển đổi những ảo tưởng đen tối của mình thành sự thật mà không cần sự đồng thuận của người khác hoặc chuyển đổi chúng thành một chiêu trò đe, tống tiền.

Các chuyên gia cho rằng vấn đề này ngày càng trở nên phổ biến hơn vì việc tạo ra các nội dung deepfake tinh vi, giống như thật không phức tạp hơn trước đây. Tình trạng trở nên tồi tệ hơn khi các công cụ AI tạo sinh xuất hiện. Chúng được huấn luyện dựa trên hàng tỷ hình ảnh trực tuyến và có khả năng tạo ra các nội dung hoàn toàn mới nhờ bộ dữ liệu này.

Theo Adam Dodge, nhà sáng lập tổ chức phi lợi nhuận giáo dục EndTAB, "Công nghệ sẽ ngày càng tân tiến và tối giản hóa việc sản xuất nội dung deepfake chỉ bằng vài cú nhấp chuột."

Mọi người sẽ tiếp tục lạm dụng công nghệ để gây hại cho người khác bằng cách bạo lực tình dục trực tuyến, video đồi trụy bằng deepfake hoặc làm giả ảnh khỏa thân nếu điều này vẫn còn tiếp diễn.

Đã đến lúc những hãng công nghệ ra tay

Martin gặp nhiều vấn đề hơn khi cố gắng lên tiếng chống lại chúng. Nhiều người thậm chí còn khẳng định rằng cách cô ăn mặc hoặc đăng ảnh trên mạng xã hội là nguyên nhân khiến cô bị quấy rối bằng deepfake. Những người này đổ lỗi cho nạn nhân thay vì lên án những kẻ thủ phạm quay video đồi trụy.

Bởi vì nó trông quá giống video thật, Deepfake ngày nay cực kỳ tinh vi và khiến người dùng khó hiểu. Ảnh: Another Body.

Martin cuối cùng quyết định nhờ trợ giúp pháp luật, yêu cầu nền tảng phải nộp phạt 555.000 AUD (370.000 USD) nếu không gỡ những nội dung này xuống. Tuy nhiên, luật Internet này chỉ được áp dụng cho quốc gia nơi cô sinh sống. Martin tin rằng nỗ lực quốc tế phải giải quyết vấn nạn deepfake.

Theo một báo cáo của công ty AI DeepTrace Labs, deepfake khiêu dâm được sử dụng như một vũ khí tấn công phái nữ, trong đó nạn nhân chủ yếu là những diễn viên phương Tây và ca sĩ K-pop nổi tiếng.

Nhiều công ty AI đã tuyên bố rằng họ đã ngừng quyền truy cập đến các hình ảnh nhạy cảm kể từ thời điểm hiện tại. Chẳng hạn, OpenAI sẽ những nội dung này khỏi kho dữ liệu rèn luyện DALL-E và tạo bộ lập cấm người dùng tạo ảnh AI từ người nổi tiếng, chính trị gia.

Để bảo vệ nền tảng khỏi nội dung độc hại, một số công ty mạng xã hội cũng bắt đầu siết luật. Tất cả nội dung deepfake hoặc bị chỉnh sửa phải được dán nhãn là dàn dựng hoặc là giả mạo vào tháng 3 theo quy định của TikTok. Trong khi đó, những nội dung deepfake liên quan đến các nhân vật nổi tiếng, người trẻ cũng bị cấm khỏi nền tảng.

Apple và Google gần đây đã thông báo rằng một ứng dụng đã bị loại bỏ khỏi kho ứng dụng do lan truyền video khiêu dâm của các nữ diễn viên để quảng cáo hàng hóa. Theo đại diện Meta, quy định của công ty là cấm toàn bộ nội dung người lớn, cho dù đó có phải là do AI tạo lập hay không. Ngoài việc tích hợp công cụ "Take It Down" để hình ảnh khiêu dâm của trẻ vị thành niên khỏi Internet, các ứng dụng thuộc Meta như Facebook và Instagram còn tích hợp.

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống