Sự nguy hiểm của việc sử dụng AI để tạo ảnh đồi trụy

Theo bài đăng của Claudia trên Reddit, "Hôm nay tôi cảm thấy xinh." Một bức ảnh phụ nữ tóc mái đen, tóc thẳng đứng và đôi mắt xanh được đính kèm. Chiếc áo của nhân vật để hở một khoảng ngực nhỏ nhưng không quá nhiều. Ngoài ra, Claudia hứa hẹn sẽ bán ảnh khỏa thân cho những người nhắn tin riêng.

Trên thực tế, các bức ảnh do AI tạo ra, giống như Claudia. Tuy nhiên, hai sinh viên khoa học máy tính vận hành tài khoản nói với Rolling Stone rằng họ đã kiếm được 100 đô la bằng cách bán những bức ảnh khỏa thân của "Claudia" cho người dùng mạng xã hội.

Mặc dù tài khoản đã bị hack nhưng họ vẫn tiếp tục đăng ảnh khiêu dâm trên các subreddit bao gồm r/normalnudes và r/amihot.

Các nhóm bán ảnh khiêu dâm do AI sản xuất cho rằng hình ảnh không có hại vì chúng hoàn toàn hư cấu, nhưng thực tế hình ảnh bắt nguồn từ quá trình đào tạo mô hình sử dụng hàng tỷ hình ảnh người thật. Ảnh: Rolling Stone.

"Tài khoản này chỉ là một thử nghiệm để xem có thể đánh lừa mọi người bằng những bức ảnh AI hay không", nhóm đứng sau Claudia, người từ chối tiết lộ tên thật, cho biết. Họ khẳng định rằng Claudia giống như các vtuber hoặc nhân vật ảo.

Biến tướng của công nghệ AI tạo ảnh

Stable Diffusion, mô hình AI tạo ra hình ảnh từ yêu cầu văn bản, đã tạo ra bức ảnh của Claudia. Trong trường hợp này, yêu cầu văn bản là "ảnh selfie của một người phụ nữ trong nhà cô ấy, không trang điểm, tóc đen, thẳng, mái bằng, dài ngang vai, phông nền đơn giản."

Một trong những bức ảnh mà "Claudia" đăng lên Reddit để quảng cáo dịch vụ ảnh khỏa thân. Ảnh: Reddit.

Đây chỉ là một trong nhiều trường hợp nội dung khiêu dâm được tạo ra bằng công nghệ AI. Trên Civitai, một công cụ được quảng cáo là "Mô hình Stable Diffusion dành cho những kẻ bệnh hoạn" có thể tạo ra "ảnh khiêu dâm chân thực" đã được tải xuống hơn 77.000 lần trong ba tháng qua. Các yêu cầu "đôi mắt đen mơ màng", "ham muốn" và "tuổi teen" đã được sử dụng để tạo ra một số hình ảnh mẫu.

Stability AI, công ty tạo ra Stable Diffusion, cấm sử dụng công cụ để tạo ra những hình ảnh "mà một người bình thường có thể đánh giá là tục tĩu hoặc khiêu dâm". Tuy nhiên, công ty này cho phép tải công cụ tạo ảnh xuống máy tính cá nhân, do đó không có cách nào ngăn người dùng tạo ra bất kỳ hình ảnh nào họ muốn.

Một người xem ảnh khiêu dâm AI và yêu cầu ẩn danh đã tuyên bố với The Washington Post rằng các công cụ Stable Diffusion đã được sử dụng để tạo ra những bức ảnh phụ nữ trưởng thành mặc tã. Tôi không nghĩ những người xem những thứ này quan tâm chân thành đến những thứ này, người này cho biết.

Nhiều người lo ngại về deepfake, hình ảnh hoặc video sử dụng khuôn mặt của một người mà không có sự đồng ý của nhân vật. Những nội dung này có thể được tìm thấy trên Reddit, Discord và Twitter. Thậm chí có các dịch vụ làm ảnh deepfake khiêu dâm ghép mặt theo yêu cầu, thường có giá từ 5 USD, theo NBC.

Trong khi nội dung khiêu dâm deepfake rõ ràng là bất hợp pháp vì nó sử dụng ảnh của một người, mối nguy từ các hình ảnh khiêu dâm hoàn toàn do AI tạo ra không rõ ràng như vậy.

Mối nguy hiểm cho bất kỳ ai có ảnh trên mạng

Theo Hany Farid, giáo sư khoa học máy tính tại Đại học California, Berkeley, "Deepfake là vấn đề nguy hiểm nhưng khá rõ ràng trắng đen, ảnh khiêu dâm hư cấu do AI tạo ra thì phức tạp hơn."

Một sản phẩm mẫu được tạo ra từ hình ảnh phụ nữ do AI tạo ra được đưa lên nền tảng Civitai. Ảnh: The Washington Post.

Những người thu lợi nhuận từ ảnh khiêu dâm AI lập luận rằng các bức ảnh chỉ hư cấu, giống như các nhân vật hoạt hình hay ca sĩ, diễn viên ảo. Theo nhóm Claudia, "Người mua ảnh hài lòng với giao dịch mua của họ vì họ đang tìm kiếm khiêu dâm; chúng tôi cũng chưa bao giờ nói rằng đó là những bức ảnh người thật.

Tuy nhiên, trong khi hình ảnh là hư cấu và do AI tạo ra, hàng tỷ hình ảnh được sử dụng để đào tạo các mô hình AI đều là ảnh người thật và phần lớn mọi người sẽ không cho phép sử dụng chúng theo cách này. Farid khẳng định rằng sự thiếu đồng thuận này là một vấn đề đạo đức.

Theo chuyên gia, có thể xảy ra trường hợp người dùng đăng ảnh trên Facebook và sau đó nhận thấy một khuôn mặt do AI tạo ra có những nét rất giống với mình, mặc dù không có sự đồng ý của "chính chủ".

Các trang nội dung người lớn thường có quy trình xác minh để đảm bảo rằng những người đóng góp nội dung không ở độ tuổi vị thành niên hoặc bị lợi dụng. Quy trình này hiện gần như không thể thực hiện được với các nội dung AI, đây cũng là lý do tại sao các sản phẩm như Claudia chỉ được bán "trao tay" trên mạng xã hội.

"Đảm bảo không ai bị lợi dụng là mục tiêu chính của quá trình xác minh này. Theo một nguồn tin trong ngành nội dung người lớn, không thể xác nhận sự đồng thuận với nội dung AI.

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống