AI đe bầu cử Mỹ như thế nào

Các bức ảnh và video mà cựu Tổng thống Donald Trump và cựu Tổng thống Joe Biden lan truyền trên mạng là một trong những ví dụ về nội dung mà AI đã bắt đầu có tác động chính trị. Điều gì sẽ xảy ra khi bất kỳ ai cũng có thể mở máy tính xách tay và nhanh chóng tạo ra một bức ảnh như thật về một chính trị gia?

Thật giả lẫn lộn vì AI

Có rất nhiều cách để tạo hình ảnh AI từ yêu cầu văn bản, bao gồm DALL-E, Midjourney và Stable Diffusion. Một số công cụ, như của ElevenLabs, hỗ trợ giả giọng nói.

Rất khó để tạo một video hoàn chỉnh về deepfake. Theo Henry Ajder, một chuyên gia độc lập về AI, "Dạng video AI này vẫn đòi hỏi trình độ chuyên môn khá cao cũng như chuyên môn hậu kỳ để cải thiện sản phẩm đầu ra." Tuy nhiên, Ajder lưu ý rằng trong khoảng một năm tới, các công cụ hỗ trợ sẽ giúp việc tạo video deepfake trở nên đơn giản hơn.

Theo Hany Farid, giáo sư tại Trường Thông tin UC Berkeley, chỉ là vấn đề thời gian trước khi xuất hiện các công cụ mà người dùng chỉ cần đưa đầu vào văn bản và AI sẽ tạo ra một video hoàn chỉnh.

Hình ảnh được lấy từ một video mà Joe Biden, tổng tống Hoa Kỳ, lan truyền trên Twitter. Ảnh: VICE.

Không khó tưởng tượng ai đó như Donald Trump chia sẻ loại nội dung này trên mạng xã hội và coi đó như sự thật để tấn công đối thủ nếu một lượng đáng kể hình ảnh và video deepfake lan truyền trong cuộc bầu cử. Nhiều người có thể không bao giờ phát hiện ra đó là video AI hoặc đến khi phát hiện ra thì đã quá muộn. Một đoạn video về Tổng thống Biden nói một điều gì đó phản cảm có thể bị tung ra ngay trước cuộc bầu cử và nhiều người có thể sẽ không bao giờ nhận ra đó là video.

Ngay cả khi video deepfake không trở nên phổ biến trước cuộc bầu cử Hoa Kỳ năm 2024, tức là 18 tháng tới, thì nguy cơ của loại nội dung này vẫn tồn tại. Mọi người có thể sẽ mất niềm tin vào các nội dung mà họ gặp phải khi họ biết rằng hình ảnh, âm thanh và video có thể bị làm giả dễ dàng.

"Deepfake và AI thậm chí không cần phải tham gia vào cuộc bầu cử để gây ra sự gián đoạn bởi vì giờ đây mọi người đã quen với ý tưởng rằng mọi nội dung đều có thể là giả mạo,” Ajder nói.

Giải pháp xác thực nội dung ít được quan tâm

Các giải pháp kỹ thuật đang được tạo ra. Bất kỳ nội dung nào được tạo bởi một thiết bị, chẳng hạn như điện thoại hoặc máy quay video, có thể được ký bằng mật mã bằng một giải pháp được gọi là C2PA, bao gồm dữ liệu về vị trí của nội dung. Chữ ký mật mã này được lưu trên một sổ cái và nhà sản xuất nội dung có thể xác nhận sản phẩm của mình là chân thực.

Loạt ảnh của Donal Trump Deepfake đã bị lan truyền trên mạng xã hội. Ảnh: AP.

Đánh "dấu vân tay" và chèn hình mờ lên hình ảnh, video là một số giải pháp bổ sung. "Dấu vân tay" là chuỗi dữ liệu của một nội dung, vì vậy có thể xác minh rằng quá trình tạo ra là chân thực. Các công ty phát triển công cụ AI có thể tự động chèn hình mờ kỹ thuật số lên nội dung do AI tạo ra, làm cho hình mờ trở nên đơn giản hơn.

Một số người cho rằng sẽ có các công cụ AI hỗ trợ phát hiện deepfake, nhưng Ajder không tin tưởng vào giải pháp này vì độ chính xác thấp và các công cụ AI thay đổi liên tục.

Mặc dù AI tạo sinh đã trở thành hiện thực, nhưng đây vẫn là các giải pháp trong giai đoạn phát triển. Theo Aviv Ovadya, một nhà nghiên cứu tại Trung tâm Internet và Xã hội Berkman Klein ở Harvard, nhiều doanh nghiệp không nhận thấy nhiều lợi ích từ việc phát triển các công cụ xác thực nội dung. Trong khi ít ai quan tâm đến việc ngăn chặn sự lan truyền của thông tin sai do AI tạo ra, nhiều tiền đang được đổ vào việc phát triển AI tổng quát.

Theo Ajder, "chúng ta sẽ thấy vô số công cụ AI tạo sinh mới như chúng ta đã thấy trong một năm qua và nội dung chính trị do AI tạo ra sẽ tiếp tục lan truyền.

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống