Bầu cử Hoa Kỳ bị ảnh hưởng bởi nguy cơ AI

Tạp chí Fortune lưu ý rằng phần mềm sao chép giọng nói từ cùng loạt nền tảng tạo hình ảnh DALL-E 2, Stable Diffusion, Midjourney có khả năng bị sử dụng cho hoạt động tung tin giả.

Theo giáo sư danh dự Gary Marcus (Đại học New York), "chúng ta nên lo lắng. Thông tin sai lệch do AI tạo ra sẽ là một yếu tố quan trọng trong cuộc bầu cử sắp tới."

Mặc dù công nghệ tạo video từ đầu vào văn bản còn sơ khai, nhưng chuyên gia về deepfake đủ sức tạo ra video giả rất thuyết phục.

Công nghệ tổng hợp hình ảnh con người dựa trên AI được gọi là deepfake. Công nghệ này kết hợp hình ảnh với video riêng biệt nhờ AI và thay thế các chi tiết trên gương mặt như mắt, miệng, mũi với chuyển động gương mặt và giọng nói giống như thật sau khi nhận được dữ liệu (mô tả văn bản về ảnh chân dung) của một người cụ thể. Dữ liệu đầu vào càng nhiều thì AI càng hoạt động chính xác và video giả mạo càng có độ giống cao.

Theo chuyên gia Chris Meserole của Viện Nghiên cứu Brookings, phần mềm giả giọng nói có thể đóng vai trò quan trọng trong bầu cử năm tới, chẳng hạn như một đoạn ghi âm nói điều gì đó về tai tiếng của ứng viên Tổng thống Mỹ được tung ra ngay thời điểm then chốt.

Sử dụng AI đối phó AI

Công ty Newtral đang sử dụng các mô hình ngôn ngữ lớn tương tự như mô hình hỗ trợ nền tảng ChatGPT để kiểm tra phát ngôn của các chính trị gia ở Tây Ban Nha.

Theo Giám đốc công nghệ Newtral Ruben Miguez Perez, loạt công nghệ mà họ sử dụng có thể giúp xác định nội dung nào đó có phải là thật hay không, phân tích cảm xúc mà phát ngôn truyền tải nhằm đánh giá khả năng đó là thông tin sai lệch.

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống