“Deepfake” và những mối nguy hại

“Deepfake” và những mối nguy hại

Đó là nhờ vào công nghệ “thần kỳ”: Deepfake. “Các video giả ngày càng tinh vi và dễ tiếp cận hơn. Chính vì vậy, các ứng dụng Deepfake đang đặt ra một thách thức lớn không chỉ về công nghệ mà còn cả về vấn đề chính sách, pháp lý và quyền bảo mật của người dùng”, John Villasenor, nghiên cứu viên cấp cao của viện Brooklyn cho biết.

Deepfake là gì?

“Deepfake” là kết hợp từ “deep learning” và “fake” (giả). Đây là một công nghệ dựa trên nền tảng trí thông minh nhân tạo - AI, để từ đó chúng tự sắp xếp các thuật toán và đưa ra các quyết định để tạo ra các video giả ngày càng xuất hiện nhiều trên mạng xã hội.

Điều nguy hiểm của công nghệ này chính là khả năng tạo ra các video giả nhưng nhìn hoàn toàn như thật, làm nhiều người tin vào các đoạn video đó. “Chúng thậm chí còn tạo ra video về các ứng cử viên nói những điều mà họ thực sự chưa bao giờ nói nhằm hạ thấp danh dự  và sự tín nhiệm của những người này. Công nghệ này chính là một công cụ quyền lực trong việc gây nhiễu thông tin trong các cuộc bầu cử nói riêng và trong xã hội nói chung”, Villasenor, giáo sư ngành kỹ thuật điện tại Đại học California cho biết.

“deepfake” va nhung moi nguy hai hinh anh 1

Các ứng dụng Deepfake có khả năng tạo ra các video “giả mà nhìn y như thật.

Hoạt động như thế nào?

Một hệ thống học sâu có thể giả mạo các video clip một cách tài tình và thuyết phục bằng cách phân tích đối tượng từ nhiều góc độ thông qua các hình ảnh và video, sau đó sẽ bắt chước cả hành vi lẫn ngữ điệu. Khi bộ giả lập được thiết lập, sẽ có một phương pháp gọi là GANs để giúp hình ảnh giả mạo trên trở nên giống thật hơn. Phương pháp này có chức năng nhận diện các sai sót trong bộ giả lập, từ đó đưa ra những cải tiến để hoàn thiện các lỗ hổng này. Sau nhiều vòng nhận diện, phát hiện và cải tiến như vậy, Deepfake đã hoàn thành một bản giả mạo, giống như thật.

Theo một báo cáo của Viện công nghệ MIT (Hoa Kỳ), các thiết bị đã cấp quyền hoạt động cho công nghệ Deepfake này có thể trở thành một thứ vũ khí hoàn hảo cho những kẻ muốn tung tin giả hay những kẻ muốn gây nhiễu loạn thông tin của xã hội, từ giá cổ phiếu đến cả các cuộc tranh cử… “Trên thực tế, những kẻ xấu đã nhiều lần sử dụng công nghệ này để ghép mặt của người khác vào các hình ảnh và video clip sai sự thật nhằm bôi nhọ và hạ thấp nhân phẩm của họ. Tuy GANs không trực tiếp tạo ra “mức độ hoàn hảo” nhưng nó đang làm sự việc trở nên tệ hơn”, Martin Giles, giám đốc MIT nhận định.

Làm sao phát hiện?

Mặc dù AI là nền tảng giúp Deepfake hoạt động, tuy nhiên, AI cũng chính là yếu tố giúp nhận dạng các sản phẩm đã bị bóp méo. Hiện tại, các nhà nghiên cứu đang tập trung vào việc đưa ra các tính năng để phát hiện ra công nghệ giả mạo cũng như những cách để điều chỉnh Deepfake.

Các tập đoàn lớn như Facebook và Microsoft đã đưa ra các sáng kiến để phát hiện và loại bỏ các video được dựng từ Deepfake. Hai tập đoàn này đã tuyên bố vào đầu năm nay rằng họ sẽ hợp tác với các trường đại học hàng đầu của Hoa Kỳ để tạo ra cơ sở dữ liệu lớn về các video giả để nghiên cứu.

Hiện tại, có một cách đơn giản để giúp nhận diện các video giả mạo này: nếu nhìn thật kỹ vào các chi tiết nhỏ như ở tai hay cử động mắt, sẽ nhận ra những độ sai lệch so với đường nét của khuôn mặt, hoặc là làn da sẽ quá mịn so với độ phân chia của góc sáng và góc tối trên khuôn mặt. Tuy nhiên, “vỏ quýt dày có móng tay nhọn”, cách trên đang dần dần khó áp dụng khi công nghệ Deepfake được cải tiến để tạo ra các sản phẩm “thật hơn”. Villasenor cảnh báo: “Hiện tại, các tính năng nhận diện video giả không hoàn toàn chính xác vì chúng không theo kịp sự cải tiến và tinh vi của Deepfake!

Vậy làm gì bây giờ? Các chuyên gia nói rằng, đành phải chờ các tập đoàn công nghệ sớm có những công nghệ “khắc tinh” với Deepfake.

(Theo Thế Giới Tiếp Thị)

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống

Nguồn tin:

 
 

Tham gia bình luận