Điểm kỳ dị trong bức ảnh ông Trump bị chụp do AI tạo ra

Khi ai đó nhìn thấy ảnh giả do AI tạo ra, nhiều người nghĩ rằng ông Trump đã bị bắt. Ảnh: Eliot Higgins.

Gần đây, nhiều tin giả bắt nguồn từ hình ảnh của AI đã được lan truyền chóng mặt. Các trường hợp điển hình bao gồm việc Giáo hoàng Francis mặc áo khoác trắng ra đường hoặc ông Trump bị FBI bắt.

Các ảnh chụp giả mạo, được tạo bằng Deepfake và AI, là nguồn gốc của phần lớn thông tin sai lệch. Nhiều người bị lừa vì các công cụ như DALL-E, GAN hoặc Midjourney có thể tạo ra các tác phẩm có độ chi tiết và chân thực cao.

Tuy nhiên, do giới hạn công nghệ, các sản phẩm, tranh và tranh được sản xuất từ AI cũng tồn tại điểm lỗi, khiến người xem có thể xác định đây không phải là ảnh thật. Người dùng có thể xác minh, kiểm chứng dữ liệu được lan truyền từ hình ảnh bằng cách sử dụng những chi tiết này.

Vẫn còn nhiều lỗi phần mềm

Công cụ Midjourney được sử dụng để tạo ra các bức ảnh AI giả mạo vụ ông Trump bị bắt, Tổng thống Pháp Emmanuel Macron trốn chạy và Giáo hoàng Francis mặc áo khoác trắng. Mức độ chi tiết được tăng lên đáng kể sau khi phiên bản thứ 5 của công nghệ này được phát hành.

Khi tạo ảnh người, tóc, răng và phông nền là những thành phần AI dễ mắc lỗi. Ảnh: GAN.

Tuy nhiên, người dùng vẫn có thể dễ dàng nhận ra các vấn đề của hình ảnh như thiếu chi tiết hoặc một số bộ phận trên cơ thể không nằm ở vị trí thích hợp khi phóng to. Trước Midjourney, GAN là công cụ tạo ra ảnh người từ AI có độ chân thực cao. Công cụ này có thể khởi lập chân dung thật như ảnh chụp và có thể được sử dụng để phân biệt kể từ lần đầu tiên được giới thiệu vào năm 2014.

Tuy nhiên, giải pháp vẫn có những thiếu sót về công nghệ. Người dùng có thể sử dụng các chi tiết này để nhận diện.

Ví dụ, tóc được sản xuất bằng AI thường khó có độ chân thực như bình thường. Đây là một bộ phận có nhiều thành phần biến đổi bất thường khiến máy học khó xử lý. Nhiều khả năng, nếu nhận thấy các vùng tóc rối, thẳng hoặc vón thành mảng bất thường, thì đó là một bức ảnh giả.

Ngoài ra, các AI khởi tạo khuôn mặt thường chỉ được đào tạo về chủ đề này. Do đó, chữ viết và hậu cảnh bị bỏ qua. Chữ viết khó đọc, phông nền kỳ lạ đều là dấu hiệu của ảnh tạo từ AI.

Một số bộ phận cơ thể của ông Trump trông bất thường trong ảnh giả. Ảnh: Eliot Higgins.

Phần AI thường mắc sai lầm trong việc cân đối giữa các bộ phận. Như trong bức ảnh chụp ông Trump bị bắt, phần vai áo nằm ở vị trí cao bất thường so với phần còn lại của trang phục, hoặc bàn tay biến mất. Đây là dấu hiệu của ảnh giả, ảnh bắt nguồn từ AI.

Ngày càng khó phân biệt

AI tạo ảnh liên tục được cải thiện, trở nên thông minh và toàn diện hơn. Do đó, việc nhận diện và phân biệt ảnh tạo lập từ các giải pháp nà ngày càng khó khăn. "AI sao chép hàng triệu khuôn mặt và kết hợp chúng với dữ liệu của nó để hiểu được hình ảnh thật nên như thế nào. Để đạt hiệu quả cao hơn, nó cũng sửa đổi cơ sở dữ liệu. Đội ngũ GAN nói.

Midjourney bản 5 của Bàn tay trông giống như thật hơn. Ảnh: Washington Post.

Bàn tay của Midjourney là một thành phần công cụ không thể xử lý trước đây. Nó thường xuyên tạo ra bộ phận này với hình thù, tư thế kỳ lạ, dư thừa hoặc thiếu ngón. Bản cập nhật mới cho thấy khả năng tái tạo bàn tay của công cụ này tốt hơn. Không còn xuất hiện những đôi tay quái dị trong ảnh của Midjourney V5.

Hiện tại, có rất nhiều cách để xác định ảnh giả mạo do AI tạo ra. Để giúp người dùng phân biệt ảnh AI, GAN cũng cung cấp công cụ của riêng họ. Tuy nhiên, nó chỉ xác định được ảnh được tạo từ công cụ GAN. Midjourney hoặc DALL-E, các tác phẩm của giải pháp, không thể phân biệt được.

Để nhận diện ảnh AI, video Deepfake, Microsoft cũng đang phát triển công cụ của riêng họ. MakeUsOf khẳng định rằng đây là sự khởi đầu của các công nghệ chống lại tình trạng giả mạo, lợi dụng công cụ trí tuệ nhân tạo.

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống