Một người đàn ông đã bị lừa hơn 600.000 đô la khi sử dụng chiêu gọifake

Trong số 4,3 triệu tệ bị đánh cắp, cảnh sát đã thu hồi 3,3 triệu. Ảnh: Fast Company.

Guo, ông chủ một công ty công nghệ ở thành phố Phúc Châu, Trung Quốc, đã bị lừa 4,3 triệu nhân dân tệ (610.000 USD) vào tháng trước vì cả tin vào công nghệ AI. Nhóm lừa đảo đã lợi dụng trí tuệ nhân tạo để bắt chước khuôn mặt và giọng nói của bạn anh trước khi cố thuyết phục anh chuyển tiền vào tài khoản.

Đòi tiền bằng deepfake

Kể lại với Sixth Tone, nạn nhân cho biết họ nhận được một cuộc gọi video trên WeChat từ một người bạn. Người này nhờ Guo gửi tiền bằng tài khoản của công ty và hứa sẽ trả lại tiền ngay lập tức. Ông chủ của công nghệ vì nhẹ dạ cả tin đã ngay lập tức gửi tiền cho người bạn này và nhận được một tấm ảnh chụp màn hình hoàn trả tiền lại. Tuy nhiên, tấm ảnh này là giả mạo.

Kẻ lừa đảo này đã sử dụng công nghệ deepfake cao cấp, có khả năng đổi mặt bằng AI và giả dạng y hệt người bạn thân của nạn nhân. Khi người bạn nói rằng họ cần tiền để chơi đấu giá, Guo đã ngay lập tức tin lời.

Các trường hợp lừa đảo ngày càng sử dụng trí tuệ nhân tạo một cách tinh vi hơn. Ảnh: Reuters.

Guo giải thích rằng tôi đã mất cảnh giác sau khi nghe thấy khuôn mặt và giọng nói của người bạn trong cuộc gọi video. Sau đó, anh ta liên lạc lại với người bạn của mình và người này nói rằng anh ta không hề hỏi anh ta mượn tiền. Ngay cả trước sự kiện này, người bạn còn thể hiện thái độ dửng dưng.

Theo cảnh sát địa phương, gần 3,3 triệu tệ đã được thu hồi vào ngày 22 tháng 5. Số tiền còn lại vẫn đang được truy vết. Cơ quan chức năng cũng cảnh báo người dùng nên thận trọng mỗi khi công khai thông tin sinh trắc học và hạn chế việc chia sẻ video và hình ảnh cá nhân rộng rãi trên Internet.

Không lâu sau đó, một số hashtag liên quan đến lừa đảo bằng AI bắt đầu lan truyền và lọt top xu hướng Weibo. Người dùng cũng bày tỏ lo ngại khi các tình huống lừa đảo như Guo đang ngày càng trở nên phổ biến hơn về số lượng và mức độ phức tạp.

Li, một nhân viên ở Phúc Châu, cũng bị lừa 48.000 USD. Để đóng giả sếp của Li và yêu cầu gửi tiền, nhóm lừa đảo đã sử dụng phần mềm deepfake.

AI bị dùng sai mục đích

Sixth Tone báo cáo rằng số lượng các vụ lừa đảo đang diễn ra ngày càng nhiều khiến người dùng lo ngại. Họ lo ngại rằng AI sẽ bị sử dụng không chính xác cho những hành vi xấu, đặc biệt trong thời gian trí tuệ nhân tạo đang dần trở thành từ phổ biến kể từ khi ChatGPT được giới thiệu vào tháng 11/2022.

Việc sử dụng AI để bắt cóc và lừa tiền không phải là lần đầu tiên Guo gặp phải. Trước đây, một người phụ nữ tên Jennifer DeStefano đã từng là nạn nhân của trò lừa đảo bắt cóc ảo thông qua điện thoại với sự trợ giúp của deepfake. Những kẻ bắt cóc sử dụng công nghệ AI này khiến gia đình nạn nhân sợ hãi bằng cách thay đổi giọng nói của nạn nhân sao cho nghe giống như tiếng chuông của họ và yêu cầu tiền chuộc.

Người dùng cần cảnh giác trước các cuộc gọi và tin nhắn mượn tiền. Ảnh: Yicai Global.

Cô đã nhận được một cuộc gọi từ số lạ vào ngày 20/1, bao gồm lời cầu cứu của con gái cô và lời đe của một người đàn ông lạ mặt. "Nghe đây. Con gái của cô ấy đang ở trong tay tôi. Tôi sẽ tiêm cho con gái đầy ma túy nếu cô gọi cho cảnh sát hoặc bất cứ ai. Cô sẽ không bao giờ gặp lại con gái mình nữa, tôi sẽ đưa nó đến Mexico, người này nói qua điện thoại.

DeStefano đã chọn gọi cho cảnh sát sau khi bọn bắt cóc nhanh chóng đưa ra yêu cầu tiền chuộc 1 triệu USD. Vụ "bắt cóc" đã bị vạch trần sau hàng loạt nỗ lực tiếp cận Brianna.

Lợi dụng AI để tạo những nội dung cấm

Mặt khác, khi thương mại điện tử phát triển, mua hàng online trở thành một loại sản phẩm phổ biến, không ít người livestream sử dụng phần mềm đổi mặt để giả mạo những người nổi tiếng để bán sản phẩm. Điều này đã dẫn đến làn sóng chỉ trích mạnh mẽ.

Một cô gái đã chia sẻ ảnh chụp cá khi đi tàu điện trên mạng xã hội vào hồi tháng 3. Sau đó, một người dùng mạng tải về bức ảnh và sử dụng công cụ AI để làm giả một bức ảnh chuyển động mới, cho phép người dùng "thoát y" người phụ nữ trong bức ảnh chỉ bằng một cú click chuột. Tấm ảnh này nhanh chóng được chia sẻ rộng rãi và thu hút sự chú ý của công chúng.

Một vụ án khác liên quan đến tiếp tục xảy ra vào ngày 28/3. Đây là vụ án về xâm phạm quyền riêng tư con người đầu tiên của tỉnh Giang Tô.

Trong phiên, tỉnh Giang Tô, Đặc khu kinh tế thành phố Thường Châu, đã chỉ ra nghi phạm Zheng lan truyền chương trình deepfake, chuyên sản xuất những tấm ảnh khiêu dâm và video khiêu dâm từ tháng 8/2021 đến tháng 22022.

Sau đó, anh ta sẽ bán những mặt hàng này để kiếm tiền trên các group chat và thu về hơn 20.000 tệ. Ngoài ra, anh ta bán doanh thu mở tài khoản QQ từng lừa đảo, cá cược, vi phạm pháp luật...

Cuối cùng, án đã kết thúc 8 tháng tù giam, phạt 40.000 tệ và giao nộp tất cả công cụ phạm tội, xâm phạm thông tin cá nhân của người khác.

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống