Trung Quốc đã thắt chặt giám sát các công nghệ và ứng dụng này trong bối cảnh gia tăng số vụ lừa đảo dựa trên AI, chủ yếu liên quan đến việc làm giả dữ liệu giọng nói và khuôn mặt. Hồi tháng 1, Trung Quốc đã thông qua các quy định mới để bảo vệ pháp lý cho những nạn nhân gặp rủi ro.
Theo cảnh sát thành phố Bao Đầu, khu vực Nội Mông, Trung Quốc, thủ phạm đã sử dụng công nghệ hoán đổi khuôn mặt (deepfake) của AI để đóng giả bạn của nạn nhân trong cuộc gọi video và nhận chuyển khoản 4,3 triệu nhân dân tệ (622.000 USD hoặc 14,58 tỷ đồng).
Theo cảnh sát thành phố Bao Đầu, anh ta chuyển tiền với ý nghĩ rằng bạn của mình cần để đặt cọc trong quá trình đấu thầu. Chỉ sau khi người bạn thực sự không biết gì về tình huống này, nạn nhân mới biết mình bị lừa. Theo cảnh sát, anh ta đã thu hồi được phần lớn số tiền mà anh ta bị lừa và đang làm việc để tìm kiếm những gì còn lại.
Vụ việc dẫn đến cuộc thảo luận trên mạng xã hội Weibo về mối nguy hiểm của quyền riêng tư và bảo mật trực tuyến, với hashtag #AI scams are exploding across the country (Lừa đảo AI đang gia tăng trên toàn quốc) nhận được hơn 120 triệu lượt xem vào ngày 22.5.
"Điều này cho thấy rằng những kẻ lừa đảo có thể sử dụng tất cả ảnh, giọng nói và video. Các quy tắc bảo mật thông tin có thể tuân theo các kỹ thuật của kẻ lừa đảo không?, một người dùng Weibo viết.
.jpg)
Năm tháng sau khi chatbot AI của OpenAI (Mỹ) trở nên phổ biến vì khả năng tạo văn bản giống con người, cảnh sát Trung Quốc đã bắt giữ công khai người lạm dụng ChatGPT cách đây hai tuần.
Theo trang Insider, người đàn ông họ Hong bị buộc tội sử dụng ChatGPT để tạo ra tin tức giả về "vụ tai nạn tàu nghiêm trọng khiến 9 người thiệt mạng ở tỉnh Cam Túc, phía tây bắc Trung Quốc." Thông tin này trên tài khoản WeChat chính thức vừa được cảnh sát quận Không Đồng (tỉnh Cam Túc) công bố. Thông qua một loạt ảnh trong bài đăng trên WeChat, cảnh sát đã mô tả vụ bắt giữ Hong.
Đây là vụ bắt giữ đầu tiên kể từ khi quy định mới về deepfake của Trung Quốc có hiệu lực vào tháng 1. Luật này nhằm ngăn chặn việc lạm dụng công nghệ có thể thay đổi dữ liệu khuôn mặt và giọng nói.
Mặc dù ChatGPT bị chặn ở Trung Quốc, vẫn có cách để truy cập chatbot này, chẳng hạn như sử dụng mạng riêng ảo (VPN).
Đơn vị cảnh sát an ninh mạng địa phương đã được thông báo về bài viết "vụ tai nạn tàu nghiêm trọng" (xuất bản vào ngày 25.4), sau đó đã tiến hành điều tra.
Công cụ tìm kiếm Baidu đã xuất bản tin giả đó đồng thời với nội dung tương tự ở các địa điểm khác nhau sau khi cảnh sát tìm thấy 21 tài khoản dạng blog có liên quan. Theo cảnh sát tỉnh Cam Túc, những bài đăng này sau đó đã được xem hơn 15.000 lần.
Một công ty do Hong điều hành, đăng ký tại thành phố Thâm Quyến, trung tâm công nghệ phía nam Trung Quốc, được cảnh sát an ninh mạng Cam Túc phát hiện có các bài đăng giả mạo liên kết với nó.
Sau đó, Hong thừa nhận rằng anh ấy đã sử dụng ChatGPT để tạo tin giả về "vụ tai nạn tàu nghiêm trọng" trước khi đăng chúng lên mạng, theo cảnh sát Cam Túc.
Anh ta đang bị giam giữ vì bi nghi có hành vi "chống đối và gây rối", một tội danh có mức án tù tối đa là 10 năm. Cuộc điều tra đang tiếp tục, theo bài đăng trên WeChat của cảnh sát Tân Cương.
Cảnh sát Bắc Kinh (thủ đô Trung Quốc) đã cảnh báo người dân cảnh giác với tin đồn do ChatGPT tạo ra vào hồi tháng Hai. Bộ máy an ninh Trung Quốc đã bình luận về chatbot AI của OpenAI trước đó.
"ChatGPT thú vị và đã lan truyền gần đây, nhưng hãy cẩn thận rằng những kẻ xấu có thể sử dụng nó để phạm tội và lan truyền tin đồn. Theo bài đăng trên tài khoản WeChat chính thức của Cục Công an thành phố Bắc Kinh, các viện nghiên cứu đã kiểm tra và phát hiện ra rằng khi được hỏi những câu hỏi liên quan đến âm mưu và gây hiểu lầm, ChatGPT có thể nhanh chóng tạo ra thông tin hấp dẫn mà không trích dẫn nguồn. Bài đăng không cung cấp bất kỳ ví dụ cụ thể nào về những tin đồn mà cảnh sát lo ngại.
ChatGPT đã bị đổ lỗi cho việc truyền bá thông tin sai lệch ở thành phố Hàng Châu (tỉnh Chiết Giang, Trung Quốc).
Cơ quan truyền thông có trụ sở tại Chiết Giang đã công bố trường hợp liên quan đến một cư dân Hàng Châu đã sử dụng ChatGPT để tạo bài đăng giống như thông báo từ chính quyền thành phố, nói rằng họ sẽ dỡ bỏ các hạn chế lái xe dựa trên biển số chẵn và lẻ, đây là một nỗ lực mà nhiều thành phố Trung Quốc đã thực hiện để giảm tắc nghẽn giao thông.
Theo bài viết, người dân thấy thông báo của ChatGPT rất thú vị và sau đó chia sẻ nó trong nhiều nhóm mạng xã hội.
Theo một ảnh chụp màn hình được công bố cùng với bài viết, người đăng tin giả đã xin lỗi các thành viên khác trong nhóm WeChat: "Tôi nhận ra hành động của mình đã gây bất tiện cho chính quyền."
Theo The Paper (hãng tin có trụ sở tại thành phố Thượng Hải), cảnh sát ở Hàng Châu đã xem xét vụ việc sau đó.
Theo cảnh sát Bắc Kinh, OpenAI không cung cấp bất kỳ dịch vụ hoặc quyền nào cho bất kỳ doanh nghiệp nào sử dụng ChatGPT ở Trung Quốc. Họ cảnh báo công chúng nên hết sức thận trọng vì chatbot này có thể mang thông tin sai lệch và gây tổn hại cho an ninh quốc gia.
Theo cảnh sát Bắc Kinh, ngày càng có nhiều sản phẩm kỹ thuật số ở Trung Quốc bắt chước ChatGPT, dụ người dùng sử dụng dịch vụ rồi tính phí cao, trong khi các vụ lừa đảo khác liên quan đến tội phạm nước ngoài sử dụng AI để tạo email lừa đảo nhằm gây hại cho người dùng Trung Quốc.
Khi các hãng công nghệ Trung Quốc đổ xô xây dựng và tung ra các dịch vụ tương tự ChatGPT, ChatGPT đã gây bão khắp thế giới và châm ngòi cho một cuộc đua AI toàn cầu.
ChatGPT không sửa đổi các cuộc thảo luận chính trị theo quan điểm của Bắc Kinh, giống như phần lớn các sản phẩm internet không thuộc Trung Quốc.
Nhận diện cuộc gọi lừa đảo deepfake: Kết nối kém, âm thanh chập chờn
Trung tâm Giám sát an toàn không gian mạng quốc gia (NCSC) của Bộ An toàn thông tin (Bộ TT-TT) đã cảnh báo về việc thực hiện cuộc gọi lừa đảo trực tuyến deepfake vào đầu tháng 5. Kẻ xấu sử dụng AI để tạo ra video hoặc hình ảnh giả, sao chép chân dung của người thân và bạn bè để thực hiện các cuộc gọi lừa đảo.
Với sự trung thực và tin cậy của video và hình ảnh, deepfake đang là mối đe. Ngoài việc lừa đảo trực tuyến, nó có thể được sử dụng cho các mục đích khác như tạo ra những tin tức giả mạo hoặc phá hoại danh tiếng của người khác...
Theo các chuyên gia NCSC, thời gian cuộc gọi, khuôn mặt, màu da, âm thanh và kết nối kém là những yếu tố bất thường cần được chú ý nhiều nhất. Đó đều là dấu hiệu của depfake.
Thời gian trung bình của các cuộc gọi deepfake thường rất ngắn, chỉ vài giây. Khuôn mặt của người gọi thiếu cảm xúc và khá "trơ" khi nói hoặc tư thế trông lúng túng, không tự nhiên hoặc hướng đầu và cơ thể của họ trong video không nhất quán với nhau.
Ngoài ra, màu da của nhân vật trong video là bất thường, ánh sáng kỳ lạ và bóng đổ không đúng vị trí, video dường như rất giả tạo và không tự nhiên.
"Âm thanh sẽ không đồng nhất với hình ảnh, có nhiều tiếng ồn bị lạc vào video hoặc video không có âm thanh", NCSC phân tích.
Do đó, các chuyên gia khuyên người dân nên cảnh giác và bình tĩnh. Bởi vì chúng có thể dẫn đến những hậu quả nghiêm trọng như mất danh tiếng, tiền bạc và mất cá nhân, nên việc phát hiện và ngăn chặn các cuộc gọi deepfake là rất quan trọng.
Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống