Theo trang Insider, người đàn ông họ Hong bị buộc tội sử dụng ChatGPT để tạo ra tin tức giả về "vụ tai nạn tàu nghiêm trọng khiến 9 người thiệt mạng ở tỉnh Cam Túc, phía tây bắc Trung Quốc." Thông tin này vừa được cảnh sát quận Không Đồng (tỉnh Cam Túc) công bố trên tài khoản WeChat chính thức.
Thông qua một loạt ảnh được công bố trong một bài đăng trên WeChat, cảnh sát cho thấy vụ bắt giữ Hong.
Đây là vụ bắt giữ đầu tiên kể từ khi quy định mới về deepfake của Trung Quốc có hiệu lực vào tháng 1. Luật này nhằm ngăn chặn việc lạm dụng công nghệ có thể thay đổi dữ liệu khuôn mặt và giọng nói.
Mặc dù ChatGPT bị chặn ở Trung Quốc, vẫn có cách để truy cập chatbot này, chẳng hạn như sử dụng mạng riêng ảo (VPN).
Đơn vị cảnh sát an ninh mạng địa phương đã được thông báo về bài viết "vụ tai nạn tàu nghiêm trọng" (xuất bản vào ngày 25.4), sau đó đã tiến hành điều tra.
Công cụ tìm kiếm Baidu đã xuất bản tin giả đó đồng thời với nội dung tương tự ở các địa điểm khác nhau sau khi cảnh sát tìm thấy 21 tài khoản dạng blog có liên quan. Theo cảnh sát tỉnh Cam Túc, những bài đăng này sau đó đã được xem hơn 15.000 lần.
Một công ty do Hong điều hành, đăng ký tại thành phố Thâm Quyến, trung tâm công nghệ phía nam Trung Quốc, được cảnh sát an ninh mạng Cam Túc phát hiện có các bài đăng giả mạo liên kết với nó.
Sau đó, Hong thừa nhận rằng anh ấy đã sử dụng ChatGPT để tạo tin giả về "vụ tai nạn tàu nghiêm trọng" trước khi đăng chúng lên mạng, theo cảnh sát Cam Túc.
Anh ta đang bị giam giữ vì bi nghi có hành vi "chống đối và gây rối", một tội danh có mức án tù tối đa là 10 năm. Cuộc điều tra đang tiếp tục, theo bài đăng trên WeChat của cảnh sát Tân Cương.
Cảnh sát Bắc Kinh (thủ đô Trung Quốc) đã cảnh báo người dân cảnh giác với tin đồn do ChatGPT tạo ra vào hồi tháng Hai. Bộ máy an ninh Trung Quốc đã bình luận về chatbot AI của OpenAI trước đó.
"ChatGPT thú vị và đã lan truyền gần đây, nhưng hãy cẩn thận rằng những kẻ xấu có thể sử dụng nó để phạm tội và lan truyền tin đồn. Theo bài đăng trên tài khoản WeChat chính thức của Cục Công an thành phố Bắc Kinh, các viện nghiên cứu đã kiểm tra và phát hiện ra rằng khi được hỏi những câu hỏi liên quan đến âm mưu và gây hiểu lầm, ChatGPT có thể nhanh chóng tạo ra thông tin hấp dẫn mà không trích dẫn nguồn. Bài đăng không cung cấp bất kỳ ví dụ cụ thể nào về những tin đồn mà cảnh sát lo ngại.
ChatGPT đã bị đổ lỗi cho việc truyền bá thông tin sai lệch ở thành phố Hàng Châu (tỉnh Chiết Giang, Trung Quốc).
Cơ quan truyền thông có trụ sở tại Chiết Giang đã công bố trường hợp liên quan đến một cư dân Hàng Châu đã sử dụng ChatGPT để tạo bài đăng giống như thông báo từ chính quyền thành phố, nói rằng họ sẽ dỡ bỏ các hạn chế lái xe dựa trên biển số chẵn, đây là một biện pháp mà nhiều thành phố Trung Quốc đã thực hiện để giảm tắc nghẽn giao thông.
Theo bài viết, người dân thấy thông báo của ChatGPT rất thú vị và sau đó chia sẻ nó trong nhiều nhóm mạng xã hội.
Theo một ảnh chụp màn hình được công bố cùng với bài viết, người đăng tin giả đã xin lỗi các thành viên khác trong nhóm WeChat: "Tôi nhận ra hành động của mình đã gây bất tiện cho chính quyền."
Theo The Paper (hãng tin có trụ sở tại thành phố Thượng Hải), cảnh sát ở Hàng Châu đã xem xét vụ việc sau đó.
Theo cảnh sát Bắc Kinh, OpenAI không cung cấp bất kỳ dịch vụ hoặc quyền nào cho bất kỳ doanh nghiệp nào sử dụng ChatGPT ở Trung Quốc. Họ cảnh báo công chúng nên hết sức thận trọng vì chatbot này có thể mang thông tin sai lệch và gây tổn hại cho an ninh quốc gia.
Theo cảnh sát Bắc Kinh, ngày càng có nhiều sản phẩm kỹ thuật số ở Trung Quốc bắt chước ChatGPT, dụ người dùng sử dụng dịch vụ rồi tính phí cao, trong khi các vụ lừa đảo khác liên quan đến tội phạm nước ngoài sử dụng AI để tạo email lừa đảo nhằm gây hại cho người dùng Trung Quốc.
Khi các hãng công nghệ Trung Quốc đổ xô xây dựng và tung ra các dịch vụ tương tự ChatGPT, ChatGPT đã gây bão khắp thế giới và châm ngòi cho một cuộc đua AI toàn cầu.
ChatGPT không sửa đổi các cuộc thảo luận chính trị theo quan điểm của Bắc Kinh, giống như phần lớn các sản phẩm internet không thuộc Trung Quốc.
Hãng thông tấn Tân Hoa Xã đưa tin rằng Trung Quốc sẽ tiếp tục chiến dịch "làm sạch" nội dung trực tuyến và thông tin không được phép. Chiến dịch bắt đầu vào năm 2022, và các mục tiêu của nó bao gồm cả phương tiện truyền thông nước ngoài và báo chí công dân.
Tân Hoa Xã báo cáo rằng Bộ Chính trị nước này đã kết luận rằng phải "chú ý đến sự phát triển của generative AI, tạo ra một hệ sinh thái cho sự đổi mới, nhưng đồng thời phải tính đến việc phòng ngừa rủi ro" trong cuộc họp riêng vào ngày 28.4 tổng kết cuộc họp hàng quý của Bộ Chính trị Trung Quốc về phát triển kinh tế và xã hội.
Đây là lần đầu tiên chính phủ Trung Quốc đưa generative AI vào một tuyên bố của Bộ Chính trị, phản ánh tín hiệu khác nhau của quốc gia đối với dịch vụ tương tự ChatGPT.
Có những lo ngại về hậu quả của việc làm này, mặc dù thực tế là việc thúc đẩy tiến bộ của AI thường được khuyến khích.
Máy tính được lập trình để tự động tạo ra nội dung mới, chẳng hạn như văn bản, hình ảnh, âm thanh và video, bằng cách sử dụng trí tuệ nhân tạo được gọi là rô-bốt. Nó khác với các hệ thống AI khác, chẳng hạn như máy học sâu hoặc học máy, trong việc dự đoán kết quả từ dữ liệu có sẵn. Hệ thống generative AI có khả năng tự tạo ra dữ liệu mới và phong phú hơn thay vì dựa trên dữ liệu được huấn luyện.
Các dịch vụ tương tự ChatGPT được nhắc đến nhiều trong giới doanh nhân, công ty khởi nghiệp và các hãng công nghệ lớn ở Trung Quốc.
Các dịch vụ tương tự ChatGPT của riêng họ đã được ra mắt bởi hãng tìm kiếm khổng lồ Baidu, gã khổng lồ thương mại điện tử Alibaba, hãng game NetEase và công ty AI SenseTime.
Bất chấp sự phấn khích về AI, việc phát triển công nghệ này ở Trung Quốc vẫn gặp nhiều khó khăn do các quy định chặt chẽ của chính phủ về tự do ngôn luận và lệnh cấm Trung Quốc mua chip tiên tiến từ Mỹ.
Cục Quản lý không gian mạng Trung Quốc (CAC), cơ quan giám sát Internet quốc gia này, đã tiết lộ một bộ quy định dự thảo mới nhắm mục tiêu vào các dịch vụ tương tự ChatGPT vào hồi tháng Tư.
Theo quy định được đề xuất do CAC công bố, các công ty cung cấp dịch vụ generative AI ở Trung Quốc phải thực hiện các biện pháp để ngăn chặn nội dung phân biệt đối xử, thông tin sai lệch và nội dung gây tổn hại cho quyền riêng tư cá nhân hoặc sở hữu trí tuệ.
Theo CAC, các doanh nghiệp cũng nên đảm bảo rằng các sản phẩm của họ duy trì giá trị xã hội chủ nghĩa của Trung Quốc và không chứa nội dung gợi ý lật đổ chế độ, bạo lực, nội dung khiêu dâm hoặc phá vỡ trật tự kinh tế và xã hội.
Theo yêu cầu từ quy định năm 2018 về các dịch vụ thông tin trực tuyến có khả năng gây ảnh hưởng đến dư luận, tất cả các sản phẩm generative AI phải vượt qua đánh giá bảo mật của CAC trước khi phục vụ công chúng.
Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống
Nguồn tin: 1thegioi.vn
Tham gia bình luận