SCMP báo cáo rằng cảnh sát Cam Túc đã bắt giữ một người đàn ông tên Hong với cáo buộc sử dụng ChatGPT để bịa đặt thông tin sai lệch về vụ tai nạn tàu khiến 9 người thiệt mạng.
Sau khi phát hiện ra tin tức giả vào ngày 25.4, nhà chức trách đã tìm thấy 25 tài khoản riêng biệt đăng các phiên bản khác nhau của vụ tai nạn trên nền tảng blog Baijiahao, thu hút hơn 15.000 lượt xem. Để vượt qua hệ thống kiểm tra trùng lặp trên Baijiahao, Hong đã sử dụng ChatGPT để chỉnh sửa nội dung và địa điểm xảy ra tai nạn.
Theo luật "công nghệ tổng hợp sâu" mà Trung Quốc đưa ra vào tháng 1 năm nay, cảnh sát đã bắt giữ Hong. Việc sử dụng AI (trí tuệ nhân tạo) để tạo văn bản, hình ảnh, video hoặc phương tiện khác là một phần của "Công nghệ tổng hợp sâu". Theo luật, không được phép sử dụng AI để lan truyền tin giả.
Nhiều người vẫn sử dụng VPN để truy cập vào chatbot này mặc dù ChatGPT bị cấm ở Trung Quốc.
Chụp màn hình
Cảnh sát đã lần ra doanh nghiệp thuộc sở hữu của Hong thông qua các bài báo. Ông thừa nhận đã sử dụng ChatGPT để viết tin giả nhằm kiếm tiền từ lượt truy cập. Hong bị buộc tội "gây rối trật tự" và có thể bị phạt tới 5 năm. Tuy nhiên, trong những trường hợp đặc biệt nghiêm trọng, người phạm tội có thể bị phạt tới 10 năm. Chính quyền Trung Quốc đã mở rộng phạm vi áp dụng đối với những người đăng và lan truyền tin đồn sai sự thật trên mạng vào năm 2013.
Trung Quốc đã bày tỏ lo ngại về việc phát triển và sử dụng "công nghệ tổng hợp sâu" không được kiểm soát có thể dẫn đến các hoạt động tội phạm như lừa đảo trực tuyến hoặc xúc phạm nhân phẩm người khác trong bối cảnh ChatGPT phát triển mạnh. Cảnh sát Trung Quốc đã cảnh báo người dân cảnh giác với "tin đồn" do ChatGPT tạo ra vào hồi tháng Hai.
Bằng cách soạn thảo luật để quản lý AI và hạn chế việc sử dụng deepfake, nhà chức trách Trung Quốc đã tìm cách đón đầu công nghệ. Vụ bắt giữ trên cho thấy nỗ lực của chính quyền Trung Quốc trong việc điều chỉnh và kiểm soát việc sử dụng AI khi công nghệ trở nên tiên tiến hơn.
Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống