Cảnh báo nguy cơ doanh nghiệp bị rò rỉ thông tin, rơi vào kiện tụng do sử dụng công cụ AI

Theo hãng tin Bloomberg News, báo cáo của Team8 chỉ ra việc áp dụng rộng rãi các chatbot và các công cụ viết mới trang bị AI có thể khiến các công ty dễ bị rò rỉ dữ liệu và rơi vào cảnh kiện tụng. Điều đáng sợ là các ứng dụng chatbot có thể bị tin tặc khai thác để truy cập thông tin nhạy cảm của công ty hoặc thực hiện các hành động chống phá doanh nghiệp. Bên cạnh đó, còn xuất hiện lo ngại các công ty AI có thể đưa những thông tin bí mật vào các ứng dụng chatbot trong tương lai.

Để ngăn chặn nguy cơ bị rò rỉ thông tin của khách hàng, các công ty công nghệ lớn, bao gồm Microsoft và Alphabet đang chạy đua để bổ sung các khả năng nhằm cải thiện chatbot và công cụ tìm kiếm, huấn luyện các mô hình của họ dựa trên dữ liệu thu thập được từ Internet để cung cấp cho người dùng đường vào duy nhất đối với ứng dụng. Trước đó, Microsoft đã nhúng một số tính năng chatbot AI vào công cụ tìm kiếm Bing và công cụ Microsoft 365.

“Việc doanh nghiệp sử dụng các ứng dụng hỏi đáp trang bị AI có thể dẫn đến việc truy cập và xử lý thông tin nhạy cảm, mã nguồn, bí mật thương mại và các dữ liệu khác như thông tin khách hàng thông qua đầu vào trực tiếp của người dùng”, báo cáo của Team8 phân loại mức rủi ro từ hành động sử dụng chatbot AI là “cao”. Tuy nhiên, những rủi ro là có thể quản lý được nếu các biện pháp bảo vệ thích hợp được đưa ra.

Tài liệu còn nêu bật ba vấn đề rủi ro cao khác trong việc tích hợp các công cụ AI và nhấn mạnh mối đe dọa ngày càng tăng của thông tin ngày càng được chia sẻ thông qua các ứng dụng của bên thứ ba. Báo cáo của Team8 còn có sự tham gia và xác nhận từ Michael Rogers, cựu lãnh đạo Cơ quan An ninh Quốc gia và Bộ Tư lệnh Mạng Mỹ.

Từ khi ra mắt vào tháng 11 năm ngoái, ChatGPT đã thu hút sự chú ý của thế giới nhờ khả năng viết luận, làm thơ hoặc viết code theo yêu cầu chỉ trong vài giây. Đây là phần mềm có tốc độ thu hút người dùng nhanh nhất khi đạt 57 triệu người dùng sau 1 tháng ra mắt và cán mốc 100 triệu tính đến 31/1 vừa qua. Tuy nhiên, công cụ này cũng đặt ra nhiều vấn đề về nguy cơ thông tin sai lệch và gian lận về học vấn.

Đầu tháng 3, Ủy viên phụ trách lĩnh vực công nghiệp của Liên minh châu Âu (EU), ông Thierry Breton, cho biết EU sẽ áp đặt các quy định mới liên quan đến AI nhằm giải quyết những lo ngại về rủi ro của ChatGPT và đảm bảo người dùng ở châu Âu có thể tin tưởng công nghệ AI. Trong khi đó, theo truyền thông Trung Quốc, các cơ quan quản lý của Trung Quốc đã yêu cầu các công ty công nghệ lớn của nước này không cung cấp dịch vụ ChatGPT cho người dân.

Cùng thời điểm, một công ty an ninh mạng của Anh cảnh báo công cụ trò chuyện ChatGPT có thể đã làm gia tăng các vụ lừa đảo trên không gian mạng với những thủ đoạn hết sức tinh vi, cho phép tin tặc tiến hành các vụ tấn công nhắm mục tiêu với xác suất thành công lớn hơn.