Tại hội nghị, 18 quốc gia đã thống nhất về việc phát triển AI an toàn. Mục tiêu chính là đảm bảo rằng việc thiết kế và sử dụng AI phải luôn đặt an toàn của khách hàng và công chúng lên hàng đầu, nhằm tránh những rủi ro và nguy cơ lạm dụng công nghệ này.
 |
Mặc dù thỏa thuận này không có tính ràng buộc pháp lý, nó mang một tầm quan trọng đáng kể. Thỏa thuận bao gồm các khuyến nghị như giám sát chặt chẽ các hệ thống AI, bảo vệ dữ liệu cá nhân trước nguy cơ giả mạo và thực hiện các kiểm tra nghiêm ngặt đối với nhà cung cấp phần mềm.
Jen Easterly, Giám đốc Cơ quan An ninh mạng và An ninh Hạ tầng Mỹ, đã nhấn mạnh về tầm quan trọng của việc bảo mật trong thiết kế AI. Ông cho rằng, an toàn và bảo mật phải được tích hợp ngay từ những bước đầu tiên của quá trình phát triển AI.
Sự tham gia của nhiều quốc gia trong thỏa thuận này cho thấy sự quan tâm toàn cầu đối với việc định hình tương lai của AI. Điều này không chỉ đánh dấu một bước ngoặt trong công nghệ mà còn là sự hợp tác quốc tế sâu rộng.
Các quốc gia tham gia bao gồm các cường quốc công nghệ như Mỹ và Anh, cùng với Đức, Italy, Cộng hòa Séc, Estonia, Ba Lan, Australia, Chile, Israel, Nigeria và Singapore... Sự đa dạng về địa lý và kinh tế của các quốc gia này cho thấy AI không chỉ là một chủ đề quan trọng ở một số khu vực nhất định mà là một vấn đề toàn cầu.
Một trong những mục tiêu chính của thỏa thuận là tập trung vào việc bảo vệ AI khỏi những cuộc tấn công từ tin tặc. Đề xuất bao gồm các biện pháp an toàn như phát hành mô hình AI sau khi đã trải qua các thử nghiệm an toàn phù hợp.
Thỏa thuận cũng nhấn mạnh đến thách thức trong việc sử dụng và thu thập dữ liệu AI. Việc này yêu cầu một cách tiếp cận cẩn trọng và có trách nhiệm, đảm bảo rằng dữ liệu được thu thập và sử dụng một cách minh bạch và công bằng.
Có những lo ngại rằng AI có thể bị lợi dụng để phá vỡ quá trình dân chủ, tăng cường gian lận, và thậm chí dẫn đến thất nghiệp hàng loạt. Thỏa thuận nhằm giải quyết những lo ngại này bằng cách thiết lập các nguyên tắc và khuyến nghị.
Liên minh châu Âu cũng đang đối mặt với sức ép từ các doanh nghiệp và hiệp hội công nghệ, những người kêu gọi không thắt chặt quá mức kiểm soát đối với các hệ thống AI. Điều này chỉ ra sự cần thiết của việc cân bằng giữa đổi mới và quản lý.
Trước đó, các quốc gia lớn của châu Âu như Đức, Pháp và Ý đã đạt được thỏa thuận về cách quản lý AI. Họ ủng hộ cam kết tự nguyện ràng buộc đối với tất cả nhà cung cấp AI trong EU, không chỉ giới hạn ở những nhà cung cấp lớn.
Duy Tiến (Tổng hợp)
Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống