Có gì trong lá thư kêu gọi ngừng phát triển AI mà Elon Musk đã ký?

Đầu tháng này, OpenAI, công ty đứng sau ChatGPT, đã tiết lộ phiên bản thứ tư của chương trình AI GPT (Generative Pre-training Transformer), khiến người dùng kinh ngạc với khả năng giao tiếp như con người, sáng tác bài hát hoặc tóm tắt các tài liệu dài.

Business Insider báo cáo rằng bức thư ngỏ do tổ chức phi lợi nhuận Future of Life Institute công bố có hơn 1.000 chữ ký, bao gồm chữ ký của CEO Tesla Elon Musk, nhà đồng sáng lập Apple Steve Wozniak, CEO Stability AI Emad Mostaque, nhà đồng sáng lập Pinterest Evan Sharp, các chuyên gia về trí tuệ nhân tạo Yoshua Bengio và Stuart Russell.

Theo nội dung lá thư, "Các hệ thống AI mạnh mẽ chỉ nên được phát triển khi chúng tôi tin rằng nó mang lại tác động tích cực và rủi ro nằm ở mức kiểm soát được."

Những lo lắng về tác động của AI đối với thị trường việc làm đang gia tăng. Theo một báo cáo gần đây từ Goldman Sachs, 25% lực lượng lao động hiện tại có thể bị thay thế bởi AI. Ngoài ra, theo báo cáo của Diễn đàn Kinh tế Thế giới năm 2020, đến năm 2025, khoảng 85 triệu việc làm sẽ bị thay thế bởi AI.

Chụp màn hình

Bức thư nêu bật những lo ngại về sự lan truyền thông tin sai lệch, nguy cơ tự động hóa trong thị trường lao động và những đe đối với nền văn minh của con người.

AI nằm ngoài tầm kiểm soát

Tổ chức phi lợi nhuận Future of Life Institute giả định rằng các nhà phát triển mất quyền kiểm soát các hệ thống AI và dự đoán tác động dự kiến của AI đối với nền văn minh. Công nghệ AI có thể tiên tiến đến mức ngay cả những người tạo ra nó cũng không thể hiểu rõ, dự đoán hoặc kiểm soát hoàn toàn AI trong bối cảnh các doanh nghiệp chạy đua để phát triển trí tuệ nhân tạo.

Bức thư đặt câu hỏi: "Chúng ta có nên mạo hiểm đánh mất quyền kiểm soát nền văn minh của mình không? Các nhà lãnh đạo công nghệ không được bầu chọn không nên được giao những lựa chọn như vậy.

Tự động hóa AI và lan truyền thông tin sai lệch

Bức thư nhấn mạnh một số rủi ro của công nghệ mới, bao gồm khả năng những bộ óc AI cuối cùng sẽ ngày càng đông hơn, thông minh hơn và thay thế con người.

Theo Tổ chức Future of Life Institute, các hệ thống AI đang dần cạnh tranh với con người trong một số công việc. Bức thư cũng trích dẫn những trường hợp AI làm tăng thông tin sai lệch và tự động hóa lao động. Tổ chức này viết trong thư: "Chúng ta có nên để máy móc tuyên truyền thông tin sai sự thật qua các kênh thông tin không? Chúng ta có nên tự động hóa tất cả các công việc?

Tạm ngừng sáu tháng

Bức thư đề nghị tạm ngừng phát triển bất kỳ hệ thống AI nào mạnh hơn những hệ thống đã có trên thị trường trong sáu tháng.

Lá thư yêu cầu các nhà phát triển hợp tác với các nhà hoạch định chính sách để tạo ra các hệ thống quản trị AI, nhấn mạnh sự cần thiết của các cơ quan quản lý và tạo ra "hệ thống watermark" AI để giúp mọi người phân biệt giữa nội dung do con người tạo ra và nội dung do AI tạo ra. Bức thư cũng nhấn mạnh tầm quan trọng của các tổ chức có nguồn lực tốt để đối phó với những gián đoạn kinh tế và chính trị do AI gây ra.

Bức thư nêu rõ: "Tạm ngừng phát triển AI nên là một thời gian nghỉ ngơi để xem xét lại cuộc đua nguy hiểm xung quanh các công nghệ tân tiến, chứ không phải dừng hoàn toàn việc phát triển AI nói chung."

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống