Cha đẻ ChatGPT chê bức thư cảnh báo về AI của Elon Musk

Theo Sam Altman, CEO OpenAI, thiếu căn cứ trong lá thư kêu gọi dừng phát triển AI. Ảnh: Reuters.

Altman đã được hỏi về một bức thư ngỏ gần đây yêu cầu các phòng thí nghiệm như OpenAI tạm dừng phát triển các hệ thống trí tuệ nhân tạo "mạnh hơn GPT-4" trong một sự kiện ở MIT. Bức thư, có chữ ký của Elon Musk và Steve Wozniak, bày tỏ lo ngại về sự an toàn của các hệ thống AI.

Theo CEO OpenAI, bức thư "thiếu hầu hết các chi tiết kỹ thuật về việc cần tạm dừng ở đâu" và lưu ý rằng một phiên bản thư trước đó đã tuyên bố rằng OpenAI đang phát triển GPT-5.

"Trong một thời gian nữa, chúng tôi sẽ không phát triển GPT-5. Theo nghĩa đó, yêu cầu tạm dừng ngớ ngẩn, Altman nói thêm, lưu ý rằng không phát triển GPT5 không có nghĩa là không phát triển các khả năng hiện có của GPT-4 và các biện pháp an toàn liên quan.

Theo cha đẻ ChatGPT, "chúng tôi đang làm những công việc khác trên GPT-4, với nhiều vấn đề an toàn cần giải quyết và hoàn toàn không xuất hiện trong bức thư."

Một trong những người ký thư kêu gọi ngừng phát triển AI là Elon Musk, người trước đây đã đầu tư vào OpenAI. Ảnh: Vanity Fair.

Nhận xét của Altman về bức thư cho thấy một thách thức trong cuộc tranh luận về sự an toàn của AI: khó đo lường và theo dõi tiến độ phát triển của công nghệ. Có thể OpenAI hiện không đào tạo GPT-5, nhưng con số tên phiên bản không thực sự có ý nghĩa.

Công ty tiếp tục mở rộng tiềm năng của GPT-4, chẳng hạn như bằng cách kết nối mô hình với Internet. Ngoài ra còn có các nghiên cứu tối ưu hóa GPT-4, giống như GPT-3.5, là phiên bản tối ưu hóa GPT-3 bằng kỹ thuật Học tăng cường với phản hồi của con người.

"Tôi tin rằng việc phát triển một cách thận trọng là rất quan trọng, và tôi cũng đồng ý rằng mức độ an toàn phải tăng lên khi các mô hình có nhiều khả năng hơn. Tuy nhiên, bức thư không phải là cách giải quyết tốt nhất, Altman nói.

Mặc dù một số chuyên gia trong lĩnh vực đánh giá có những rủi ro liên quan đến AI, nhưng họ không đồng tình với bức thư có chữ ký của Elon Musk.

Sandra Wachter, một chuyên gia về quản lý công nghệ tại Đại học Oxford, người không ký vào bức thư, cho biết rằng cần quan tâm hơn đến cách các hệ thống AI có thể lan truyền tin giả cũng như lạm dụng sức lao động trong quá trình đào tạo hơn là đặt câu hỏi liệu AI có trở nên thông minh hơn và thay thế con người hay không.

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống