OpenAI nỗ lực ngăn chặn lừa đảo bằng AI

Ông Jan Leike, người đứng đầu bộ phận giám sát của OpenAI và là người đồng sáng lập OpenAI, nhận định: "Sức mạnh của siêu trí tuệ có thể dẫn đến sự suy giảm quyền lực, hoặc thậm chí là sự tuyệt chủng của loài người", đồng thời dự đoán rằng AI siêu thông minh, một hệ thống có khả năng thông minh hơn con người, có thể biểu hiện trong thập kỷ này.

Theo hai nhà lãnh đạo tập đoàn, hiện tại chưa có giải pháp để điều khiển hoặc kiểm soát AI siêu thông minh, vì vậy cần có những bước đột phá trong "nghiên cứu liên kết", tập trung vào việc đảm bảo AI vẫn mang lại lợi ích cho con người.

Trong 4 năm tới, OpenAI sẽ tập trung vào giải quyết vấn đề này bằng cách sử dụng 20% sức mạnh tính toán được đảm bảo. Ngoài ra, công ty đang thành lập một nhóm mới có tên Superalignment với mục tiêu hoàn thành một nghiên cứu căn chỉnh AI dựa trên cấp độ con người, sau đó sẽ mở rộng thông qua một lượng lớn sức mạnh tính toán. Điều này đồng nghĩa với việc các hệ thống AI sẽ được đào tạo thông qua các phản hồi của con người để hỗ trợ đánh giá và thực hiện các nghiên cứu căn chỉnh thay cho mỗi người.

Ông Connor Leahy, người sáng lập công ty xây dựng công nghệ AI Conjecture, nhận xét kế hoạch này còn nhiều thiếu sót vì AI ở cấp độ con người có thể bị mất kiểm soát nếu như không giải quyết được các vấn đề liên kết.

Các nhà nghiên cứu công nghệ và công chúng thường xuyên lo lắng về những nguy hiểm tiềm tàng của AI. Vào tháng 4, một nhóm các nhà lãnh đạo công nghệ hàng đầu đã ký vào một bức thư ngỏ nhằm kêu gọi các quy định quản lý AI và nâng cao nhận thức về "nguy cơ tuyệt chủng" từ công nghệ này. Ngoài ra, một cuộc khảo sát của Reuters/Ipsos từ tháng 5 cho thấy hơn 2/3 người Mỹ lo ngại về những tác động tiêu cực của AI, trong đó 61% những người được hỏi nghĩ rằng AI có thể đe nền văn minh nhân loại.