Sam Altman đã bày tỏ lo ngại về ý tưởng rằng ông có thể làm "điều gì đó thực sự tồi tệ" khi tạo ChatGPT (trình làng vào tháng 11.2022) tại cuộc trò chuyện trong chuyến đi gần đây tới Ấn Độ, điều này đã dẫn đến sự quan tâm đến AI tăng cao.
Sam Altman nói với Satyan Gajwani, Phó chủ tịch hãng công nghệ Times Internet, tại một sự kiện do tờ báo Economic Times tổ chức hôm 7.6: "Điều khiến tôi mất ngủ nhiều nhất là ý tưởng giả định rằng chúng tôi làm điều gì đó thực sự tồi tệ khi tung ra ChatGPT. Chẳng hạn, có thể có điều gì đó khó khăn và phức tạp trong ChatGPT mà chúng tôi không hiểu.
Sam Altman cho biết phải có một hệ thống tốt hơn để kiểm tra quá trình này khi được hỏi liệu AI có nên được điều chỉnh giống như năng lượng nguyên tử hay không. Ông nói: "Cần có một hệ thống để chúng ta có thể kiểm tra những người đang thực hiện nó, cấp phép cho nó, kiểm tra độ an toàn trước khi triển khai."
Rủi ro cao
Một số nhà lãnh đạo công nghệ và quan chức chính phủ bày tỏ lo ngại về tốc độ phát triển của các nền tảng AI.
Elon Musk, Steve Wozniak (đồng sáng lập Apple) và hơn 1.800 chuyên gia công nghệ đã cảnh báo trong một bức thư ngỏ vào tháng 3 từ Future of Life Institute rằng các hệ thống AI mạnh mẽ chỉ nên được tạo ra với ý tưởng rằng tác động tích cực và rủi ro có thể kiểm soát được.
Bức thư ngỏ kêu gọi tạm dừng việc đào tạo các hệ thống AI hiệu quả hơn GPT-4 của OpenAI trong sáu tháng qua.
Sam Altman trả lời bức thư bằng cách nói rằng nó "thiếu sắc thái kỹ thuật về nơi chúng tôi cần tạm dừng."
Sam Altman là một trong số hơn 350 nhà khoa học và lãnh đạo công nghệ đầu tháng 6 bày tỏ mối quan ngại nghiêm trọng về rủi ro AI.
Tuyên bố chung có đoạn: "Giảm thiểu nguy cơ tuyệt chủng do AI phải là ưu tiên toàn cầu bên cạnh các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân."
Các nhà lãnh đạo OpenAI đã yêu cầu một tổ chức có thể so sánh với Cơ quan Năng lượng Nguyên tử Quốc tế vào cuối tháng 5 để bảo vệ chống lại những rủi ro do AI "siêu thông minh" gây ra.
Ý tưởng về AI tự tiến hóa, trong đó AI có khả năng trở thành hệ thống tự phát triển vượt qua sự hiểu biết và khả năng kiểm soát của con người, được gọi là "siêu thông minh".
Có những lo ngại về những rủi ro tiềm ẩn nếu không được quản lý đúng cách, mặc dù việc phát triển các hệ thống AI như vậy mang lại triển vọng lớn để giải quyết các vấn đề phức tạp và thúc đẩy các lĩnh vực khác nhau.
Các nhà lãnh đạo OpenAI đã yêu cầu áp đặt quy định về các AI "siêu thông minh". Họ lập luận rằng để bảo vệ chúng ta khỏi nguy cơ vô tình tạo ra thứ gì đó có sức mạnh diệt loài người, cần có một tổ chức tương đương với Cơ quan Năng lượng Nguyên tử Quốc tế (IAEA).
Trong một ghi chú ngắn đăng trên trang web OpenAI, Greg Brockman, Ilya Sutskever và Sam Altman kêu gọi thành lập một cơ quan quản lý quốc tế để bắt đầu làm việc về cách "kiểm tra hệ thống, yêu cầu kiểm toán, thử nghiệm tuân thủ các tiêu chuẩn an toàn và đặt hạn chế về mức triển khai cùng bảo mật" nhằm giảm bớt nguy cơ mà các AI "siêu thông minh" có thể gây ra.
Họ viết: "Có thể hình dung rằng các hệ thống AI sẽ vượt qua trình độ chuyên gia trong hầu hết các lĩnh vực trong vòng 10 năm tới và thực hiện nhiều hoạt động hiệu quả như một trong những tập đoàn lớn nhất hiện nay. AI "siêu thông minh" sẽ mạnh hơn so với các công nghệ khác mà nhân loại phải đối mặt trong quá khứ, xét về mặt tích cực và tiêu cực. Chúng ta có thể có một tương lai thịnh vượng hơn nhiều, nhưng chúng ta cần quản lý rủi ro để đạt được điều đó. Chúng ta phải có cách tiếp cận tích cực để đối phó với khả năng xảy ra rủi ro hiện hữu.
Trong tương lai ngắn hạn, ba nhà đồng sáng lập OpenAI yêu cầu "mức độ phối hợp" giữa các doanh nghiệp đang làm việc trong lĩnh vực nghiên cứu AI tiên tiến để đảm bảo việc phát triển các mô hình mạnh mẽ hơn tích hợp một cách suôn sẻ với xã hội trong khi vẫn ưu tiên sự an toàn. Sự phối hợp này có thể thông qua một dự án do chính phủ tài trợ hoặc một thuận tập thể nhằm hạn chế sự phát triển khả năng của AI.
Các nhà nghiên cứu từ lâu đã cảnh báo về những rủi ro tiềm ẩn của AI siêu thông minh, nhưng khi sự phát triển AI đang diễn ra nhanh chóng, những rủi ro đó đã trở nên cụ thể hơn.
Theo các lãnh đạo OpenAI, những rủi ro đó đồng nghĩa với việc "người dân trên khắp thế giới nên quyết định theo hình thức dân chủ về các giới hạn và thiết lập mặc định cho các hệ thống AI", nhưng họ thừa nhận rằng họ chưa biết cách thiết kế một hệ thống như vậy. Tuy nhiên, các lãnh đạo OpenAI khẳng định rằng việc tiếp tục phát triển các hệ thống AI mạnh mẽ là không thể tránh khỏi.
Sam Altman phản ứng với những chỉ trích của Elon Musk về OpenAI
Sam Altman một lần nữa bác lại lời chỉ trích của Elon Musk rằng OpenAI chỉ quan tâm đến lợi nhuận hơn là sự an toàn và khẳng định rằng những tuyên bố như vậy là hoàn toàn sai sự thật.
CEO 38 tuổi đã đến Delhi (thủ đô Ấn Độ) vào ngày 7.5 trong một sự kiện do tờ Economic Times tổ chức, nơi ông thảo luận về tác động rộng lớn hơn của AI và được đặt câu hỏi bởi các nhà hoạch định chính sách cùng công ty khởi nghiệp của Nam Á.
Elon Musk đề cập đến một câu hỏi được đặt ra cho Sam Altman về vấn đề mà anh ấy đề cập đến rằng OpenAI nhận được hàng tỉ đô la tiền đầu tư từ Microsoft mặc dù công ty khẳng định là "phi lợi nhuận".
Sam Altman trả lời: "Tôi thực sự không muốn bị cuốn vào cuộc tranh luận với Elon. Tôi thích ông ấy. Tôi tin rằng ông ta hoàn toàn thiếu sót về những điều này. Elon có thể nói bất cứ điều gì ông muốn, nhưng tôi tự hào về những gì chúng tôi đang làm. Tôi cố gắng tránh những cuộc tranh luận đó và nghĩ rằng chúng tôi sẽ góp phần tích cực vào thế giới.
Năm 2015, Elon Musk và Sam Altman đồng sáng lập OpenAI. Vào thời điểm đó, OpenAI tự gọi mình là tổ chức phi lợi nhuận đang tạo ra AI "theo cách có khả năng mang lại lợi ích nhất cho toàn nhân loại", theo trang Insider.
Elon Musk thường xuyên chỉ trích công ty cũ kể từ khi rời khỏi hội đồng quản trị OpenAI vào năm 2018. Thậm chí Elon Musk gần đây đã đề cập trong một tweet rằng ông tin rằng OpenAI sẽ trở thành "công ty có lợi nhuận tối đa do Microsoft kiểm soát hiệu quả", điều này không phải là ý định ban đầu của ông.
Trước khi gọi Elon Musk là "kẻ khó chịu" trong một podcast, Sam Altman đã phản bác lại những tuyên bố này, nói rằng "Hầu hết điều đó là không đúng sự thật và tôi nghĩ Elon biết điều này."
CEO 38 tuổi thừa nhận rằng những lo ngại của Elon Musk về sự an toàn của AI là có thể hiểu được, nhưng ông nên làm nhiều hơn nữa để thừa nhận những nỗ lực của OpenAI trong việc giải quyết những vấn đề như vậy.
Năm 2015, Elon Musk, Sam Altman và những người khác thành lập OpenAI dưới dạng một tổ chức phi lợi nhuận, tập trung vào sự phát triển an toàn và minh bạch của AI. Vì xung đột lợi ích, Elon Musk đã rời hội đồng quản trị OpenAI vào năm 2018. Sam Altman và các nhà đồng sáng lập còn lại không đồng ý. Cụ thể hơn, tỷ phú công nghệ muốn làm Giám đốc điều hành OpenAI.
Trước đây, Elon Musk đã hứa sẽ cung cấp 1 tỉ USD cho OpenAI, nhưng sau khi ông rời đi vào tháng 2 năm 2018, công ty đã phải vật lộn để huy động tiền mặt. Sau đó, Microsoft đã đầu tư 1 tỉ USD vào OpenAI và chuyển mô hình kết hợp "lợi nhuận giới hạn" vào năm 2019.
Hồi tháng 2, tỷ phú giàu nhất thế giới đã chỉ trích sự thay đổi này trong OpenAI: "OpenAI được tạo ra như một nguồn mở (đó là lý do tại sao tôi đặt tên cho nó là OpenAI), công ty phi lợi nhuận để làm đối trọng với Google, nhưng giờ đây nó đã trở thành một công ty nguồn đóng, lợi nhuận tối đa được kiểm soát hiệu quả bởi Microsoft."
Elon Musk cho rằng sự thao túng của AI bởi các doanh nghiệp đi đầu trong cuộc cách mạng này là một trong những mối đe lớn do nó gây ra. Microsoft, công ty đầu tư thêm hàng tỷ USD vào OpenAI, là một trong những mục tiêu chính của ông.
Những lời chỉ trích của Elon Musk về mối quan hệ đối tác trị giá hàng tỉ USD giữa công ty của ông với OpenAI đã bị Giám đốc điều hành Microsoft - Satya Nadella đẩy lùi.
Trong cuộc phỏng vấn với trang CNBC, Satya Nadella đã được hỏi về tuyên bố của Elon Musk rằng "Microsoft kiểm soát OpenAI."
"Đầu tiên, tôi rất tôn trọng Elon và tất cả những gì anh ấy làm. Tôi chỉ muốn nói rằng điều đó thực sự không đúng. Chúng tôi là công ty vì lợi nhuận duy nhất cảm thấy thoải mái với một công ty phi lợi nhuận và hội đồng quản trị (ám chỉ OpenAI - PV) và lần cuối cùng tôi kiểm tra. Tôi hoan nghênh những người khác làm như vậy, ông nói.
Elon Musk đang làm việc để thành lập một công ty khởi nghiệp AI sẽ cạnh tranh với OpenAI bất chấp lo ngại về AI. Ông tập hợp một nhóm các nhà nghiên cứu và kỹ sư AI, theo tờ Financial Times, và ông cũng đang nói chuyện với một số nhà đầu tư vào SpaceX và Tesla về việc rót tiền cho dự án kinh doanh mới của mình.
Elon Musk đã cam kết có hàng nghìn GPU (bộ xử lý đồ) từ Nvidia. GPU có thể thực hiện song song số lượng lớn phép tính lớn, làm cho nó trở thành GPU lý tưởng cho các tác vụ AI và máy học đòi hỏi nhiều sức mạnh tính toán. GPU có thể tăng tốc quá trình huấn luyện các mô hình học sâu bằng cách xử lý lượng lớn dữ liệu trong khoảng thời gian ngắn, nên đây là một thành phần quan trọng cho nghiên cứu và phát triển AI.
Elon Musk đã mua 100.000 GPU cho dự án AI nội bộ của Twitter, theo trang Insider. Ông chỉ ra rằng công ty truyền thông xã hội đang tiến tới kế hoạch đầy tham vọng nhằm tạo ra generative AI có thể được huấn luyện trên kho dữ liệu khổng lồ của mình.
Đầu tháng 3, kỹ sư Igor Babuschkin và Manuel Kroiss từ DeepMind của Google đã đầu quân cho Elon Musk.
Mô hình ngôn ngữ lớn được sử dụng trong dự án hệ điều hành RAStive AI của Elon Musk tại Twitter. Trước đây, ChatGPT cũng đã huấn luyện bằng tài nguyên trực tuyến sẵn có, chẳng hạn như Twitter.
Theo các nguồn tin, dự án AI của Elon Musk có thể được sử dụng để tăng cường hoạt động kinh doanh quảng cáo hoặc cải thiện chức năng tìm kiếm trên Twitter.
Mô hình AI có thể được hưởng lợi theo nhiều cách khác nhau từ Twitter. Công ty có thể sử dụng AI để tăng cường khả năng tìm kiếm của mình, cho phép người dùng dễ dàng tìm thấy nội dung mong muốn.
Ngoài ra, Twitter có thể sử dụng AI để hiểu rõ hơn về nhu cầu và sở thích của người dùng, cho phép công ty cung cấp nội dung và đề xuất cá nhân hóa hơn.
Bằng cách hỗ trợ các nhà tiếp thị tiếp cận đối tượng mục tiêu dễ dàng hơn và định lượng hiệu quả các chiến dịch của họ, AI cũng có thể hỗ trợ Twitter xây dựng lại hoạt động kinh doanh quảng cáo của mình.
OpenAI đã bị chặn truy cập vào dữ liệu của Twitter vào tháng 12.2022, chỉ vài tuần sau khi ra mắt ChatGPT. Elon Musk đứng đằng sau quyết định này, theo hai nguồn tin quen thuộc với vấn đề này, nói với tờ The New York Times.
Elon Musk tin rằng việc trả khoảng 2 triệu đô la mỗi năm cho OpenAI để được cấp phép sử dụng dữ liệu của Twitter là không đủ.
Để hỗ trợ xây dựng ChatGPT, the New York Times, OpenAI đã từng được cấp phép sử dụng dữ liệu của Twitter. Tỷ phú 51 tuổi người Mỹ đã rất cảnh giác với AI tiên tiến trong một thời gian rất dài và chỉ trích OpenAI nặng nề vào thời điểm đưa ra quyết định ngăn công ty khởi nghiệp có trụ sở ở thành phố San Francisco (Mỹ) truy cập dữ liệu Twitter.
Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống