Để phát triển GPT-4

Theo hãng tin Reuters, ông Hoàng Nhân Huân (Jensen Huang), Giám đốc điều hành Nvidia, hôm 21.3 dự kiến sẽ tiết lộ các chip và công nghệ trí tuệ nhân tạo (AI) mới tại hội nghị thường niên của công ty dành cho các nhà phát triển phần mềm.

Các nhà phân tích sẽ theo dõi Nvidia cung cấp chi tiết về cách công ty dự định mở rộng khả năng sức mạnh xử lý giống như từng sử dụng để tạo ra các công nghệ bùng nổ như chatbot ChatGPT.

Để cung cấp quyền truy cập dễ dàng hơn vào các hệ thống lớn được xây dựng bằng chip của họ, ông Hoàng Nhân Huân đã thông báo với các nhà đầu tư vào tháng trước rằng Nvidia sẽ ra mắt dịch vụ điện toán đám mây của riêng mình.

Công ty sẽ thảo luận về "điều gì sẽ xảy ra tiếp theo" trong AI tại hội nghị hôm 21.3, theo trang web của mình.

Với trụ sở chính tại thành phố Santa Clara (bang California, Mỹ), Nvidia đã thống trị ngành bán chip được sử dụng để tạo ra các công nghệ generative AI.

Máy tính được lập trình để tự động tạo ra nội dung mới, chẳng hạn như văn bản, hình ảnh, âm thanh và video, bằng cách sử dụng trí tuệ nhân tạo được gọi là kỹ thuật tạo văn bản. Nó khác với các hệ thống AI khác, chẳng hạn như máy học sâu (deep learning) hoặc học máy (machine learning), trong việc dự đoán kết quả từ dữ liệu có sẵn. Hệ thống generative AI có thể tự tạo ra dữ liệu mới và phong phú hơn thay vì dựa trên dữ liệu được huấn luyện. Các mô hình ngôn ngữ tự động tạo văn bản, các hệ thống nhận dạng hình ảnh, video và âm thanh đều là những ví dụ về cách sử dụng generative AI.

Những công nghệ mới này dựa trên việc huấn luyện hệ thống AI trên kho dữ liệu khổng lồ bằng cách sử dụng hàng ngàn chip Nvidia cùng lúc. Chẳng hạn, Microsoft đã xây dựng một hệ thống với hơn 10.000 chip Nvidia cho công ty khởi nghiệp OpenAI (Mỹ) để sử dụng trong việc phát triển các công nghệ nền tảng cho ChatGPT, cụ thể là GPT (Generative Pre-training Transformer).

GPT là một mô hình ngôn ngữ lớn (LLM) được viết bởi nhà nghiên cứu AI Alec Radford, sau đó được OpenAI phát triển và gần đây đã được nâng cấp lên phiên bản GPT-4 mạnh mẽ.

Mặc dù có sự cạnh tranh trên thị trường chip AI từ AMD và một số công ty khởi nghiệp, nhưng Nvidia chiếm hơn 80% thị phần chip được sử dụng trong huấn luyện hệ thống AI.

Cổ phiếu Nvidia đã tăng 77% trong năm 2023 so với mức tăng 11,5% của Nasdaq Composite Index nhờ sự bùng nổ về AI. Với giá trị vốn hóa thị trường là 640 tỷ USD, Nvidia đã phát triển trở nên có giá trị gấp khoảng 5 lần so với Intel, đối thủ lâu năm.

Chỉ số thị trường chứng khoán Mỹ, được tính toán dựa trên giá trị của hơn 3.000 công ty niêm yết trên sàn giao dịch Nasdaq, được gọi là Nasdaq Composite Index. Công nghệ, tài chính, y tế và năng lượng tái tạo là những lĩnh vực chủ yếu được các doanh nghiệp niêm yết giao dịch trên sàn Nasdaq.

Cùng với S&P 500 và Dow Jones Industrial Average, Nasdaq Composite Index là một trong những chỉ số chứng khoán quan trọng nhất ở Mỹ và toàn cầu. Nó được sử dụng như một công cụ quan trọng để đánh giá sự phát triển của các công ty niêm yết trên sàn Nasdaq và như một đại diện cho trạng thái thị trường chứng khoán Mỹ.

Trang SCMP đầu tháng 3 báo cáo rằng do thiếu chip AI tiên tiến, hy vọng tạo chatbot giống ChatGPT của Trung Quốc có thể bị đe.

Sau khi bị Mỹ chặn mua các chip tiên tiến nhất, các doanh nhân và kỹ sư trong nước có thể phải dựa vào số lượng thay vì chất lượng GPU (bộ xử lý đồ) để đào tạo các mô hình ngôn ngữ lớn cần thiết cho các chatbot AI như ChatGPT.

Doanh nhân công nghệ AI trong hội đồng của Hiệp hội Trí tuệ Nhân tạo Trung Quốc nói ở cuộc hội thảo kín rằng Mỹ dẫn trước Trung Quốc về sức mạnh điện toán chủ yếu nhờ ưu thế về các GPU. Ví dụ, mô hình ngôn ngữ lớn là động cơ hơi nước của kỷ nguyên hiện đại. Do cách sử dụng tính toán đồng thời một cách hiệu quả, GPU có lợi thế đặc biệt trong học máy so với CPU (bộ xử lý trung tâm).

“Mặc dù chúng ta thiếu các GPU mạnh như A100, nhưng chúng ta có thể tập hợp các GPU kém hiệu quả hơn để giành chiến thắng nhờ số lượng. Tôi tin rằng sức mạnh tính toán vẫn là một yếu tố rất quan trọng, mang tính quyết định để giành chiến thắng trong cuộc cạnh tranh sau này.", doanh nhân này nhận xét. Trung tâm dữ liệu của Nvidia A100 là chip AI mà Mỹ đã cấm xuất khẩu sang Trung Quốc.

Giống như những người khác được trích dẫn trong câu chuyện này, doanh nhân trên yêu cầu không nêu tên vì tính nhạy cảm của chủ đề.

Kể từ khi OpenAI phát hành ChatGPT vào tháng 11.2022, mức độ phổ biến đáng kinh ngạc của chatbot này đã dẫn đến cuộc chạy đua giữa các hãng công nghệ lớn để tạo các phiên bản sản phẩm generative AI của riêng họ. Điều này đã được mở rộng sang Trung Quốc, nơi công ty tìm kiếm Internet Baidu, chủ sở hữu ứng dụng TikTok - ByteDance, gã khổng lồ về truyền thông xã hội và game Tencent Holdings, và hãng khổng lồ thương mại điện tử Alibaba đều tham gia cuộc đua.

Tuy nhiên, các chuyên gia đã cảnh báo rằng Trung Quốc phải đối mặt với một số khó khăn đáng kể trong việc sản xuất chatbot giống như ChatGPT. Sản phẩm này có thể bị hạn chế do kiểm duyệt hoặc các hạn chế ngày càng tăng đối với việc tiếp cận các chất bán dẫn tiên tiến. GPU là thành phần chính khi nói đến chip được sử dụng để đào tạo AI.

Việc triển khai một số lượng lớn GPU hiệu suất cao giúp rút ngắn thời gian đào tạo generative AI, đòi hỏi phải sàng lọc lượng dữ liệu khổng lồ, theo TrendForce (công ty nghiên cứu thị trường và dự báo xu hướng công nghệ có trụ sở tại Đài Loan).

Theo TrendForce, trong trường hợp mô hình GPT cung cấp sức mạnh cho ChatGPT, số lượng tham số đào tạo tăng từ khoảng 120 triệu vào năm 2018 lên gần 180 tỉ vào năm 2020.

“Số lượng GPU cần thiết để thương mại hóa mô hình GPT (hay ChatGPT) được dự đoán sẽ trên 30.000TrendForce đã đưa ra ước tính giả định việc sử dụng A100 của Nivida trong ghi chú.

Trong số các nhà cung cấp dịch vụ đám mây AI của Trung Quốc, CPU và GPU tiên tiến của các nhà phát triển hàng đầu như Intel, AMD và Nvidia được sử dụng rộng rãi.

Một số chuyên gia lo ngại rằng các kế hoạch tạo chatbot AI tương tự ChatGPT của các hãng công nghệ lớn Trung Quốc có thể bị cản trở do thiếu chip cung cấp sức mạnh tính toán khổng lồ cần thiết để hỗ trợ các mô hình AI tinh vi tại Hội nghị các nhà phát triển AI toàn cầu ở thành phố Thượng Hải cuối tháng 2.

“Nếu Trung Quốc muốn tạo ChatGPT của riêng mình, chúng ta cần hàng chục ngàn chip Nvidia A100 để cung cấp sức mạnh tính toán cần thiết.Theo Zheng Weimin, giáo sư Đại học Thanh Hoa trực thuộc Học viện Kỹ thuật Trung Quốc, cho hay.

Giá chip A100 đã tăng 50% trong hai tuần qua do sự náo nhiệt xung quanh ChatGPT, theo Yang Fan, đồng sáng lập và Phó chủ tịch của SenseTime (công ty phần mềm AI hàng đầu Trung Quốc đã bị Mỹ trừng phạt thương mại kể từ năm 2019).

“Trung Quốc vẫn chưa sản xuất chip và phần mềm có thể hỗ trợ ít nhất 50 đến 70 phần trăm công suất tính toán cần thiết để chạy ChatGPT”, Yang Fan nhấn mạnh.

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống