NeMo Guardrails là một minh về cách ngành công nghiệp trí tuệ nhân tạo (AI) đang cố gắng giải quyết vấn đề "ảo giác" của thế hệ mô hình ngôn ngữ lớn mới nhất, vốn là một thách thức lớn với các doanh nghiệp.
Để tạo ra các chương trình phản hồi giống như con người, các mô hình ngôn ngữ lớn như GPT của OpenAI và LaMDA từ Google được đào tạo trên hàng terabyte dữ liệu. Tuy nhiên, chúng thường tạo ra các thông tin không chính xác, thường được các chuyên gia gọi là "ảo tưởng".
Các ứng dụng ban đầu của công nghệ này, như tóm tắt tài liệu hoặc trả lời các câu hỏi cơ bản, cần giảm bớt hiện tượng "ảo giác" để trở nên hữu ích hơn.
NeMo Guardrails có thể làm điều này bằng cách thêm các rào cản để ngăn phần mềm đề cập đến các chủ đề không nên. NeMo Guardrails được phép buộc chatbot AI nói về một chủ đề cụ thể, loại bỏ nội dung độc hại và ngăn các hệ thống mô hình ngôn ngữ lớn thực thi các lệnh có hại trên máy tính.
"Nếu ai đó đề cập đến một chủ đề cụ thể, bất kể tình huống là gì, bạn có thể viết kịch bản để hệ thống phản hồi theo một cách cụ thể. Chẳng hạn, Jonathan Cohen, Phó chủ tịch nghiên cứu ứng dụng của Nvidia, nói rằng kịch bản sẽ được sử dụng để đảm bảo rằng chatbot AI sẽ phản hồi theo cách xác định trước và ngăn chặn nội dung không phù hợp hoặc nguy hiểm do mô hình ngôn ngữ lớn tạo ra.
Thông báo này cũng nhấn mạnh cam kết của Nvidia nhằm duy trì vị trí dẫn đầu trên thị trường chip AI bằng cách đồng thời tạo ra các phần mềm quan trọng cho máy học.
Để đào tạo và triển khai phần mềm như ChatGPT, Nvidia cung cấp hàng ngàn GPU (bộ xử lý đồ). Theo các nhà phân tích, Nvidia chiếm hơn 95% thị phần chip AI, nhưng cạnh tranh đang gia tăng.
Hoạt động của NeMo Guardrails là gì?
Giữa người dùng và mô hình ngôn ngữ lớn hoặc các công cụ AI khác, NeMo Guardrails là một lớp phần mềm. Trước khi mô hình phản hồi, phần mềm mới của Nvidia sẽ loại bỏ các kết quả xấu hoặc truy vấn xấu.
Theo Nvidia, chatbot dịch vụ khách hàng là một trong những tình huống áp dụng NeMo Guardrails khả thi. NeMo Guardrails có thể được nhà phát triển sử dụng để ngăn nói về các chủ đề không liên quan hoặc lạc đề, điều này có thể dẫn đến khả năng phản hồi vô nghĩa hoặc độc hại.
"Nếu một chatbot dịch vụ khách hàng được tạo để nói về sản phẩm của bạn, có lẽ bạn không muốn nó trả lời các câu hỏi về đối thủ cạnh tranh. Bạn muốn điều hướng cuộc trò chuyện. Jonathan Cohen giải thích rằng nếu điều đó xảy ra, bạn sẽ điều hướng cuộc trò chuyện trở lại các chủ đề mà mình thích hơn.
Một ví dụ khác về chatbot giải quyết các vấn đề về nguồn nhân lực nội bộ của công ty được cung cấp bởi Nvidia. Trong ví dụ này, Nvidia có thể thêm "rào cản" để chatbot dựa trên ChatGPT không trả lời các câu hỏi về hiệu quả tài chính của công ty hoặc truy cập dữ liệu riêng tư về các nhân viên khác.
Bằng cách yêu cầu mô hình ngôn ngữ lớn khác kiểm tra sự chính xác của câu trả lời từ cái đầu tiên, NeMo Guardrails cũng có thể sử dụng mô hình ngôn ngữ lớn để phát hiện "ảo giác". Nếu mô hình không cung cấp các câu trả lời thích hợp, nó sẽ trả lời "Tôi không biết."
NeMo Guardrails, một công cụ an ninh có thể buộc các mô hình ngôn ngữ lớn chỉ tương tác với phần mềm của bên thứ ba trong danh sách được cho phép, đã được Nvidia thông báo vào ngày 25.4, công cụ này cũng giúp đảm bảo an ninh.
NeMo Guardrails là một nguồn mở có thể được sử dụng trong các ứng dụng thương mại và được cung cấp thông qua các dịch vụ của Nvidia. Theo Nvidia, các lập trình viên sẽ viết các quy tắc chỉnh cho mô hình AI bằng ngôn ngữ lập trình Golang.
Các công ty AI khác, bao gồm cả Google và OpenAI, đã sử dụng kỹ thuật học tăng cường từ phản hồi của con người để ngăn chặn chatbot trả lời có hại. Thông qua phương pháp này, những người thử nghiệm được tạo dữ liệu về câu trả lời có thể chấp nhận được hay không trước khi đào tạo mô hình AI bằng dữ liệu đó.
Khi các chip được sử dụng để tạo ra công nghệ này chiếm ưu thế, Nvidia đang ngày càng chuyển sự chú ý của mình sang AI. Tận dụng làn sóng AI giúp Nvidia trở thành cổ phiếu tăng điểm nhiều nhất từ S&P 500 cho đến nay trong năm 2023, tăng 85% tính đến ngày 24.4.
Chỉ số chứng khoán được gọi là S&P 500, dựa trên vốn hóa của 500 công ty đại chúng lớn nhất của Mỹ, phần nào phản ánh tình trạng của nền kinh tế quốc gia.
Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống
Nguồn tin: 1thegioi.vn
Tham gia bình luận