Wikipedia lâm nguy vì AI

Những người quản lý tại Wikipedia bị chia rẽ về cách thức vận hành khi trí tuệ nhân tạo tạo tạo sinh (Generative AI) ngày càng có tác động đáng kể đến mọi khía cạnh của văn hóa.

Có sự chia rẽ về việc có nên sử dụng các mô hình ngôn ngữ lớn để tạo nội dung hay không trong bài kêu gọi cộng đồng gần đây của Wikimedia Foundation, tổ chức phi lợi nhuận chịu trách nhiệm duy trì bách khoa toàn thư mở lớn nhất trên thế giới.

Khả năng "bịa đặt" của AI

Trong khi một số người cho rằng các công cụ như ChatGPT có thể hỗ trợ trong việc tạo và tóm tắt các bài báo, những người khác vẫn tỏ ra dè dặt. Điều đáng lo ngại là nội dung do máy tạo ra phải được cân bằng với rất nhiều đánh giá của con người và các wiki ít được biết đến có thể bị thay thế bởi nội dung xấu.

Các công cụ AI sáng tạo thường đưa vào thông tin sai lệch, thậm chí trích dẫn các nguồn và bài báo học thuật không tồn tại, mặc dù thực tế là chúng rất hữu ích để viết văn bản giống văn phong của con người.

Điều này thường dẫn đến các bản tóm tắt văn bản có vẻ chính xác, nhưng khi kiểm tra kỹ hơn, người ta phát hiện ra rằng chúng hoàn toàn bịa đặt.

Amy Bruckman, Giáo sư danh dự, Phó chủ tịch cấp cao của trường điện toán tương tác tại Viện Công nghệ Georgia, khẳng định rằng mô hình ngôn ngữ lớn chỉ hoạt động tốt khi có thể phân biệt được thực tế với hư cấu.

Bà Bruckman, người từng viết sách về Wikipedia, nói với Motherboard rằng "cách duy nhất của chúng ta là sử dụng [các mô hình ngôn ngữ lớn], nhưng chỉnh sửa nó và nhờ ai đó kiểm tra nguồn".

ChatGPT đôi khi "bịa chuyện" một cách thô thiển. Ảnh: Phương Lâm.

ChatGPT của OpenAI nhanh chóng trở thành một kẻ bịa đặt tồi tệ, như các nhà nghiên cứu nhanh chóng phát hiện ra. Đối với những sinh viên dựa vào chatbot này để viết bài luận, đó là điều không tốt.

Các bài viết và tác giả của chúng đôi khi có thể được sản xuất bởi nó. Những lần khác, công cụ AI ghép tên các học giả ít được biết đến với những học giả giỏi hơn, làm tăng uy tín cho nội dung lên mức tối đa.

Theo OpenAI, mô hình này thậm chí còn "gây ảo giác" khi nó tạo ra sự thật, đây là một lập luận mà các chuyên gia AI chỉ trích là trốn tránh trách nhiệm đối với việc công cụ của họ truyền bá thông tin sai lệch.

"Rủi ro đối với Wikipedia là mọi người có thể hạ thấp chất lượng bằng cách đưa vào những thứ mà họ chưa kiểm tra. Tôi không nghĩ có gì sai khi sử dụng nó làm bản nháp, nhưng mọi thứ đều phải được xác minh.

Wikipedia bối rối

Để giúp các tình nguyện viên dễ dàng xác định nội dung do máy móc tạo ra, Wikimedia Foundation đang xem xét việc phát triển các công cụ. Trong khi Wikipedia đang tạo ra một hướng dẫn giới hạn cho việc sử dụng các mô hình ngôn ngữ lớn để tạo nội dung.

Dự thảo lưu ý rằng tránh sử dụng các mô hình ngôn ngữ lớn để tạo nội dung cho Wikipedia vì nó có thể khiến Wikimedia Foundation phải đối mặt với các vụ kiện phỉ báng và vi phạm bản quyền.

Các mô hình ngôn ngữ quan trọng này cũng chứa đựng những thành kiến ngầm, thường dẫn đến nội dung sai lệch đối với những nhóm người bị phân biệt đối xử và ít có tiếng nói trong xã hội.

Thành phần quan trọng nhất trong việc tạo nội dung Wikipedia vẫn là đội ngũ tình nguyện viên. Ảnh: Wikimedia Foundation.

Cộng đồng cũng bị chia rẽ về việc liệu các mô hình ngôn ngữ lớn có được phép huấn luyện bằng nội dung Wikipedia hay không. Mặc dù truy cập mở là nền tảng thiết kế của Wikipedia, một số người lo ngại việc thu thập dữ liệu Internet không hạn chế cho phép các doanh nghiệp như OpenAI khai thác web mở để tạo các bộ dữ liệu thương mại khép kín cho mô hình của họ.

Đặc biệt, nếu bản thân nội dung Wikipedia được xây dựng lại bởi AI, điều này dẫn đến một vòng lặp thông tin có khả năng sai lệch nếu không được kiểm tra kỹ lưỡng, thì vấn đề càng nghiêm trọng.

Đối với các thành viên Wikipedia, trí tuệ nhân tạo không phải là thứ hoàn toàn mới. Từ lâu trang web đã sử dụng hệ thống tự động để thực hiện các tác vụ như dịch thuật và loại bỏ hành vi phá hoại. Tuy nhiên, có những tình nguyện viên lâu năm không mặn mà ủng hộ ý tưởng sử dụng AI trên nền tảng.

AI chưa thể thay thế con người

Trong một tuyên bố gần đây, Wikimedia Foundation tuyên bố rằng AI là cơ hội giúp mở rộng quy mô công việc của các tình nguyện viên trong dự án Wikipedia và Wikimedia.

Wikipedia đang xem xét cách các mô hình này có thể giúp thu hẹp khoảng cách kiến thức, tăng khả năng tiếp cận và đóng góp nội dung, dựa trên phản hồi từ các tình nguyện viên.

"Tuy nhiên, sự tham gia của con người vẫn là đóng góp quan trọng nhất vào hệ sinh thái tri thức Wikimedia. Theo người phát ngôn của Wikimedia Foundation, trí tuệ nhân tạo đóng góp vào công việc mà con người làm trong dự án của chúng tôi.

Selena Deckelmann, Giám đốc sản phẩm và công nghệ của Wikimedia Foundation, đã lưu ý trong một email gần đây rằng các vấn đề phức tạp liên quan đến chuyển đổi kỹ thuật không ảnh hưởng đến cách ra quyết định của cộng đồng tình nguyện viên. Điều quan trọng là các biên tập viên và tình nguyện viên phải luôn cẩn trọng.

"Nội dung chỉ đáng tin cậy khi có nhiều người xác minh bằng các phương pháp trích dẫn chặt chẽ. Chúng ta phải kiểm tra nó vì AI tạo sinh không có khả năng này.

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống