AI cấy suy nghĩ, thao túng người dùng như thế nào

Người dùng có thể tin rằng trợ lý AI đang phục vụ mình khi yêu cầu ChatGPT hoặc một chatbot soạn thảo email hoặc bài trình bày. Tuy nhiên, ngày càng có nhiều nghiên cứu cho thấy AI làm thay đổi cách người dùng suy nghĩ trong khi họ không hề hay biết.

Người tham gia được yêu cầu viết một bài luận với sự hỗ trợ của AI để trình bày tại Hội nghị về các yếu tố con người trong các hệ thống tính toán trong một nghiên cứu mới. Kết quả cho thấy, thuộc vào thiên kiến vốn có của thuật toán, AI có thể thúc đẩy người dùng ủng hộ hoặc chống lại một quan điểm cụ thể. Thực hiện bài luận này cũng có tác động đáng kể đến ý kiến của những người tham gia về chủ đề được giao.

Mor Naaman, nhà khoa học thông tin tại Đại học Cornell và là tác giả chính của nghiên cứu, nói rằng bạn thậm chí không biết rằng mình đang bị ảnh hưởng bởi AI. Ông gọi hiện tượng này là "sự thuyết phục ngầm".

Cách AI thay đổi quan điểm của người dùng

Những nghiên cứu được thực hiện theo hướng này cung cấp một viễn cảnh đáng báo động. AI có thể thay đổi quan điểm theo những cách ngầm ẩn và không lường trước được trong khi giúp con người làm việc hiệu quả hơn. Tương tự như cách con người ảnh hưởng lẫn nhau, ảnh hưởng này có thể giống nhau.

Các AI tạo hình ảnh và văn bản có thể tạo ra nội dung khó phân biệt thật giả, thu hút sự chú ý của người dùng. Ảnh: EliotHiggins/Twitter.

Theo các chuyên gia, cảnh báo người dùng là cách phòng thủ tốt nhất và duy nhất hiện có. Trong tương lai, có thể sẽ có các biện pháp bổ sung, chẳng hạn như các cơ quan quản lý yêu cầu minh bạch thuật toán AI và những thành kiến của con người mà chúng phản ánh.

Theo một nghiên cứu khác được thực hiện vào năm 2021 và được công bố trên Proceedings of the ACM on Human Computer Interaction, các câu trả lời tự động của AI được tích hợp trong Gmail, đều có xu hướng tích cực, làm tăng mức độ giao tiếp của người dùng. Theo nghiên cứu thứ hai trên cùng tạp chí, những câu trả lời tự động này, được sử dụng hàng tỷ lần mỗi ngày, ảnh hưởng đến cả người nhận, khiến họ cảm thấy người gửi thân thiện và hợp tác hơn.

Mục tiêu của Microsoft và Google, chưa kể hàng chục công ty khởi nghiệp, là tạo các công cụ AI hỗ trợ người dùng tạo email, tài liệu, bài thuyết trình, bảng tính và hàng loạt tác vụ văn phòng khác. Mô hình mới nhất của công ty, PaLM 2, sẽ được tích hợp vào 25 sản phẩm hiện có, theo thông báo gần đây của Google.

Các tính năng AI mới tích hợp trong Gmail đã được Google giới thiệu, nhưng công nghệ này vẫn còn một số lỗ hổng và tác động đến người dùng vẫn chưa được hiểu rõ. Ảnh: CNET.

Trong nghiên cứu của nhóm Naaman, chủ đề được đặt ra là liệu mạng xã hội có tốt cho xã hội hay không. Chuyên gia cho biết đã chọn chủ đề này vì nó không phải là vấn đề mà nhiều người có quan điểm sâu sắc, cố hữu và khó thay đổi. Nếu người dùng được hỗ trợ bởi AI có xu hướng ủng hộ mạng xã hội trong quá trình viết bài luận, họ cũng sẽ có xu hướng tương tự và ngược lại.

Nhóm nghiên cứu lo ngại rằng các công cụ AI hỗ trợ có thể bị thao túng để thúc đẩy người dùng giao tiếp hoặc suy nghĩ theo một hướng cụ thể. Ngay cả khi kịch bản này không xảy ra, những người sử dụng công cụ AI có thể vô tình áp dụng một số quan điểm nhất định khi sử dụng AI trong học tập và công việc.

Người dùng cần biết “ý kiến” của AI đến từ đâu

Theo nhà khoa học máy tính tại Đại học Stanford Tatsunori Hashimoto, các AI như ChatGPT không có "niềm tin" mà chỉ phản ánh những ý kiến thu được từ quá trình đào tạo.

Hashimoto và các đồng nghiệp của ông đã xem xét kết quả khảo sát của Mỹ trong nhiều năm bằng cách sử dụng phản hồi từ nhiều mô hình ngôn ngữ lớn khác nhau để xem liệu các mô hình này có phản ánh quan điểm của người Mỹ hay không. Họ so sánh tần suất các AI đưa ra câu trả lời cụ thể với tần suất một người Mỹ đưa ra câu trả lời tương tự với mỗi câu hỏi.

Kết quả là phản hồi của các mô hình ngôn ngữ lớn từ các công ty như OpenAI không phù hợp với quan điểm của người Mỹ nói chung; thay vào đó, nó chỉ phù hợp với một nhóm nhỏ hơn, những người có trình độ đại học hơn. Đây cũng là nhóm chiếm đa số trong những người được giao nhiệm vụ hiệu chỉnh AI.

Thiên kiến từ các bộ dữ liệu đào tạo, chẳng hạn như ảnh phụ nữ trên Internet, kiểm soát nội dung do AI tạo ra. Ảnh: MIT Technology Review.

Các mô hình này được đào tạo dựa trên dữ liệu từ mọi nơi, cho dù chúng không đáng tin cậy như các thông điệp trên các diễn đàn trực tuyến hoặc nội dung Wikipedia và chúng tiềm ẩn các thành kiến được tìm thấy trong dữ liệu đào tạo, theo Hashimoto. Những quan điểm này tiếp tục bị định hình trong quá trình hiệu chỉnh, cả vô tình và cố tình, để mô hình không đưa ra các phản hồi cực đoan, chẳng hạn như bạo lực hoặc có hại.

Có nghĩa là các AI đang được sử dụng phổ biến ngày nay không chỉ bị quy định bởi một nhóm cụ thể, chẳng hạn như một nhóm người trẻ có trình độ đại học, những người có nhiệm vụ phát triển và hiệu chỉnh mô hình. Ví dụ, trong nghiên cứu của nhóm Hashimoto, mặc dù những mô hình này thường đưa ra những phản hồi cánh tả về kiểm soát súng, nhưng chúng lại đưa ra những quan điểm cánh hữu về các vấn đề như tôn giáo.

Theo Lydia Chilton, nhà khoa học máy tính tại Đại học Columbia, khi mọi người biết rằng AI mà họ đang sử dụng có những thành kiến nhất định, họ có thể quyết định có sử dụng thông tin mà AI cung cấp hay không và sử dụng trong bối cảnh nào. Người dùng có thể chủ động sử dụng AI để trải nghiệm các quan điểm và cách giao tiếp khác nhau và đây cũng là cách để tránh bị các AI "thuyết phục ngầm".

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống