Nghị viện châu Âu đề xuất cấm sử dụng AI tạo hình ảnh nhạy cảm trái phép

Theo phóng viên TTXVN tại Brussels, trong phiên bỏ phiếu ngày 26/3, các nghị sĩ của EP đã nhất trí thông qua định hướng đơn giản hóa một số quy định trong Đạo luật Trí tuệ nhân tạo của Liên minh châu Âu (AI Act), đồng thời bổ sung đề xuất cấm các hệ thống AI có khả năng “lột đồ”, tức là tạo ra hình ảnh khỏa thân giả từ người thật mà không được phép.

Động thái này diễn ra trong khuôn khổ sáng kiến “số hóa toàn diện” do Ủy ban châu Âu (EC) đề xuất từ cuối năm ngoái, nhằm điều chỉnh lộ trình áp dụng các quy định đối với những hệ thống AI có mức độ rủi ro cao. Trên cơ sở đó, EP đã xây dựng kế hoạch triển khai cụ thể trong 2 năm tới, đồng thời đưa ra các biện pháp hỗ trợ nhằm giảm gánh nặng thủ tục cho doanh nghiệp, đặc biệt là các doanh nghiệp vừa và nhỏ.

Điểm đáng chú ý là việc bổ sung lệnh cấm đối với các công cụ được gọi là “AI nuder”. Đây là những phần mềm có thể sử dụng thuật toán để biến đổi hình ảnh người thật thành các phiên bản khỏa thân hoặc mang tính riêng tư, dù những người có trong hình ảnh trên không hề cho phép. Theo các nghị sĩ của EP, công nghệ này tiềm ẩn nguy cơ xâm phạm nghiêm trọng quyền cá nhân, đặc biệt khi bị lạm dụng trên mạng xã hội.

Tuy nhiên, lệnh cấm nói trên sẽ không được áp dụng đối với các hệ thống đã tích hợp cơ chế bảo vệ hiệu quả nhằm ngăn chặn việc tạo ra nội dung vi phạm. Điều này nhằm tạo sự cân bằng giữa bảo vệ người dùng và không kìm hãm việc đổi mới công nghệ.

Trước đó, dư luận châu Âu đã đặc biệt chú ý tới vụ việc liên quan đến Grok - trợ lý AI trên nền tảng X. Theo phản ánh, công cụ này có thể tạo ra hàng loạt hình ảnh khỏa thân của người thật theo yêu cầu người dùng, trong đó có cả trường hợp liên quan đến người chưa thành niên, làm dấy lên lo ngại về kiểm soát nội dung và trách nhiệm của các nhà phát triển AI.

Ngoài việc đề xuất cấm sử dụng AI tạo hình ảnh nhạy cảm trái phép, EP cũng xem xét nới lỏng một số nghĩa vụ đối với các sản phẩm vốn đã chịu sự điều chỉnh của các quy định chuyên ngành như thiết bị y tế hay đồ chơi trẻ em, nhằm tránh chồng chéo pháp lý, tuy nhiên đề xuất này vẫn gây ra những ý kiến trái chiều trong nội bộ EP. Một số nghị sĩ cho rằng việc sửa đổi theo hướng hiện nay có thể khiến hệ thống quy định trở nên phức tạp hơn, thậm chí làm suy yếu hiệu quả ban đầu của Đạo luật AI.

Trong thời gian tới, EP và Hội đồng châu Âu sẽ bước vào các vòng đàm phán để thống nhất văn bản cuối cùng. Kết quả của quá trình này được kỳ vọng sẽ định hình khung pháp lý quan trọng cho việc quản lý AI tại châu Âu trong những năm tới.