Sử dụng trí tuệ nhân tạo để lọc nội dung độc hại với trẻ em trên Internet

Công cụ hỗ trợ nhận diện, ngăn chặn 15 loại nội dung độc hại với trẻ em

Giải pháp miễn phí CyberPurify Kids giúp phụ huynh trên toàn cầu thiết lập một môi trường an toàn cho con cái chỉ sau vài cú click chuột. Một startup có tên là CyberPurify sử dụng machine learning (học máy) để nhận dạng nội dung độc hại vừa chính thức ra mắt giải pháp.

Theo BBFC - Cơ quan quản lý nội dung truyền thông độc lập và phi lợi nhuận về hệ thống phân loại nội dung, phim và trò chơi đáng tin cậy ở Vương quốc Anh, giai đoạn dưới 10 tuổi là giai đoạn trẻ tiếp xúc và khám phá với thế giới bên ngoài, do đó trẻ rất dễ bắt chước và bị tác động bởi các tác nhân tiêu cực.

Các nội dung không phù hợp, chẳng hạn như hình ảnh tai nạn, máu me, ngược đãi động vật hoặc bạo lực, có thể khiến trẻ bị ám ảnh về sau. Sản phẩm sử dụng một mô hình deep learning (học sâu - PV) trên trình duyệt để nhận dạng và ngăn chặn hiển thị 15 loại nội dung độc hại với trẻ em, bao gồm cả nội dung bạo lực đẫm máu. Sản phẩm được cung cấp dưới dạng tiện ích mở rộng trên các trình duyệt phổ biến như Google Chrome, Microsoft Edge, Firefox và Safari.

Tuy nhiên, ông Nguyễn Hữu Bình, người đồng sáng lập và CEO CyberPurify, khẳng định rằng việc xâm phạm quyền riêng tư của trẻ em bằng cách theo dõi trẻ làm gì, xem gì cũng sẽ gián tiếp ảnh hưởng đến tính cách, tinh thần và khả năng phát triển của chúng.

Trước đây, phụ huynh đã phải đối mặt với việc để bọn trẻ sử dụng máy tính bất chấp sự nguy hiểm đến từ không gian mạng hoặc xâm phạm nghiêm trọng không gian cá nhân riêng tư của trẻ khi sử dụng các phần mềm bảo mẫu truyền thống.

Do đó, CyberPurify tập trung vào việc phát triển mô hình ứng dụng công nghệ AI cho phép nhận dạng và phân loại nội dung độc hại; định nghĩa lại khái niệm về sự an toàn cho trẻ em bằng cách thay thế sự theo dõi kiểm soát bằng sự bảo vệ chủ động của AI trong việc nhận dạng theo thời gian thực ngay khi nội dung chưa hiển thị.

"Tương tự như bạn đã trao cho mỗi đứa trẻ một người bảo vệ tận tâm tận tụy, không phán xét hay soi mói đời tư, nó sẽ là một người bạn đồng hành thực sự với mỗi đứa trẻ trong hành trình khám phá tri thức trên Internet., ông Nguyễn Hữu Bình chia sẻ.

Để thông minh hơn và hơn, CyberPurify Kids liên tục "tự học"

Theo nhóm phát triển, việc sử dụng CyberPurify Kids khá đơn giản; chỉ cần nhấn nút cài đặt CyberPurify Kids trong kho tiện ích mở rộng của trình duyệt.

Mỗi khi đứa trẻ truy cập Internet trên trình duyệt, CyberPurify sẽ tự động phân tích các nội dung đang hiển thị, che mờ nếu phát hiện chúng độc hại hoặc gửi báo cáo đến phụ huynh khi phát hiện trẻ tìm hiểu về ma túy hoặc dược phẩm. Phụ huynh cũng nhận được thông báo khi đứa trẻ tìm cách gỡ bỏ bộ lọc này.

Theo ông Nguyễn Hữu Bình, vấn đề lớn nhất vẫn là thu thập và phân loại dữ liệu cho AI, bên cạnh các vấn đề kỹ thuật như phải sử dụng thiết bị đặc biệt để huấn luyện mô hình AI với hàng chục triệu dữ liệu đầu vào.

Mặc dù chỉ có 10 nhân sự, CyberPurify đã thu thập được dữ liệu về các hình ảnh kinh dị và bạo lực với số lượng lên tới khoảng 1 triệu bản ghi.

"Hàng ngày, chúng tôi phải thu thập hàng chục nghìn hình ảnh độc hại, chẳng hạn như cảnh máu me, tai nạn, kinh dị và xác chết,... Việc nhìn những hình ảnh này có thể ảnh hưởng tiêu cực đến sức tinh thần của người tham gia thu thập dữ liệu. Do đó, CyberPurify không thuê ngoài mà phải tự làm việc này liên tục trong nhiều tháng., ông Nguyễn Hữu Bình bộc bạch.

Ngoài ra, trước đây CyberPurify cung cấp dịch vụ B2B dưới dạng phần cứng và phần mềm chuyên dụng với khách hàng là doanh nghiệp cung cấp nội dung số hoặc platform sử dụng như một công cụ thay thế con người để kiểm duyệt tự động nội dung do người dùng tạo ra; hiện xử lý trên 10 triệu nội dung hình ảnh và video mỗi ngày, tương đương với 20.000 người lao động.

Thế giới hiện có 4,66 tỷ người dùng Internet, trung bình mỗi người tạo ra tới 1,7 GB dữ liệu mỗi ngày, tương đương 2.000 bức ảnh hoặc 150 video. Điều này cùng với việc phát triển của 5G, smartphone và các mạng xã hội, dẫn đến lượng nội dung cần được kiểm duyệt trước khi tiếp cận trẻ em ngày càng tăng.

"Đây là cơ hội để CyberPurify mở rộng phạm vi cung cấp sản phẩm đến người dùng cuối, bắt đầu với phiên bản dành cho trẻ em trên trình duyệt. Bản thân nó cũng như một đứa trẻ, liên tục tự học những nội dung độc hại được phát hiện mỗi ngày để trở nên tốt hơn, là đặc điểm độc đáo của CyberPurify Kids.n thông minh hơn, ngăn chặn triệt để hơn về sau, ông Nguyễn Hữu Bình nhấn mạnh.

Theo Tạp chí Điện tử

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống