Lộ ảnh nhạy cảm do sử dụng robot hút bụi thông minh

Theo Technology ReviewKhi mẫu robot Roomba J7 của hãng này chụp những bức ảnh riêng tư về cuộc sống hàng ngày của một gia đình, iRobot - nhà sản xuất robot hút bụi thông minh của Mỹ cuối năm ngoái đã vướng vào bê bối nghiêm trọng.

Trong đó, đáng chú ý là ảnh một người phụ nữ đang đi vệ sinh và ảnh một đứa trẻ đang chơi trong nhà. Đây chỉ là hai trong số rất nhiều bức ảnh được tải lên mạng xã hội.

Bị quay lén bởi robot hút bụi

Trên thực tế, một bên thứ ba đã rò rỉ những bức ảnh trên mà Roomba J7 không thể tự tải tải lên. Máy chủ của Scale AI, một công ty công nghệ tập trung vào trí tuệ nhân tạo.

Dữ liệu từ những con robot như Roomba J7 được gửi đến Scale AI, bao gồm các tệp âm thanh, ảnh và video được tạo ra trong quá trình nó hoạt động. Sau đó, chúng sẽ được sử dụng như một nguồn tư liệu để các AI tự học. Điều này dẫn đến những con robot hút bụi thông minh có thể tránh né mọi đồ vật.

Về cơ bản, Scale AI thuê lao động tự do trên toàn thế giới để "dán nhãn" dữ liệu hình ảnh và video như tivi, cây cối, đèn trần, sofa, bàn ghế... Dữ liệu này sẽ được sử dụng để đào tạo trí tuệ nhân tạo.

Máy hút bụi như Roomba J7 đôi khi vẫn có những lỗ hỏng, nhưng hầu hết các doanh nghiệp đều có rào cản kỹ thuật để kiểm soát quyền truy cập và lưu trữ trên. Technology Review nhận định.

Điều đáng nói là hầu hết người dùng đều không hề hay biết rằng máy hút bụi có thể chụp ảnh của họ mà không hề hay biết.

iRobot, nhà cung cấp robot hút bụi lớn nhất thế giới mới đang được Amazon tìm cách mua lại với giá 1,7 tỷ USD, đã xác nhận rằng những hình ảnh này được chụp bởi robot Roomba của họ vào năm 2020.

"Tất cả ảnh đều đến từ các robot phiên bản phát triển, với các sửa đổi phần cứng và phần mềm chưa bao giờ được thực hiện trên các sản phẩm thương mại. Trong một tuyên bố, công ty cho biết.

Những người sử dụng robot này đã ký thuận bằng văn bản chấp nhận gửi các luồng dữ liệu, bao gồm cả video, về công ty cho mục đích đào tạo robot, theo iRobot.

Theo iRobot, các thiết bị được dán nhãn dán màu xanh lá cây sáng có nội dung "đang quay video" và những người sử dụng thiết bị có quyền "xóa bất kỳ thứ gì họ cho là nhạy cảm khỏi robot."

Nói cách khác, bất kỳ ai có ảnh hoặc video bị lộ đều đã đồng ý để Roombas ghi hình họ. iRobot từ chối công khai các thuận chấp nhận cung cấp dữ liệu giữa họ và những người dùng robot hút bụi này.

Người tiêu dùng các thiết bị điện tử đồng ý cho các công ty thu thập và nghi xử lý dữ liệu ở nhiều cấp độ khác nhau, từ iPhone cho đến máy giặt. Tất cả những điều này đều được bao gồm trong các điều khoản và chính sách quyền riêng tư khi bạn bắt đầu sử dụng thiết bị.

Đó là một thực tế phổ biến trong mười năm trở lại gần đây khi trí tuệ nhân tạo Các ngành dịch vụ hoàn toàn mới và sản phẩm ngày càng được tích hợp. Máy học, một kỹ thuật sử dụng kho dữ liệu khổng lồ bao gồm giọng nói, khuôn mặt, nhà cửa của chúng ta và thông tin cá nhân khác để đào tạo các mẫu, là nền tảng của phần lớn công nghệ này.

Lộ dữ liệu nhạy cảm

Theo Dennis Giese, nhà nghiên cứu các lỗ hổng bảo mật của thiết bị thông minh tại Đại học Northeastern, robot hút bụi đặc biệt nhạy cảm trong việc thu thập dữ liệu vì chúng có hệ thống phần cứng và cảm biến mạnh và thường xuyên di chuyển quanh nhà.

Để thu thập dữ liệu phục vụ cho học máy, camera cần độ nét cao và nhiều doanh nghiệp đã tích hợp camera trước vào robot hút bụi của họ để điều hướng vận hành và nhận dạng vật thể cũng như giám sát người dùng.

iRobot, chiếm 30% trong số đó, là một trong ba nhà sản xuất robot hút bụi hàng đầu theo thị phần. thị trường Kể từ năm 2002, Ecovacs và Roborock đã bán được hơn 40 triệu thiết bị, tương ứng với khoảng 15% và 15%. Strategy Analytics. Các nhà sản xuất thiết bị gia dụng nổi tiếng như Samsung, LG và Dyson, tất cả đều phát triển thiết bị của họ theo hướng tương tự.

Dữ liệu thu thập từ người dùng sẽ hỗ trợ sản xuất robot thông minh hơn nữa. Tuy nhiên, để các bộ dữ liệu này có thể được sử dụng làm "thức ăn" cho các thuật toán máy học, chúng phải được phân loại, đánh dấu và chú thích ngữ cảnh. "Đánh dấu" dữ liệu là thuật ngữ được sử dụng để mô tả quá trình này nói chung.

"Có hàng loạt lao động tự do chỉ ngồi thực hiện một loạt thao tác trỏ và nhấp để xác định xem vật thể trong ảnh hoặc video là gì.", Matt Beane, nhà nghiên cứu về lực lượng lao động công nghệ tại Đại học California, cho biết. Thao tác này gần giống như các mã captcha hoặc trắc nghiệm chọn hình ảnh mà đôi khi Google hoặc các trang web yêu cầu người dùng thực hiện.

"Người dùng thường không tin rằng hình ảnh của họ sẽ bị xem và dán nhãn bởi những người khác khi đồng ý với thuận chia sẻ dữ liệu., Justin Brookman, chuyên gia chính sách công nghệ tại Consumer Reports và cựu giám đốc chính sách của Văn phòng Nghiên cứu và Điều tra Công nghệ của Ủy ban Thương mại Liên bang Mỹ, lưu ý.

Mặc dù người dùng có thể biết họ đang bị theo dõi bởi robot hút bụi, nhưng nhiều người khác cũng đang theo dõi họ.

Những hình ảnh được tiết lộ từ những người làm công việc dán nhãn dữ liệu cho Scale AI chỉ là một phần nhỏ của hệ sinh thái dữ liệu rộng lớn khai thác được từ người dùng các thiết bị thông minh. Chỉ riêng iRobot đã chia sẻ hơn 2 triệu hình ảnh môi trường thực với Scale AI và một số lượng chưa xác định được thêm với các nền tảng dán nhãn dữ liệu khác, chưa tính đến các nhà sản xuất thiết bị thông minh khác.

Cập nhật tin tức công nghệ mới nhất tại fanpage Công nghệ & Cuộc sống