Cảnh sát Detroit bắt nhầm người vì phần mềm nhận diện khuôn mặt bị lỗi

Học viện đào tạo trực tuyến Thứ Ba, 14 tháng 7, 2020 0 No comments

Cảnh sát thành phố Detroit, bang Michigan, Mỹ vừa bắt một người tình nghi phá hoại tài sản, khi hình ảnh từ camera ghi hình nghi phạm giật điện thoại của một người ngồi trong ô tô, ném và làm hỏng chiếc điện thoại đó. Phần mềm nhận diện gương mặt đưa ra một cái tên, Michael Oliver. Cảnh sát đưa anh này về đồn và nhân chứng xác nhận đó chính là kẻ thủ ác đã thực hiện hành vi phá hoại tài sản vào tháng 5/2019. Sau đó Oliver bị kết án, dù đã có bằng chứng ngoại phạm và liên tục khẳng định mình không gây ra tội.

Vấn đề nằm ở chỗ, phần mềm nhận diện gương mặt của cảnh sát Detroit lấy hình ảnh từ đoạn clip quay từ smartphone, đưa ra phân tích và kết luận đó là Michael Oliver. Oliver có hình xăm trên tay, còn nghi phạm bị ghi hình lại không có. Sau đó luật sư của Oliver khiếu nại, đưa hình của anh này cho nạn nhân cũng như trợ lý công tố viên, và cả hai người này đều kết luận Oliver vô tội. Thẩm phán sau đó bác bỏ vụ án và tuyên bố Oliver vô tội.

Thực tế thì câu chuyện của Michael Oliver không phải vụ lùm xùm đầu tiên liên quan đến phần mềm nhận diện khuôn mặt của cảnh sát hoạt động không theo ý muốn. Vào đầu năm nay, cũng là cảnh sát Detroit đã bắt giữ Robert Williams và giữ anh này trong 30 tiếng đồng hồ vì một tội danh mà anh không hề thực hiện.

Cuối tháng trước, cảnh sát trưởng Detroit, James Craig đã chỉ ra rằng có thể công nghệ nhận diện khuôn mặt mà cảnh sát thành phố này đang sử dụng, được DataWorks Plus phát triển, có thể không đáng tin cậy. Trong một cuộc họp mặt, ông này cho rằng "nếu chúng tôi cứ tin tưởng công nghệ này hoạt động để nhận diện một ai đó, thì tôi nghĩ là 96% thời gian phần mềm sẽ cho kết quả sai, dẫn đến bắt nhầm người." Từ đầu năm nay đến ngày 22/6, cảnh sát Detroit đã sử dụng công nghệ này 70 lần, nhưng chỉ có hai lần để xác định nghi phạm là người da màu, dẫn đến việc chính Oliver và Williams, hai người Mỹ da màu, bị bắt giữ nhầm.

Đã có rất nhiều nghiên cứu cho thấy công nghệ nhận diện gương mặt, dù là thuật toán, nhưng vẫn có thể tạo ra thiên kiến sai lệch về người da màu. Nhiều người cũng lên tiếng cho rằng các cơ quan hành pháp nên ngừng sử dụng công nghệ nhận diện khuôn mặt khi chúng chưa thực sự hoàn thiện, vừa dẫn đến bắt giữ nhầm người, vừa khiến quyền riêng tư của người dân bị ảnh hưởng.

Theo Engadget