Trước lo ngại về các vụ nổ súng tại trường học và áp lực từ cộng đồng thì nhiều trường học tại Mỹ đã ứng dụng công nghệ AI để phát hiện vũ khí qua camera giám sát. Thế nhưng, sai sót vẫn có thể xảy ra như trường hợp "hú hồn" của cậu bé 16 tuổi Taki Allen khi tự dưng bị cảnh sát bắt chỉ vì một gói Doritos.
Chuyện là trường phổ thông Kenwood tại Baltimore, bang Maryland đang sử dụng hệ thống phát hiện súng bằng AI của Omnilert. Hệ thống này đã nhận diện nhầm gói Doritos mà Allen mang theo là một khẩu súng và lập tức cảnh báo. Trong phút chốc, Allen đã bị bao vây bởi các sĩ quan cảnh sát có vũ khí, bị buộc phải nằm xuống đất và còng tay.
Kể lại sự việc với truyền thông địa phương, Allen nói: "Có khoảng 8 chiếc xe cảnh sát áp sát chúng tôi. Họ cầm súng hướng về phía chúng tôi và hét 'Get on the ground' còn tôi thì kiểu 'What?". Allen nói lúc đó rất sợ hãi: "Lúc đó tôi chỉ nghĩ tôi sẽ chết sao? Họ có giết tôi không?"
Điều đáng nói là sau sự việc, phía nhà trường vẫn chưa đưa ra lời xin lỗi hay hỏi thăm Allen, chỉ nói sự việc xảy ra với cậu là "quy trình". Phía Omnilert cũng xác nhận đây là một sự cố nhận diện nhầm nhưng khẳng định hệ thống đã hoạt động theo thiết kế. Đối với Allen, cậu bé nói không còn cảm thấy an toàn khi ở trong khuôn viên trường nữa: "Tôi cảm giác nếu ăn một bịch snack hay uống thứ gì đó thì họ (cảnh sát) sẽ đến lần nữa."
Chuyện là trường phổ thông Kenwood tại Baltimore, bang Maryland đang sử dụng hệ thống phát hiện súng bằng AI của Omnilert. Hệ thống này đã nhận diện nhầm gói Doritos mà Allen mang theo là một khẩu súng và lập tức cảnh báo. Trong phút chốc, Allen đã bị bao vây bởi các sĩ quan cảnh sát có vũ khí, bị buộc phải nằm xuống đất và còng tay.
Kể lại sự việc với truyền thông địa phương, Allen nói: "Có khoảng 8 chiếc xe cảnh sát áp sát chúng tôi. Họ cầm súng hướng về phía chúng tôi và hét 'Get on the ground' còn tôi thì kiểu 'What?". Allen nói lúc đó rất sợ hãi: "Lúc đó tôi chỉ nghĩ tôi sẽ chết sao? Họ có giết tôi không?"
Điều đáng nói là sau sự việc, phía nhà trường vẫn chưa đưa ra lời xin lỗi hay hỏi thăm Allen, chỉ nói sự việc xảy ra với cậu là "quy trình". Phía Omnilert cũng xác nhận đây là một sự cố nhận diện nhầm nhưng khẳng định hệ thống đã hoạt động theo thiết kế. Đối với Allen, cậu bé nói không còn cảm thấy an toàn khi ở trong khuôn viên trường nữa: "Tôi cảm giác nếu ăn một bịch snack hay uống thứ gì đó thì họ (cảnh sát) sẽ đến lần nữa."
Video giới thiệu về khả năng nhận dạng vũ khí của Omnilert.
Tuy nhiên tình huống mà Allen đối mặt không phải là một vụ việc riêng lẻ mà trên toàn nước Mỹ, các hệ thống giám sát bằng AI trong trường học đang đối mặt với nhiều chỉ trích về cả độ tin cậy lẫn hệ quả con người khi cảnh báo sai. Các nghiên cứu chỉ ra rằng việc cảnh sát có vũ trang bắt giữ trẻ vị thành niên, với cường độ thường xuyên và đặc biệt là có rút vũ khí trấn áp, sẽ có thể gây ra hậu quả tâm lý lâu dài. Trong một cuộc khảo sát với đối tượng là nam giới trẻ tuổi tại New York, những người từng bị cảnh sát "hỏi thăm" thì hầu hết đều cho biết họ cảm thấy lo lắng và tổn thương tinh thần với những triệu chứng nghiêm trọng nhất liên quan đến việc bị dừng xe bằng vũ lực hoặc đối xử không công bằng.
Đối với học sinh, hậu quả có thể nặng nề hơn. Nghiên cứu cho rằng việc bị cảnh sát tiếp cận hung hăn và bạo lực tạo ra những trải nghiệm tiêu cực thời thơ ấu, từ đó làm tăng nguy cơ hậu chấn tâm lý, trầm cảm và hành vi né tránh. Các triệu chứng có thể kéo dài và ảnh hưởng đến khả năng can thiệp của nhà trường và niềm tin vào xã hội đối với trẻ.
Các chuyên gia đạo đức về AI cho biết dữ liệu đào tạo không hoàn hảo hoặc thiên vị sẽ dẫn đến sự bất bình đẳng và nhận dạng sai lệch của hệ thống. Một nhà nghiên cứu nói: "Nếu dữ liệu đào tạo phản ánh những thành kiến hoặc bất công trong lịch sử thì các hệ thống AI được đào tạo dựa trên dữ liệu này cũng có hành vi tương tự." Trong môi trường giáo dục, rủi ro đến từ sai sót của AI rất cao bởi một phát hiện sai lệch không chỉ gây lỗi kỹ thuật mà còn đưa những nhân viên hành pháp có vũ trang vào không gian nuôi dưỡng và bảo vệ trẻ em.
Ở chiều ngược lại, những người ủng hộ việc sử dụng công nghệ nhận dạng vũ khí bằng AI cho rằng cần phải có các biện pháp bảo vệ trước khi công nghệ này được triển khai trong trường học. Các khuyến nghị được những người ủng hộ đưa ra bao gồm tính minh bạch, phụ huynh và học sinh cần được biết về sự có mặt của hệ thống nhận diện vũ khí bằng AI; tiếp đó là phải có ban kiểm tra về độ chính xác và các quy trình rõ ràng để hạn chế leo thang cho đến khi mối đe dọa được xác minh bởi nhân viên được đào tạo. Phía các chuyên gia về sức khỏe thì nhấn mạnh rằng nhà trường phải theo dõi sức khỏe tinh thần của học sinh nếu xảy ra sự việc tương tự như Allen, bao gồm cả tư vấn tâm lý và trấn an từ cộng đồng. Sự việc với Allen cũng là lời cảnh tỉnh rằng việc sử dụng AI cần phải được cân nhắc kỹ lưỡng, nếu không có sự giám sát cẩn thận thì các công cụ này có nguy cơ biến cuộc sống học đường thành trạng thái giám sát liên tục, nơi ngay cả một gói đồ ăn vặt cũng bị nhầm là mối đe dọa, dẫn đến những tổn thương tâm lý kéo dài đối với học sinh.
MSN
Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI 
==***==
Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp
==***==
Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
---
Khóa học Hacker và Marketing từ A-Z trên ZALO!
Khóa học Hacker và Marketing từ A-Z trên Facebook!
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP 
Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán 
Khóa học hướng dẫn về Moodle chuyên nghiệp và hay Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay. 
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp 
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu 
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ 
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi 
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel 
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao 
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình kiếm tiền Youtube bằng phần mềm Camtasia Studio 
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP 
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍 
GOOGLE SPREADSHEETS phê không tưởng 
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử 
Để thành thạo Wordpress bạn hãy tham gia khóa học 
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công 
==***== Bảo hiểm nhân thọ - Bảo vệ người trụ cột 
Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
kiếm tiền Youtube bằng phần mềm Camtasia Studio
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA
Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍
GOOGLE SPREADSHEETS phê không tưởng
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử
Để thành thạo Wordpress bạn hãy tham gia khóa học
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công
==***==
Bảo hiểm nhân thọ - Bảo vệ người trụ cột
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Nguồn: Tinh Tế
Topics:
