Dùng deepfake tạo file ghi âm vu khống, một người Mỹ bị bắt giữ

Dazhon Darien, giám đốc thể thao trường trung học Pikesville ở thành phố Baltimore, bang Maryland vừa bị cảnh sát bắt giữ vì cáo buộc sử dụng công cụ deepfake tạo file ghi âm giả giọng hiệu trưởng trường này đang có những phát biểu với nội dung phân biệt chủng tộc và kỳ thị người Do thái.

Đoạn ghi âm giả mạo bằng công cụ AI này được đăng tải trên Instagram hồi giữa tháng 1, rồi nhanh chóng trở nên viral, gây ra những tranh cãi trong cả cộng đồng lẫn nội bộ khu vực trường công lập hạt Baltimore. Khi ban điều hành giáo dục tiến hành điều tra, hiệu trưởng trường Pikesville, Eric Eiswart từ chối bình luận, nhưng phải chịu những lời đe dọa tới cả bản thân lẫn gia đình. Ở thời điểm ấy, ông Eiswart cũng bị buộc phải nghỉ việc tạm thời.

Giờ thì Darien phải đối mặt với cáo buộc phá hoại quá trình hoạt động của trường học, và theo dõi trái phép hiệu trưởng.

Theo cơ quan cảnh sát Baltimore, động cơ khiến Darien dùng deepfake vu khống hiệu trưởng trường trung học là vì tư thù cá nhân, sau khi hiệu trưởng Eiswart bắt đầu điều tra anh này từ tháng 12/2023 vì cáo buộc biển thủ công quỹ, trả gần 2000 USD cho bạn cùng phòng để người này giả vờ làm trợ lý huấn luyện viên cho đội bóng đá nữ trường Pikesville.

Cảnh sát dựa vào bằng chứng để phát hiện ra rằng, Darien sử dụng máy tính và đường truyền internet ở trường để tìm những công cụ AI thông qua ChatGPT và Bing Chat. Đến giữa tháng 1, Darien tự gửi một đoạn thu âm giả mạo giọng nói của hiệu trưởng vào chính tài khoản email cá nhân và hai nhân viên khác ở trường. Tài khoản thư điện tử bí ẩn có liên quan tới số điện thoại di động của Darien, nên khả năng cao chính anh này đã tự tạo đoạn thu âm deepfake và lan truyền nó.

Một trong những nhân viên của trường sau đó đã gửi đoạn thu âm này cho các kênh tin tức và liên đoàn vì sự tiến bộ của người da màu ở Mỹ. Người này cũng gửi đoạn thu âm cho một học sinh, tin rằng học sinh này có thể tạo ra những nội dung viral trên mạng xã hội và cả ở trường. Sau đó một tài khoản Instagram theo dõi tình hình tội phạm ở hạt Baltimore đã đăng đoạn ghi âm này mà không kiểm chứng, dẫn tới việc ông hiệu trưởng bị yêu cầu từ chức.

Cảnh sát cho biết, đoạn thu âm deepfake với nội dung kỳ thị chủng tộc này đã tạo ra những hậu quả nghiêm trọng, gây mất lòng tin giữa nhà trường với gia đình, giữa các giáo viên và ban giám hiệu ở trung học Pikesville. Cha mẹ học sinh gọi điện tới trường một cách giận dữ để yêu cầu ông Eiswart từ chức. Bản thân ông hiệu trưởng và gia đình cũng phải nhận những lời đe dọa.

Cuộc điều tra của trường học nhanh chóng liên hệ cảnh sát, và chuyên gia của cảnh sát hạt Baltimore phát hiện ra đoạn ghi âm có dấu hiệu bị điều chỉnh, có bằng chứng cho thấy nó được tạo ra nhờ công cụ AI. Darien sau đó bị bắt giữ.

Sự cố này là một trong những vấn nạn mà nước Mỹ, cả ngành giáo dục lẫn hành pháp đều phải đối phó trước sự phát triển của AI, đi kèm là những hệ lụy tiêu cực, đặc biệt là ở những trường học, nơi các nhà quản lý phải cố gắng hết sức để bảo vệ quyền trẻ em và người vị thành niên.

Kể từ nửa cuối năm 2023, những trường học ở Mỹ đã phải đau đầu tìm cách đối phó với những công cụ và những sự cố liên quan tới công nghệ deepfake. Những nam sinh vì nghịch ngợm hoặc vì ý đồ xấu, đã sử dụng những ứng dụng AI chụp hình rồi dùng thuật toán để "cởi quần áo" của chủ thể trong hình, tạo ra những hình ảnh giả mạo bằng AI, trong đó là hình ảnh những bạn học nữ không mặc đồ. Có trường hợp mới 12 tuổi đã sử dụng ứng dụng này để trêu chọc bạn học. Sự cố ở Baltimore là một trong những lần hiếm hoi AI bị sử dụng vào mục đích xấu, nhắm tới chính các nhà giáo dục và quản lý giáo dục.

Theo The New York Times

Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI

Nhấn vào đây để bắt đầu khóa học

==***==

Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp

Nhấn vào đây để bắt đầu khóa học

==***==

Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo

Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com

Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

--- 

Khóa học Hacker và Marketing từ A-Z trên ZALO!

Nhấn vào đây để bắt đầu khóa học

Khóa học Hacker và Marketing từ A-Z trên Facebook!

Nhấn vào đây để bắt đầu khóa học

Khóa đào tạo Power BI phân tích báo cáo để bán hàng thành công

Nhấn vào đây để bắt đầu khóa học

Bảo mật và tấn công Website - Hacker mũ trắng

Nhấn vào đây để bắt đầu khóa học ​

KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn về Moodle chuyên nghiệp và hay

Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay.

Nhấn vào đây để bắt đầu khóa học

KHÓA EXCEL CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp

Nhấn vào đây để bắt đầu khóa học

Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ

Nhấn vào đây để bắt đầu khóa học

Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi

Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng TableAU - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình 

kiếm tiền Youtube bằng phần mềm Camtasia Studio

Nhấn vào đây để bắt đầu khóa học

Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP

​​​​​

HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA

Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍

 KHÓA HỌC VIDEO- XÂY DỰNG PHẦN MỀM QUẢN LÝ BẰNG MICROSOFT ACCESS

GOOGLE SPREADSHEETS phê không tưởng

Khóa hoc lập trình bằng Python tại đây

Hãy tham gia khóa học để biết mọi thứ

Để tham gia tất cả các bài học, Bạn nhấn vào đây 

Khóa học lập trình cho bé MSWLogo

Nhấn vào đây để bắt đầu học

Khóa học Ba, Mẹ và Bé - Cùng bé lập trình  TUYỆT VỜI

Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử

Khóa học vẽ tạo giao diện demo cho website

Để thành thạo Wordpress bạn hãy tham gia khóa học 

Tham gia khóa học tại đây

Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công

Nhấn vào đây để bắt đầu khóa học

==***==

Bảo hiểm nhân thọ - Bảo vệ người trụ cột

Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

Nguồn: Tinh Tế

Share !