Một trong những xu hướng ứng dụng AI xấu nhất đang bị truy quét, đó là những trang web cho phép đăng hình người thật để mô hình AI deepfake tạo ra những tấm ảnh khiêu dâm. Văn phòng công tố thành phố San Francisco vừa đệ đơn kiện 16 trang web được coi là có lượng truy cập nhiều nhất, với mục tiêu đóng cửa những trang web này.
Ý tưởng vụ kiện là của bà Yvonne Meré, phó chánh án thành phố San Francisco, sau khi bà đọc được về thực trạng những cậu học sinh trung học sử dụng hình ảnh những bạn học cùng lớp, đưa lên những trang web tạo deepfake để làm ra những tấm hình khiêu dâm. Là mẹ của một nữ sinh 16 tuổi, bà Meré thực sự lo ngại và muốn làm điều gì đó để giải quyết thực trạng này. Vì thế, nữ công tố viên đã kêu gọi những đồng nghiệp khởi kiện để đóng cửa 16 trang web "lột đồ" bằng deepfake phổ biến nhất.
Theo đơn kiện, chỉ trong 6 tháng đầu năm 2024, 16 trang web này đã có tới 200 triệu lượt truy cập. Thậm chí một trong số những trang web này còn có cách quảng cáo vô cùng táo tợn: "Tốn thời gian mời cô ấy đi hẹn hò làm gì, khi bạn có thể dùng trang web này tạo hình khỏa thân của cô ấy."
Công tố viên David Chiu cho biết, những mô hình AI vận hành trên những trang web này đã được huấn luyện từ những hình ảnh khiêu dâm và những hình ảnh mô tả việc lạm dụng tình dục trẻ em để sau đó tạo hình. Ông cho biết, một khi những tấm hình tạo ra bằng deepfake được lan truyền trên mạng internet, rất khó xác định trang web nào đã tạo ra chúng.
Đơn kiện của thành phố San Francisco cáo buộc những trang web này đã vi phạm luật pháp của bang, cũng như luật liên bang liên quan tới nội dung khiêu dâm. Trên MXH X, ông Chiu cho biết: "Cuộc điều tra đã đưa chúng tôi tới những góc tối nhất trên internet, và tôi thực sự hoảng sợ khi biết những cô gái phải chịu đựng sự lạm dụng này. Đây là một vấn đề lớn mà chúng ta phải giải quyết càng sớm càng tốt."
Thực trạng deepfake AI bị lạm dụng để tạo hình khỏa thân mà không được sự cho phép của người trong hình đã xuất hiện từ năm 2020. Trên Telegram có một con bot được cho là đã tạo ra hơn 100 nghìn tấm hình dựa trên những hình ảnh người dùng đăng tải trên các mạng xã hội.
Những cải tiến của công nghệ AI ở thời điểm hiện tại đã khiến tình trạng này trở nên nghiêm trọng hơn, tạo ra những hình ảnh càng lúc càng chân thực, với hậu quả là những người bị lấy hình tạo deepfake sẽ phải chịu tai tiếng và những hậu quả nghiêm trọng. Chỉ tới khi bắt đầu xuất hiện những hình ảnh deepfake khỏa thân của cô ca sĩ Taylor Swift lan truyền trên mạng internet, các nhà lập pháp Mỹ mới bắt đầu kêu gọi có những bộ luật kiểm soát và truy quét tình trạng này hồi tháng 1 năm nay.
Hồi đầu tháng 8, một dự thảo luật được sự ủng hộ của các nhà lập pháp ở cả hai đảng của Mỹ đã đề xuất các đơn vị phải chịu trách nhiệm khi tạo ra những "bản sao kỹ thuật số" mà không được sự cho phép.
Theo Techspot
Ý tưởng vụ kiện là của bà Yvonne Meré, phó chánh án thành phố San Francisco, sau khi bà đọc được về thực trạng những cậu học sinh trung học sử dụng hình ảnh những bạn học cùng lớp, đưa lên những trang web tạo deepfake để làm ra những tấm hình khiêu dâm. Là mẹ của một nữ sinh 16 tuổi, bà Meré thực sự lo ngại và muốn làm điều gì đó để giải quyết thực trạng này. Vì thế, nữ công tố viên đã kêu gọi những đồng nghiệp khởi kiện để đóng cửa 16 trang web "lột đồ" bằng deepfake phổ biến nhất.
Theo đơn kiện, chỉ trong 6 tháng đầu năm 2024, 16 trang web này đã có tới 200 triệu lượt truy cập. Thậm chí một trong số những trang web này còn có cách quảng cáo vô cùng táo tợn: "Tốn thời gian mời cô ấy đi hẹn hò làm gì, khi bạn có thể dùng trang web này tạo hình khỏa thân của cô ấy."
Công tố viên David Chiu cho biết, những mô hình AI vận hành trên những trang web này đã được huấn luyện từ những hình ảnh khiêu dâm và những hình ảnh mô tả việc lạm dụng tình dục trẻ em để sau đó tạo hình. Ông cho biết, một khi những tấm hình tạo ra bằng deepfake được lan truyền trên mạng internet, rất khó xác định trang web nào đã tạo ra chúng.
Đơn kiện của thành phố San Francisco cáo buộc những trang web này đã vi phạm luật pháp của bang, cũng như luật liên bang liên quan tới nội dung khiêu dâm. Trên MXH X, ông Chiu cho biết: "Cuộc điều tra đã đưa chúng tôi tới những góc tối nhất trên internet, và tôi thực sự hoảng sợ khi biết những cô gái phải chịu đựng sự lạm dụng này. Đây là một vấn đề lớn mà chúng ta phải giải quyết càng sớm càng tốt."
Thực trạng deepfake AI bị lạm dụng để tạo hình khỏa thân mà không được sự cho phép của người trong hình đã xuất hiện từ năm 2020. Trên Telegram có một con bot được cho là đã tạo ra hơn 100 nghìn tấm hình dựa trên những hình ảnh người dùng đăng tải trên các mạng xã hội.
Những cải tiến của công nghệ AI ở thời điểm hiện tại đã khiến tình trạng này trở nên nghiêm trọng hơn, tạo ra những hình ảnh càng lúc càng chân thực, với hậu quả là những người bị lấy hình tạo deepfake sẽ phải chịu tai tiếng và những hậu quả nghiêm trọng. Chỉ tới khi bắt đầu xuất hiện những hình ảnh deepfake khỏa thân của cô ca sĩ Taylor Swift lan truyền trên mạng internet, các nhà lập pháp Mỹ mới bắt đầu kêu gọi có những bộ luật kiểm soát và truy quét tình trạng này hồi tháng 1 năm nay.
Hồi đầu tháng 8, một dự thảo luật được sự ủng hộ của các nhà lập pháp ở cả hai đảng của Mỹ đã đề xuất các đơn vị phải chịu trách nhiệm khi tạo ra những "bản sao kỹ thuật số" mà không được sự cho phép.
Theo Techspot
Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI 
==***==
Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp
==***==
Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
---
Khóa học Hacker và Marketing từ A-Z trên ZALO!
Khóa học Hacker và Marketing từ A-Z trên Facebook!
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP 
Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán 
Khóa học hướng dẫn về Moodle chuyên nghiệp và hay Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay. 
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp 
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu 
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ 
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi 
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel 
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao 
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình kiếm tiền Youtube bằng phần mềm Camtasia Studio 
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP 
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍 
GOOGLE SPREADSHEETS phê không tưởng 
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử 
Để thành thạo Wordpress bạn hãy tham gia khóa học 
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công 
==***== Bảo hiểm nhân thọ - Bảo vệ người trụ cột 
Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
kiếm tiền Youtube bằng phần mềm Camtasia Studio
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA
Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍
GOOGLE SPREADSHEETS phê không tưởng
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử
Để thành thạo Wordpress bạn hãy tham gia khóa học
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công
==***==
Bảo hiểm nhân thọ - Bảo vệ người trụ cột
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Nguồn: Tinh Tế
Topics: Công nghệ mới
