Vấn nạn ảnh khoả thân giả bằng deepfake đã xuất hiện trên Telegram!

Học viện đào tạo trực tuyến Thứ Năm, 22 tháng 10, 2020 0 No comments

Công ty bảo mật Sensity đã vừa phát hiện ra một mạng lưới những con bot deepfake chuyên dùng để tạo ra ảnh khỏa thân của phụ nữ trên Telegram - người dùng tải ảnh phụ nữ có mặt đồ cho bot > bot trả lại ảnh của người phụ nữ đó khỏa thân. Tính đến tháng 7 năm nay, những con bot này đã tạo ra ảnh khỏa thân giả của xấp xỉ 104.000 phụ nữ và chỉ trong 3 tháng gần đây, số lượng ảnh deepfake mà đám bot tạo ra tăng gần 200%.

Thường thì việc chế ảnh khỏa thân thường nhằm vào những người nổi tiếng nhưng có vẻ như người ta lại đang dùng bot deepfake để tạo ra ảnh khỏa thân của những người phụ nữ mà họ biết ngoài đời thật. Hầu hết nạn nhân đều không biết được rằng hình ảnh khỏa thân giả của họ đang trôi nổi trên Internet. Nguy hiểm hơn, Sensity còn phát hiện ra một số lượng hạn chế ảnh khỏa thân của trẻ dưới tuổi vị thành niên.

Người dùng Telegram tại Nga chiếm đến 70% lượng người sử dụng bot deepfake để tạo ảnh khỏa thân giả và tỉ lệ này chỉ giảm gần đây khi Nga cấm Telegram. Cũng tại Nga, những con bot deepfake này đã lan sang mạng xã hội VK - được xem là Facebook của Nga và là mạng xã hội lớn nhất nước này. Sensity đã mở cuộc khảo sát và nhận thấy những con bot vẫn chưa được sử dụng rộng rãi ở các quốc gia nói tiếng Anh.

Telegram deepfake bot.jpg

Điều nguy hiểm là những con bot deepfake này cho dùng miễn phí, người dùng có thể mua premium coin (1,30 USD cho 12 xu) để gỡ bỏ phần đóng dấu trên ảnh (watermark) và tăng tốc quá trình ghép ảnh. Sensity cho biết phần mềm đứng đằng sau bot deepfake khả năng là DeepNude - một thuật toán máy học nguồn mở nổi lên từ năm ngoái, xuất hiện dưới dạng một ứng dụng chuyên "lột đồ" của người trong ảnh. Người phát triển ra nó đã phải hủy ứng dụng này nhưng trước đó, nó đã được rao bán trong một thời gian ngắn. Phần mềm này đã được đưa lên các trang đăng tải torrent và chia sẻ nguồn mở. Thuật toán DeepNude sẽ đòi hỏi máy tính với GPU rời để xử lý ảnh nhưng mạng lưới những con bot deepfake trên Telegram có thể hoạt động trên các máy chủ trực tuyến, sử dụng sức mạnh máy chủ để xử lý và như vậy ai cũng có thể dùng được chỉ với điện thoại. Đây là một trong những lý do chính khiến đám bot độc hại này được sử dụng ồ ạt chỉ trong một thời gian ngắn.

Theo: Engadget

---