Các nhà khoa học tại MIT tạo ra một giải pháp giúp các ảnh đăng lên mạng không bị chỉnh sửa.
Chúng ta đang bước vào kỷ nguyên trí tuệ nhân tạo có thể cắt ghép, chỉnh sửa ảnh tới mức hiếm ai có thể nhận ra sự khác biệt. Từ đây, những bức ảnh thường ngày có thể trở thành ảnh cung cấp thông tin sai lệch bất kỳ lúc nào.
Những công cụ như DALL-E hay Midjourney có giao diện thân thiện và không đòi hỏi kỹ năng sử dụng chuyên nghiệp, đã tạo ra những bức ảnh cực kỳ chuyên nghiệp với chất lượng cao. Không cần là một người chuyên nghiệp, thậm chí một người không am hiểu gì về công nghệ hay chỉnh sửa ảnh cũng có thể tạo ra những tấm hình trông như thật thông qua các công cụ này.
Để phân biệt hình ảnh sản xuất bởi AI, một số công ty như Microsoft đã đề xuất đóng dấu hình ảnh (watermark) được tạo ra bởi các công cụ máy tính. Giải pháp này rất hứa hẹn nhưng đòi hỏi một số kỹ thuật nhất định.
Mới đây, các nhà nghiên cứu ở Viện Massachusetts (MIT's Computer Science and Artificial Intelligence Laboratory - CSAIL) đã phát triển một kỹ thuật có thể giúp phân biệt hình ảnh do AI tạo ra. PhotoGuard, một kỹ thuật sử dụng nhiễu loạn — những thay đổi cực nhỏ về giá trị pixel mà mắt người không nhìn thấy được nhưng các mô hình máy tính có thể phát hiện được — để làm gián đoạn việc can thiệp chỉnh sửa ảnh của các mô hình máy tính.
Chúng ta đang bước vào kỷ nguyên trí tuệ nhân tạo có thể cắt ghép, chỉnh sửa ảnh tới mức hiếm ai có thể nhận ra sự khác biệt. Từ đây, những bức ảnh thường ngày có thể trở thành ảnh cung cấp thông tin sai lệch bất kỳ lúc nào.
Những công cụ như DALL-E hay Midjourney có giao diện thân thiện và không đòi hỏi kỹ năng sử dụng chuyên nghiệp, đã tạo ra những bức ảnh cực kỳ chuyên nghiệp với chất lượng cao. Không cần là một người chuyên nghiệp, thậm chí một người không am hiểu gì về công nghệ hay chỉnh sửa ảnh cũng có thể tạo ra những tấm hình trông như thật thông qua các công cụ này.
Để phân biệt hình ảnh sản xuất bởi AI, một số công ty như Microsoft đã đề xuất đóng dấu hình ảnh (watermark) được tạo ra bởi các công cụ máy tính. Giải pháp này rất hứa hẹn nhưng đòi hỏi một số kỹ thuật nhất định.
Mới đây, các nhà nghiên cứu ở Viện Massachusetts (MIT's Computer Science and Artificial Intelligence Laboratory - CSAIL) đã phát triển một kỹ thuật có thể giúp phân biệt hình ảnh do AI tạo ra. PhotoGuard, một kỹ thuật sử dụng nhiễu loạn — những thay đổi cực nhỏ về giá trị pixel mà mắt người không nhìn thấy được nhưng các mô hình máy tính có thể phát hiện được — để làm gián đoạn việc can thiệp chỉnh sửa ảnh của các mô hình máy tính.
Nói nôm na, PhotoGuard là một kỹ thuật nhằm hạn chế khả năng can thiệp hình ảnh của AI. Kỹ thuật này tạo ra những thay đổi nhỏ, được gọi là nhiễu loạn, trong các giá trị pixel của hình ảnh. Những nhiễu loạn này không thể nhìn thấy bằng mắt người nhưng có thể được phát hiện bằng các mô hình máy tính.
Ý tưởng chính đằng sau PhotoGuard là tạo ra một biện pháp bảo vệ, ngăn các mô hình AI can thiệp vào hình ảnh mà không bị phát hiện. Điều này đặc biệt hữu ích trong các tình huống mà tính toàn vẹn và tính xác thực của hình ảnh là rất quan trọng, chẳng hạn như trong các ứng dụng phân tích pháp y, báo chí hoặc bảo mật.
Các nhà nghiên cứu sử dụng hai phương pháp "tấn công" (attack methods) để tạo ra các nhiễu loạn trong hình ảnh gốc, gồm tấn công bộ mã hoá (encoder attack) và tấn công khuếch tán (diffusion attack).
Ở phương pháp đầu tiên, PhotoGuard sử dụng kỹ thuật nhiễu loạn để thay đổi các giá trị pixel của hình ảnh. Từ đó, các công cụ AI gặp khó khăn khi "đọc" dữ liệu từ hình ảnh này, khiến chúng không hiểu được nội dung bức ảnh. Do đó, việc AI can thiệp, thêm thắt nội dung vào ảnh gần như không thể.
Phương pháp thứ hai quan trọng và mang tính quyết định hơn. Thuật toán sẽ tạo ra một bức ảnh mục tiêu như kỳ vọng của các công cụ AI muốn chỉnh sửa, sau đó tạo một quá trình tối ưu để bảo vệ ảnh gốc.
Ví dụ, ảnh gốc là một bức hoạ, còn ảnh mục tiêu là một bức hoạ hoàn toàn khác. "Tấn công khuếch đại" sẽ tạo ra một bức ảnh mục tiêu, với những thay đổi nhỏ khó nhận ra so với bức tranh gốc, để các mô hình AI bắt đầu quá trình chỉnh sửa trên bức ảnh mục tiêu. Dù AI can thiệp và tạo ra một ảnh khác nhưng với mắt người, bức ảnh mới tạo ra không có thay đổi gì cả.
Nghĩa là các công cụ AI vẫn thực hiện các thay đổi mà nó nghĩ là tốt nhất, nhưng trên thực tế ảnh do chúng tạo ra vẫn không khác gì ảnh gốc nếu nhìn bằng mắt người.
Một ví dụ khác: Ảnh gốc là ảnh gồm nhiều gương mặt khác nhau. Bạn có thể đánh dấu hai gương mặt bất kỳ trong ảnh, và tạo một lời nhắc (prompt) "hai người tham dự đám cưới". Sau khi gửi, hệ thống sẽ điều chỉnh hình ảnh cho phù hợp, tạo ra mô tả hợp lý về hai người đàn ông tham gia lễ cưới.
Quảng cáo
Hệ thống sẽ thêm các nhiễu loạn vào hình ảnh trước khi tải lên, từ đó có thể giúp hình ảnh tránh khỏi các sửa đổi.
Về kỹ thuật là như vậy, tuy nhiên để triển khai thực tế không hề dễ dàng.
Nhóm nghiên cứu cho biết để công cụ này thành hiện thực, cần có sự hợp tác của những người tạo ra các mô hình chỉnh sửa hình ảnh. Để PhotoGuard có hiệu quả, cần có nhiều bên liên quan tham gia.
"Các nhà hoạch định chính sách nên xem xét thực hiện các quy định bắt buộc các công ty phải bảo vệ dữ liệu người dùng khỏi những thao tác chỉnh sửa. Các nhà phát triển của các mô hình AI này có thể thiết kế các API tự động thêm nhiễu loạn vào hình ảnh của người dùng, cung cấp thêm một lớp bảo vệ chống lại các chỉnh sửa trái phép," nhà nghiên cứu nói.
PhotoGuard không phải là thuốc chữa bách bệnh. Sau khi một hình ảnh đăng lên mạng, kẻ có mục đích xấu có thể đảo ngược các biện pháp bảo vệ bằng cách thay đổi ảnh gốc, chẳng hạn sẽ thêm nhiễu (noise), cắt xén hoặc xoay hình ảnh.
Quảng cáo
Dù tạo ra các giải pháp này, nhưng chính các nhà nghiên cứu cũng cho rằng cần thêm nhiều hành động khác để giải pháp áp dụng được trong thực tế. Chẳng hạn các công ty áp dụng mô hình này cần đầu tư nhiều vào công nghệ để chống lại chính các công cụ AI đang ngày càng mạnh mẽ hơn.
Bài gốc: Using AI to protect against AI image manipulation
Ví dụ, dù các công ty hay nhà lập pháp chấp nhận áp dụng giải pháp này lên các hình ảnh trước khi đăng tải lên mạng, thì kẻ xấu cũng có thể dùng các mô hình AI tốt hơn để đối phó lại.
Photoshop: Dùng AI để xoá đối tượng không muốn: quá nhanh và đỉnh
Mời anh em xem qua 10 tấm hình mình đã dùng AI trên Photoshop để xoá các đối tượng khong mong muốn trong hình đi và phủ lại vị trí đó các hình ảnh để hình nhìn rất tự nhiên. Trước đây anh em có thể làm cái này nhưng tốn rất nhiều thời gian và kỹ…
tinhte.vn
Ứng dụng chỉnh sửa ảnh mà anh em sử dụng nhiều nhất trên điện thoại?
Có rất nhiều người thường xuyên chụp xong là sử dụng luôn bức ảnh đó nhưng có nhiều anh em phải chỉnh sửa hết app này đến ứng dụng nọ mới đăng bức ảnh đó lên mạng. Hay đơn giản, vài anh em chỉnh sửa bằng ứng dụng xem ảnh mặc định của máy… Câu…
tinhte.vn
CHUYÊN MỤC NGHỆ THUẬT LÀM GIÀU BỀN VỮNG
Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI 
==***==
Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp
==***==
Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
---
Khóa học Hacker và Marketing từ A-Z trên ZALO!
Khóa học Hacker và Marketing từ A-Z trên Facebook!
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP 
Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán 
Khóa học hướng dẫn về Moodle chuyên nghiệp và hay Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay. 
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp 
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu 
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ 
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi 
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel 
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao 
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình kiếm tiền Youtube bằng phần mềm Camtasia Studio 
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP 
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍 
GOOGLE SPREADSHEETS phê không tưởng 
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử 
Để thành thạo Wordpress bạn hãy tham gia khóa học 
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công 
==***== Bảo hiểm nhân thọ - Bảo vệ người trụ cột 
Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
kiếm tiền Youtube bằng phần mềm Camtasia Studio
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA
Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍
GOOGLE SPREADSHEETS phê không tưởng
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử
Để thành thạo Wordpress bạn hãy tham gia khóa học
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công
==***==
Bảo hiểm nhân thọ - Bảo vệ người trụ cột
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Nguồn: Tinh Tế
Topics: Công nghệ mới
