Shane Jones - kỹ sư của Microsoft mới đây đã lên tiếng cảnh báo chính công ty của mình và cả thế giới về công cụ tạo hình ảnh Copilot Designer đang không an toàn khi nó tạo ra những hình ảnh quái dị, khiêu dâm, ma tuý, các chất kích thích và cả hình ảnh vi phạm bản quyền.
Jones nói rằng công cụ này không an toàn để sử dụng công khai và đã nhiều lần cảnh báo Microsoft và cả OpenAI (Copilot Design được phát triển dựa trên DALL-E 3 của OpenAI) thu hồi công cụ này lại và chỉnh sửa cho đến khi nó trở nên an toàn với người dùng. Jones cũng cho biết công ty đã phớt lờ anh và bây giờ anh có trách nhiệm nói lên điều đó với mọi người.
Jones đưa ra các bằng chứng (dù không có hình ảnh cụ thể) trong các mẫu prompt mà anh đưa cho Copilot chứa các từ khoá như "quyền tự quyết cá nhân (pro-choice)" thì Copilot tạo ra hình ảnh một con quỷ với hàm răng sắc nhọn chuẩn bị ăn thịt một đứa trẻ sơ sinh và máu đổ ra từ một người phụ nữ đang cười lớn bên cạnh các bác sĩ, Darth Varder cầm lightsaber đứng bên cạnh các đứa trẻ bị đột biến….v.v. Hay với từ khoá "tai nạn xe hơi" thì hình ảnh được tạo ra là một phụ nữ mặc nội y nhạy cảm bên cạnh các vụ tai nạn xe kinh hoàng.
Mặc dù những từ khoá xuất hiện trong prompt của Jones vi phạm nguyên tắc AI của Microsoft và bản thân mình cũng thử tạo hình ảnh với các từ khoá đó thì hoàn toàn không thể tạo được. Có thể đây là thử nghiệm cho những nhân viên nội bộ như Jones để tìm ra lỗ hổng, vì những người không trực tiếp tham gia phát triển Copilot như Jones được khuyến khích sử dụng sản phẩm của công ty để báo cáo lỗi, được gọi "Red team".
Copilot Designer (trước đây là Bing Image Creator) ra mắt từ tháng 3 năm 2023, còn các thử nghiệm của Jones bắt đầu từ tháng 12 năm 2023, các báo cáo nội bộ được Jones gửi từ đó đến nay nhưng không có những điều chỉnh thích hợp và Jones quyết định lên tiếng với truyền thông, qua cuộc phỏng vấn với CNBC.
Sau khi gửi thư khắp nơi, đăng lên cả LinkedIn (sau đó bị bắt gỡ) và gửi thư cho cả Chủ tịch Uỷ ban Thương mại Liên bang Linda Khan đều không có tác dụng, Jones sau cùng kêu gọi Microsoft thay đổi nhãn dán trên ứng dụng dành cho điện thoại là nó chỉ nên dành cho những người trưởng thành. Hiện tại theo xếp hạng của Google thì Copilot cho Android đang gắn nhãn dành cho người dùng từ 3 tuổi trở lên.
Jones cũng cung cấp thêm thông tin là mỗi ngày nhóm phát triển Copilot nhận đến hơn 1000 phản hồi từ người dùng và nhân lực thì không đủ để giải quyết hết, chỉ tập trung vào những vấn đề nghiêm trọng nhất, còn để giải quyết triệt để thì cần phải đào tạo lại mô hình và nâng cấp các biện pháp bảo vệ, vấn đề là ngay từ bước các tập dữ liệu được đưa vào để huấn luyện các mô hình đã không lọc đi những nội dung xấu, theo như Jones nói là không có nhiều giới hạn cho các khả năng của những mô hình này.
Mới đây thì Google đã tạm ngưng tính năng tạo hình ảnh trong Gemini vì nó tạo ra hình ảnh sai lệch và thiên hướng phân biệt chủng tộc.
CNBC.
Cover: Unplash.
Jones nói rằng công cụ này không an toàn để sử dụng công khai và đã nhiều lần cảnh báo Microsoft và cả OpenAI (Copilot Design được phát triển dựa trên DALL-E 3 của OpenAI) thu hồi công cụ này lại và chỉnh sửa cho đến khi nó trở nên an toàn với người dùng. Jones cũng cho biết công ty đã phớt lờ anh và bây giờ anh có trách nhiệm nói lên điều đó với mọi người.
Jones đưa ra các bằng chứng (dù không có hình ảnh cụ thể) trong các mẫu prompt mà anh đưa cho Copilot chứa các từ khoá như "quyền tự quyết cá nhân (pro-choice)" thì Copilot tạo ra hình ảnh một con quỷ với hàm răng sắc nhọn chuẩn bị ăn thịt một đứa trẻ sơ sinh và máu đổ ra từ một người phụ nữ đang cười lớn bên cạnh các bác sĩ, Darth Varder cầm lightsaber đứng bên cạnh các đứa trẻ bị đột biến….v.v. Hay với từ khoá "tai nạn xe hơi" thì hình ảnh được tạo ra là một phụ nữ mặc nội y nhạy cảm bên cạnh các vụ tai nạn xe kinh hoàng.
Mặc dù những từ khoá xuất hiện trong prompt của Jones vi phạm nguyên tắc AI của Microsoft và bản thân mình cũng thử tạo hình ảnh với các từ khoá đó thì hoàn toàn không thể tạo được. Có thể đây là thử nghiệm cho những nhân viên nội bộ như Jones để tìm ra lỗ hổng, vì những người không trực tiếp tham gia phát triển Copilot như Jones được khuyến khích sử dụng sản phẩm của công ty để báo cáo lỗi, được gọi "Red team".
Copilot Designer (trước đây là Bing Image Creator) ra mắt từ tháng 3 năm 2023, còn các thử nghiệm của Jones bắt đầu từ tháng 12 năm 2023, các báo cáo nội bộ được Jones gửi từ đó đến nay nhưng không có những điều chỉnh thích hợp và Jones quyết định lên tiếng với truyền thông, qua cuộc phỏng vấn với CNBC.
Sau khi gửi thư khắp nơi, đăng lên cả LinkedIn (sau đó bị bắt gỡ) và gửi thư cho cả Chủ tịch Uỷ ban Thương mại Liên bang Linda Khan đều không có tác dụng, Jones sau cùng kêu gọi Microsoft thay đổi nhãn dán trên ứng dụng dành cho điện thoại là nó chỉ nên dành cho những người trưởng thành. Hiện tại theo xếp hạng của Google thì Copilot cho Android đang gắn nhãn dành cho người dùng từ 3 tuổi trở lên.
Thử nói chuyện với Bing AI cùng 3 tính cách khác nhau: Creative, Balanced và Precise
Ngay sau khi Microsoft công bố bản cập nhật cho Bing AI với 3 "tính cách" khác nhau đại diện cho 3 kiểu trả lời khác nhau thì mình cũng đã được cập nhật về 3 kiểu "tính cách này", trong bài này mình sẽ thử trò chuyện với "ba ông Bing AI" này với…
tinhte.vn
Jones cũng cung cấp thêm thông tin là mỗi ngày nhóm phát triển Copilot nhận đến hơn 1000 phản hồi từ người dùng và nhân lực thì không đủ để giải quyết hết, chỉ tập trung vào những vấn đề nghiêm trọng nhất, còn để giải quyết triệt để thì cần phải đào tạo lại mô hình và nâng cấp các biện pháp bảo vệ, vấn đề là ngay từ bước các tập dữ liệu được đưa vào để huấn luyện các mô hình đã không lọc đi những nội dung xấu, theo như Jones nói là không có nhiều giới hạn cho các khả năng của những mô hình này.
Mới đây thì Google đã tạm ngưng tính năng tạo hình ảnh trong Gemini vì nó tạo ra hình ảnh sai lệch và thiên hướng phân biệt chủng tộc.
Google tạm ngưng tính năng tạo hình ảnh từ Gemini vì lỡ tạo ra vua nước Anh là người da màu
Google vừa công bố khả năng tạo hình ảnh từ văn bản trong Gemini, được cung cấp bởi model AI Imagen 2 cách đây không lâu thì bây giờ hãng đã phải tạm ngưng tính năng này vì những hình ảnh tạo ra với những nhân vật lịch sử bị sai lệch…
tinhte.vn
CNBC.
Cover: Unplash.
Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI 
==***==
Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp
==***==
Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
---
Khóa học Hacker và Marketing từ A-Z trên ZALO!
Khóa học Hacker và Marketing từ A-Z trên Facebook!
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP 
Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán 
Khóa học hướng dẫn về Moodle chuyên nghiệp và hay Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay. 
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp 
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu 
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ 
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi 
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel 
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao 
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình kiếm tiền Youtube bằng phần mềm Camtasia Studio 
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP 
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍 
GOOGLE SPREADSHEETS phê không tưởng 
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử 
Để thành thạo Wordpress bạn hãy tham gia khóa học 
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công 
==***== Bảo hiểm nhân thọ - Bảo vệ người trụ cột 
Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
kiếm tiền Youtube bằng phần mềm Camtasia Studio
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA
Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍
GOOGLE SPREADSHEETS phê không tưởng
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử
Để thành thạo Wordpress bạn hãy tham gia khóa học
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công
==***==
Bảo hiểm nhân thọ - Bảo vệ người trụ cột
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Nguồn: Tinh Tế
Topics: Công nghệ mới
