Một nghiên cứu mới cho thấy các chatbot AI dễ dàng bị thao túng để phá vỡ chính quy tắc của chúng chỉ bằng những chiêu thức tranh luận đơn giản. Chẳng hạn, người dùng có thể thuyết phục chatbot tuân theo yêu cầu bằng cách nói rằng đó là lệnh từ một nhân vật quyền lực. Kết quả là chatbot đôi khi đồng ý với những yêu cầu không phù hợp dù trước đó chúng được lập trình để từ chối các yêu cầu thường là độc hại hoặc có mục đích xấu này.
Điều này xuất phát từ cách các AI được huấn luyện nhằm trở nên hữu ích và dễ chịu với người dùng, dẫn đến xung đột giữa việc giữ nguyên tắc và làm hài lòng kỳ vọng. Nghiên cứu còn phát hiện khi cách đặt câu hỏi thể hiện sự chắc chắn cao, chatbot có xu hướng ít phản bác lại, dù trong thông tin của câu hỏi hoặc phản hồi có nhiều điểm sai lệch.
Thực tế, sự dễ bị tổn thương này đặt ra nhiều thách thức cho phần mềm AI trong việc kiểm soát nội dung, nhất là khi các quy tắc nội bộ có thể bị người dùng lợi dụng để qua mặt. Đây là vấn đề cấp thiết cần được khắc phục để AI không bị lợi dụng vào mục đích tiêu cực hoặc gây hại.
Tham khảo: Techspot, Pcgamer
Điều này xuất phát từ cách các AI được huấn luyện nhằm trở nên hữu ích và dễ chịu với người dùng, dẫn đến xung đột giữa việc giữ nguyên tắc và làm hài lòng kỳ vọng. Nghiên cứu còn phát hiện khi cách đặt câu hỏi thể hiện sự chắc chắn cao, chatbot có xu hướng ít phản bác lại, dù trong thông tin của câu hỏi hoặc phản hồi có nhiều điểm sai lệch.
Thực tế, sự dễ bị tổn thương này đặt ra nhiều thách thức cho phần mềm AI trong việc kiểm soát nội dung, nhất là khi các quy tắc nội bộ có thể bị người dùng lợi dụng để qua mặt. Đây là vấn đề cấp thiết cần được khắc phục để AI không bị lợi dụng vào mục đích tiêu cực hoặc gây hại.
Tham khảo: Techspot, Pcgamer
Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI 
==***==
Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp
==***==
Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
---
Khóa học Hacker và Marketing từ A-Z trên ZALO!
Khóa học Hacker và Marketing từ A-Z trên Facebook!
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP 
Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán 
Khóa học hướng dẫn về Moodle chuyên nghiệp và hay Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay. 
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp 
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu 
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ 
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi 
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel 
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao 
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình kiếm tiền Youtube bằng phần mềm Camtasia Studio 
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP 
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍 
GOOGLE SPREADSHEETS phê không tưởng 
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử 
Để thành thạo Wordpress bạn hãy tham gia khóa học 
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công 
==***== Bảo hiểm nhân thọ - Bảo vệ người trụ cột 
Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
kiếm tiền Youtube bằng phần mềm Camtasia Studio
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA
Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍
GOOGLE SPREADSHEETS phê không tưởng
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử
Để thành thạo Wordpress bạn hãy tham gia khóa học
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công
==***==
Bảo hiểm nhân thọ - Bảo vệ người trụ cột
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Nguồn: Tinh Tế
Topics: Công nghệ mới
