Microsoft cảnh báo tính năng AI Copilot Actions có thể bị lừa để cài mã độc

Có thể chúng ta đã bỏ lỡ một cảnh báo quan trọng từ Microsoft đối với người dùng Insiders của Windows 11: AI có thể bị lợi dụng để cài đặt và phát tán mã độc. Dù nguy cơ hiện hữu trước mắt nhưng Microsoft vẫn quyết tâm tích hợp sâu Copilot vào Windows và nhiều phần mềm khác.

Copilot Actions

Tuần qua Microsoft đã bổ sung một số tính năng AI tự chủ (agentic AI) dành cho người dùng Windows 11 Insiders. Agentic AI như tên gọi có thể chủ động ra quyết định, lên kế hoạch và hành động để đạt mục tiêu thay vì phản ứng thụ động theo lệnh có sẵn như AI truyền thống. Tính năng thử nghiệm này, gọi là Copilot Actions được Microsoft phát hành từ bản build 26100.7344 trở đi và nó hoạt động như sau:


Windows sẽ tạo ra một tài khoản riêng cho AI agent (ở đây là Copilot Actions) nhằm tách biệt quyền hạn của AI với tài khoản chính (Microsoft Account) của người dùng. Mỗi AI agent sẽ hoạt động trong một không gian riêng gọi là Agent Workspace, môi trường này được cách ly (sandbox), có desktop riêng giúp hạn chế việc AI có thể nhìn thấy hay can thiệp vào hoạt động trực tiếp trên màn hình của người dùng. Tuy nhiên, để có thể tự động thực hiện các tác vụ chẳng hạn như tổ chức file, đổi tên file hàng loạt, chỉnh sửa văn bản hay gởi email tự động từ đầu đến cuối thì AI agent sẽ cần được cấp quyền truy cập giới hạn đối với các thư mục như Documents, Downloads, Desktop, Music, Pictures và Videos.

Trên Windows sẽ có thể có nhiều AI agent hoạt động đồng thời, mỗi AI agent có Agent Workspace riêng, được cấp quyền riêng và có khả năng truy xuất vào các thư mục khác nhau. Microsoft cho biết Agent Workspace được thiết kế để không chiếm nhiều tài nguyên và đảm bảo an toàn. Qua thời gian thì Agent Workspace sẽ được bổ sung các tính năng mở rộng, làm được nhiều thứ hơn.

Cross-Prompt Injection Attack (XPIA)

Chính vì được trao khả năng truy xuất và chỉnh sửa file nên Microsoft khuyến cáo người dùng phải hiểu nó hoạt động như thế nào và những rủi ro bảo mật nào. Rủi ro lớn nhất là khả năng bị tấn công bảo mật thông qua thủ pháp Cross-Prompt Injection Attack (XPIA).


Kẻ tấn công có thể chèn các lệnh độc hại vào nội dung tưởng như vô hại chẳng hạn như trong một file văn bản, hình ảnh, email hoặc một thành phần của giao diện người dùng (UI Element). Khi AI agent như Copilot Actions quét nội dung để thực hiện tác vụ theo yêu cầu của người dùng, nó sẽ đọc luôn các lệnh và vô tình thực thi các lệnh theo ý đồ của kẻ tấn công. Sau khi "bị lừa", AI sẽ giúp kẻ tấn công thực hiện các ý đồ như trích xuất dữ liệu, cài đặt mã độc và thực hiện các thao tác trái phép trên hệ thống.

Microsoft đã thiết kế các cơ chế để bảo vệ người dùng một khi kích hoạt Copilot Actions. Như đã đề cập ở trên, các AI agent hoạt động với tái khoản riêng, trong môi trường cách ly với các quyền và thư mục được truy xuất nhất định.


Mặc định các tính năng AI tự chủ sẽ tắt và người dùng phải tự bật lên trong System > AI Components > Experimental Aegntic Featrues.


Trong Settings sẽ có một trang riêng cho phép người dùng quản lý các quyền truy cập file và kích hoạt các liên kết (chẳng hạn như liên kết với Gmail, OneDrive ...) mà AI agent cần để thực hiện chức năng. Đồng thời để đảm bảo tuân thủ, giám sát và minh bạch, Microsoft thiết kế các cơ chế như:

Quảng cáo

• Các AI agent phải có khả năng tự tạo ra file log ghi lại tất cả các hoạt động của mình nhờ đó Windows sẽ có thể xác thực các hành động bằng một audit log chống chính sửa, tức là kiểm tra đối chứng giữa log của AI agent và log của Windows (log của Windows không thể sửa được).
• Các AI agent phải công bố các bước thực thi tác vụ bởi với nhiều tác vụ phức tạp, người dùng phải được biết để phê duyệt hoặc từ chối các bước trước khi AI bắt đầu quy trình thực thi tự động.
• AI agent phải luôn hành động theo nguyên tắc quyền tối thiểu và không được cấp quyền vượt quá quyền mà người dùng khởi tạo, bao gồm các quyền quản trị (quyền admin). Các quyền cấp cho AI agent phải chi tiết, cụ thể và có thời hạn. AI agent chỉ được truy cập thông tin nhạy cảm như thông tin thẻ tín dụng trong ngữ cảnh cụ thể, do người dùng ủy quyền để thực hiện hành động cụ thể chẳng hạn như khi tương tác với ứng dụng, trang web cụ thể.
• AI agent thực hiện các hành động thay mặt cho một người dùng (tài khoản chủ hay tài khoản khởi tạo). Vì vậy, AI agent chỉ hoạt động theo quyền của chủ cấp, không ai khác có thể can thiệp vào AI agent ngay cả các thực thể có quyền cao trong hệ thống như admin hay local system. Điều này nhằm đảm bảo AI agent không bị chi phối bởi các tài khoản khác trong hệ thống.

Microsoft cũng nhắc lại rằng Windows được thiết kế để giúp các AI agent tuân thủ các cam kết được Microsoft đưa ra về quyền riêng tư và tiêu chuẩn AI có trách nhiệm. Hệ điều hành chỉ hỗ trợ các AI agent xử lý dữ liệu cho các mục đích đã được định rõ, đảm bảo tính minh bạch và tin cậy.

Experimental Agentic Features - Microsoft Support

Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI

Nhấn vào đây để bắt đầu khóa học

==***==

Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp

Nhấn vào đây để bắt đầu khóa học

==***==

Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo

Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com

Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

--- 

Khóa học Hacker và Marketing từ A-Z trên ZALO!

Nhấn vào đây để bắt đầu khóa học

Khóa học Hacker và Marketing từ A-Z trên Facebook!

Nhấn vào đây để bắt đầu khóa học

Khóa đào tạo Power BI phân tích báo cáo để bán hàng thành công

Nhấn vào đây để bắt đầu khóa học

Bảo mật và tấn công Website - Hacker mũ trắng

Nhấn vào đây để bắt đầu khóa học ​

KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn về Moodle chuyên nghiệp và hay

Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay.

Nhấn vào đây để bắt đầu khóa học

KHÓA EXCEL CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp

Nhấn vào đây để bắt đầu khóa học

Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ

Nhấn vào đây để bắt đầu khóa học

Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi

Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng TableAU - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình 

kiếm tiền Youtube bằng phần mềm Camtasia Studio

Nhấn vào đây để bắt đầu khóa học

Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP

​​​​​

HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA

Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍

 KHÓA HỌC VIDEO- XÂY DỰNG PHẦN MỀM QUẢN LÝ BẰNG MICROSOFT ACCESS

GOOGLE SPREADSHEETS phê không tưởng

Khóa hoc lập trình bằng Python tại đây

Hãy tham gia khóa học để biết mọi thứ

Để tham gia tất cả các bài học, Bạn nhấn vào đây 

Khóa học lập trình cho bé MSWLogo

Nhấn vào đây để bắt đầu học

Khóa học Ba, Mẹ và Bé - Cùng bé lập trình  TUYỆT VỜI

Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử

Khóa học vẽ tạo giao diện demo cho website

Để thành thạo Wordpress bạn hãy tham gia khóa học 

Tham gia khóa học tại đây

Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công

Nhấn vào đây để bắt đầu khóa học

==***==

Bảo hiểm nhân thọ - Bảo vệ người trụ cột

Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

Nguồn: Tinh Tế

Share !