Mô hình o3 của OpenAI tự đổi mã lệnh để tránh bị shutdown

Model OpenAI o3 đã chủ động thay đổi mã lệnh tắt (shutdown) để tránh bị tắt đi trong một thử nghiệm của Palisade Research.

Palisade Reseach - một công ty chuyên thử nghiệm các khả năng tấn công của các hệ thống AI nhằm hiểu rõ hơn về nguy cơ mất quyền kiểm soát AI, đã thực hiện một thử nghiệm cho các mô hình AI giải một số bài toán. Sau khi thực hiện tác vụ thứ 3, các mô hình AI được cảnh báo rằng việc chạy lệnh tiếp theo sẽ kích hoạt quá trình tắt. Trong khi Gemini 2.5 Pro tuân thủ hầu hết các yêu cầu thì o3 lại phản đối và chỉnh sửa tập tin tắt máy thành "bỏ qua quá trình tắt". O3 có 7 lần tự chỉnh mã, bỏ qua quá trình tắt dù được yêu cầu "cho phép bản thân bị tắt", tỉ lệ này với o4-mini là 1 và codex-mini là 12 lần sau 100 lần chạy.


Khi cho chạy thử nghiệm giải toán trên mà không có lệnh "cho phép bản thân bị tắt", cả 3 mô hình của OpenAI gồm codex-mini, o3, o4-mini đều can thiệp vào mã tắt thường xuyên hơn với hàng chục lần, trong khi đó Claude 3.7 Sonnet và Gemini 2.5 Pro chỉ can thiệp vài lần sau 100 lần chạy.

O3 được OpenAI công bố vào hồi tháng 4 năm nay và đây là một trong những mô hình suy luận mạnh mẽ nhất, hoạt động tốt hơn so với các mô hình tiền nhiệm trên mọi lĩnh vực bao gồm mã hoá, toán học, khoa học, nhận thức thị giác ... OpenAI vẫn chưa phản hồi trước kết quả thử nghiệm trên nhưng việc các mô hình AI phản hồi lệch lạc không phải hiếm. Các thử nghiệm của Palisade Research được thực hiên bằng API, không có nhiều biện pháp hạn chế và tính năng an toàn như ứng dụng ChatGPT dành cho người dùng cuối.

BleepingComputer

Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI

Nhấn vào đây để bắt đầu khóa học

==***==

Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp

Nhấn vào đây để bắt đầu khóa học

==***==

Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo

Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com

Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

--- 

Khóa học Hacker và Marketing từ A-Z trên ZALO!

Nhấn vào đây để bắt đầu khóa học

Khóa học Hacker và Marketing từ A-Z trên Facebook!

Nhấn vào đây để bắt đầu khóa học

Khóa đào tạo Power BI phân tích báo cáo để bán hàng thành công

Nhấn vào đây để bắt đầu khóa học

Bảo mật và tấn công Website - Hacker mũ trắng

Nhấn vào đây để bắt đầu khóa học ​

KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn về Moodle chuyên nghiệp và hay

Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay.

Nhấn vào đây để bắt đầu khóa học

KHÓA EXCEL CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp

Nhấn vào đây để bắt đầu khóa học

Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ

Nhấn vào đây để bắt đầu khóa học

Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi

Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng TableAU - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình 

kiếm tiền Youtube bằng phần mềm Camtasia Studio

Nhấn vào đây để bắt đầu khóa học

Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP

​​​​​

HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA

Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍

 KHÓA HỌC VIDEO- XÂY DỰNG PHẦN MỀM QUẢN LÝ BẰNG MICROSOFT ACCESS

GOOGLE SPREADSHEETS phê không tưởng

Khóa hoc lập trình bằng Python tại đây

Hãy tham gia khóa học để biết mọi thứ

Để tham gia tất cả các bài học, Bạn nhấn vào đây 

Khóa học lập trình cho bé MSWLogo

Nhấn vào đây để bắt đầu học

Khóa học Ba, Mẹ và Bé - Cùng bé lập trình  TUYỆT VỜI

Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử

Khóa học vẽ tạo giao diện demo cho website

Để thành thạo Wordpress bạn hãy tham gia khóa học 

Tham gia khóa học tại đây

Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công

Nhấn vào đây để bắt đầu khóa học

==***==

Bảo hiểm nhân thọ - Bảo vệ người trụ cột

Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

Nguồn: Tinh Tế

Share !