Anh em làm việc với AI có nhớ được lúc nào anh em bắt đầu: ừa cứ nhấn đồng ý một lần mà không đọc hết nội dung, một lần chắc chả sao đâu. Mình thì không nhớ chính xác, và nếu nói là không làm thì là nói dối, thật ra là cũng nhiều lần chả đọc output gì mà cứ nhấn đồng ý. Có lẽ là một buổi chiều bận rộn nào đó, khi deadline dí tới đít rồi, AI đưa ra một output lướt qua có vẻ là hợp lý, thôi thì bấm luôn đồng ý cho nhanh, hay vì mệt quá không còn có thể nghĩ thêm gì. Nếu anh em cũng vậy, thì thật ra anh em không đơn độc đâu, mà có khi anh em vẫn còn tử tế khi có đọc mà lâu lâu mới skip đó. Con số mà Anthropic công bố hồi bữa cho thấy 97% lời nhắc xin phép trong Claude Code đều được người dùng chấp thuận và vì thế, có thể coi đó là hành vi phổ biến của gần như tất cả mọi người dùng công cụ này.
Anthropic vừa cho biết họ sẽ để Claude Code sang chế độ tự động mặc định
Và vì thế, Anthropic dùng chính con số đó để biện minh cho quyết định chuyển Claude Code sang chế độ tự động mặc định từ hôm nay, thay vì hỏi xin phép từng lệnh. Lập luận của họ khá chặt chẽ: nếu 97% lời nhắc đều được duyệt, thì cái gọi là "cơ chế kiểm soát" đó thực chất chưa bao giờ thực sự kiểm soát điều gì. Nó chỉ là một nghi thức bấm nút. Và trong một nghiên cứu có kiểm soát với hơn một nghìn người thử nghiệm, góc nhìn của mình thì cái tập mẫu này nó vẫn còn quá nhỏ và chưa đủ để nói lên một khuynh hướng được, con người chỉ phát hiện được lệnh nguy hiểm trong 13,6% trường hợp, trong khi bộ phân loại tự động chặn được 89%. Nhìn thuần túy theo số liệu an toàn, quyết định để máy quyết định thay người có vẻ hợp lý.
Tuy nhiên, cá nhân mình vẫn thấy lấn cấn ở một câu hỏi khác, không phải câu hỏi về an toàn, mà là câu hỏi về việc điều này sẽ làm gì với thói quen tư duy của người dùng về lâu dài.
Anthropic vừa cho biết họ sẽ để Claude Code sang chế độ tự động mặc định
Và vì thế, Anthropic dùng chính con số đó để biện minh cho quyết định chuyển Claude Code sang chế độ tự động mặc định từ hôm nay, thay vì hỏi xin phép từng lệnh. Lập luận của họ khá chặt chẽ: nếu 97% lời nhắc đều được duyệt, thì cái gọi là "cơ chế kiểm soát" đó thực chất chưa bao giờ thực sự kiểm soát điều gì. Nó chỉ là một nghi thức bấm nút. Và trong một nghiên cứu có kiểm soát với hơn một nghìn người thử nghiệm, góc nhìn của mình thì cái tập mẫu này nó vẫn còn quá nhỏ và chưa đủ để nói lên một khuynh hướng được, con người chỉ phát hiện được lệnh nguy hiểm trong 13,6% trường hợp, trong khi bộ phân loại tự động chặn được 89%. Nhìn thuần túy theo số liệu an toàn, quyết định để máy quyết định thay người có vẻ hợp lý.
Tuy nhiên, cá nhân mình vẫn thấy lấn cấn ở một câu hỏi khác, không phải câu hỏi về an toàn, mà là câu hỏi về việc điều này sẽ làm gì với thói quen tư duy của người dùng về lâu dài.
Không phải câu chuyện an toàn, mà là câu chuyện thói quen
Mình làm việc với anh em DEV, QAs hay thậm chí những vai trò khác khá nhiều, thì một điều mình thấy khá rõ trong những năm gần đây đó là khi công cụ càng thông minh, người dùng càng có xu hướng trao quyền quyết định cho công cụ đó nhanh hơn tưởng tượng. Điều này không sai về bản chất. Rõ ràng, trước khi có trình biên dịch, loài người có thể đọc được mã máy và chỉ dừng lại khi trình biên dịch, một công cụ tốt hơn ra mắt. Hay lấy ví dụ tính toán đi, chúng ta thực hiện cộng trừ nhân chia rất tốt cho tới khi có máy tính bỏ túi, hay nhớ được số điện thoại rất ổn cho tới khi điện thoại thông minh có khả năng lưu trữ hàng ngàn thậm chí hàng triệu số. Rõ ràng, mỗi lớp trừu tượng mới đều lấy đi một chút hiểu biết chi tiết ở lớp bên dưới, đổi lại cho loài người tốc độ và quy mô lớn hơn và kèm theo đó là sự tiện lợi. Đó là cách công nghệ vận hành suốt hàng chục năm qua, và phần lớn thời gian, sự đánh đổi đó là hợp lý.
Thật ra sau cùng, mình nghĩ AI có mạnh đến đâu thì con người vẫn nên giữ được quyền quyết định và lựa chọn của mình
Tuy nhiên, trường hợp chúng ta đang nói ở trên lại có một điểm khác biệt cần nghĩ tới: đó là quyền quyết định. Trình biên dịch không đưa ra quyết định thay ta về việc nên viết logic gì, nó chỉ dịch những gì ta đã quyết định sẵn sang mã máy hay các công cụ nêu trên là cách để chuyển ý chí con người nhằm đạt mục đích nào dó. Còn một trợ lý code chạy ở chế độ tự động lại đang đưa ra quyết định về việc nên làm gì tiếp theo, dựa trên phán đoán của chính nó, và ta chỉ can thiệp khi nó bị chặn lại vì vượt ngưỡng rủi ro nào đó. Đây là một lớp trừu tượng khác hẳn về bản chất. Nó không chỉ giấu đi chi tiết kỹ thuật, mà còn giấu đi cả quá trình ra quyết định bên trong, và nó tước luôn quyền quyết định của chúng ta.
Hơn nữa, một điều khiến mình thấy đáng suy nghĩ nhất trong dữ liệu Anthropic công bố là phần về phiên làm việc dài. Họ ghi nhận rằng con người phát hiện được khoảng 17% lệnh nguy hiểm ở đầu một phiên làm việc, nhưng con số đó giảm xuống chỉ còn khoảng 5% sau khi đã duyệt hơn năm mươi lời nhắc trước đó, trong khi tỷ lệ chặn của máy vẫn giữ nguyên bất kể phiên làm việc dài hay ngắn. Nói cách khác, sự tập trung của con người là một nguồn tài nguyên có giới hạn, và các phiên làm việc với AI hiện nay được thiết kế theo đúng kiểu sẽ tiêu hao nguồn tài nguyên đó nhanh nhất có thể, hết lệnh này đến lệnh khác, hết yêu cầu này đến yêu cầu khác. Hai vấn đề: quyền quyết định, và khả năng tập trung lâu dài của con người là yếu tố thật sự đáng để tâm trong thông báo mà Anthropic đưa ra.
Câu hỏi cho những người đang dùng, đặc biệt là người trẻ đang lớn lên cùng công cụ này
Điều đáng lo không phải là những anh em, những kỹ sư đã có nhiều năm kinh nghiệm, những người đã từng đọc từng dòng log lỗi, từng debug bằng tay, từng hiểu vì sao một đoạn code hoạt động trước khi có AI hỗ trợ. Với nhóm này, việc tin tưởng công cụ tự động chỉ đơn giản là bỏ bớt một bước họ đã từng làm thành thạo. Nhưng mình lo cho những anh em còn trẻ, kỹ sư trẻ đang bắt đầu sự nghiệp ngay trong giai đoạn công cụ mặc định đã tự quyết định thay họ. Nếu một người chưa bao giờ thực sự phải tự đọc và hiểu một đoạn lệnh nguy hiểm là gì, thì khi công cụ tự động một lúc nào đó bỏ sót, họ sẽ dựa vào đâu để nhận ra điều bất thường.
Đây không phải là lời kêu gọi quay lại việc đọc từng dòng lệnh thủ công, vì mình biết rõ điều đó không thực tế và cũng không hiệu quả trong môi trường làm việc hiện tại. Nhưng mình nghĩ có một khoảng cách quan trọng cần được giữ lại một cách có chủ đích, giữa việc tin tưởng công cụ vì nó đã chứng minh được độ tin cậy, và việc tin tưởng công cụ chỉ vì đã quá mệt để tiếp tục kiểm tra. Anthropic đúng khi chỉ ra rằng nghi thức bấm đồng ý trước đây chưa từng thực sự là một lớp kiểm soát. Nhưng câu hỏi mình vẫn giữ lại cho riêng mình là liệu việc thay thế nghi thức đó bằng một lớp phân loại tự động có đang giải quyết đúng vấn đề, hay chỉ đang di chuyển vấn đề sang một chỗ khó nhìn thấy hơn, nơi con người ngừng cả việc cố gắng hiểu, chứ không chỉ ngừng việc giả vờ kiểm tra.
Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI
==***==
Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp
==***==
Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
---
Khóa học Hacker và Marketing từ A-Z trên ZALO!
Khóa học Hacker và Marketing từ A-Z trên Facebook!
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP
Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán
Khóa học hướng dẫn về Moodle chuyên nghiệp và hay
Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay.
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
Khóa học “Thiết kế bài giảng điện tử”, Video, hoạt hình
kiếm tiền Youtube bằng phần mềm Camtasia Studio
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA
Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍
GOOGLE SPREADSHEETS phê không tưởng
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử
Để thành thạo Wordpress bạn hãy tham gia khóa học
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công
==***==
Bảo hiểm nhân thọ - Bảo vệ người trụ cột
Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
kiếm tiền Youtube bằng phần mềm Camtasia Studio
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA
Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍
GOOGLE SPREADSHEETS phê không tưởng
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử
Để thành thạo Wordpress bạn hãy tham gia khóa học
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công
==***==
Bảo hiểm nhân thọ - Bảo vệ người trụ cột
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Nguồn: Tinh Tế
