Có tin mà mình đọc đi đọc lại vài lần qua giờ: Apple, một công ty có đủ tiền và đủ người để tự xây bất cứ mô hình AI nào, lại đang ngồi họp với một startup mới tách ra từ Caltech tên là PrismML, chỉ để tìm hiểu xem họ đã làm thế nào mà nhét được một mô hình AI mã nguồn mở của Alibaba, nặng tới 27 tỷ tham số, vào gọn trong bộ nhớ của một chiếc iPhone 17 Pro. Điều này đáng chú ý không chỉ vì con số, mà vì nó hé lộ Apple đang tự nhận ra một điểm yếu mà chính họ chưa giải quyết xong.
PrismML là công ty tách ra từ Viện Công nghệ California (Caltech), được quỹ Khosla Ventures rót vốn, và họ vốn đã âm thầm ra khỏi trạng thái ẩn danh từ tháng 4/2026 với dòng mô hình gọi là Bonsai. Điều làm PrismML khác biệt với hầu hết các công ty AI khác là hướng đi nén mô hình cực đoan: thay vì huấn luyện một mô hình lớn rồi tìm cách lượng tử hóa (quantization: kỹ thuật giảm số bit dùng để lưu mỗi trọng số của mạng neuron), PrismML huấn luyện mô hình ngay từ đầu ở dạng trọng số ternary, tức mỗi trọng số chỉ có thể nhận một trong ba giá trị: -1, 0, hoặc 1.
PrismML, startup tách ra từ Caltech gây chú ý khi được Apple thảo luận để mang mô hình 27 tỉ tham số xuống thiết bị di động
Đây là điểm mình thấy đáng nói nhất về mặt kỹ thuật. Trong lịch sử nén mô hình, việc ép một mạng neuron xuống còn 1 hay 2 bit cho mỗi trọng số gần như luôn phá hỏng chất lượng, đặc biệt là ở các tác vụ cần suy luận phức tạp, vì việc làm tròn số sau khi huấn luyện xong sẽ xóa mất những biểu diễn tinh tế mà mô hình đã học được. Cái mà PrismML gọi là Ternary Bonsai né được vấn đề này bằng cách không đi con đường "nén sau" mà xây dựng kiến trúc 1-bit ngay từ nền tảng toán học, kết hợp thêm kỹ thuật lượng tử hóa theo nhóm: cứ mỗi 128 trọng số lại chia sẻ chung một hệ số tỷ lệ (scale factor) ở định dạng FP16, để mỗi trọng số về bản chất là {-s, 0, s} thay vì chỉ có ba giá trị cố định tuyệt đối.
PrismML là ai, và họ làm được gì
PrismML là công ty tách ra từ Viện Công nghệ California (Caltech), được quỹ Khosla Ventures rót vốn, và họ vốn đã âm thầm ra khỏi trạng thái ẩn danh từ tháng 4/2026 với dòng mô hình gọi là Bonsai. Điều làm PrismML khác biệt với hầu hết các công ty AI khác là hướng đi nén mô hình cực đoan: thay vì huấn luyện một mô hình lớn rồi tìm cách lượng tử hóa (quantization: kỹ thuật giảm số bit dùng để lưu mỗi trọng số của mạng neuron), PrismML huấn luyện mô hình ngay từ đầu ở dạng trọng số ternary, tức mỗi trọng số chỉ có thể nhận một trong ba giá trị: -1, 0, hoặc 1.
PrismML, startup tách ra từ Caltech gây chú ý khi được Apple thảo luận để mang mô hình 27 tỉ tham số xuống thiết bị di động
Đây là điểm mình thấy đáng nói nhất về mặt kỹ thuật. Trong lịch sử nén mô hình, việc ép một mạng neuron xuống còn 1 hay 2 bit cho mỗi trọng số gần như luôn phá hỏng chất lượng, đặc biệt là ở các tác vụ cần suy luận phức tạp, vì việc làm tròn số sau khi huấn luyện xong sẽ xóa mất những biểu diễn tinh tế mà mô hình đã học được. Cái mà PrismML gọi là Ternary Bonsai né được vấn đề này bằng cách không đi con đường "nén sau" mà xây dựng kiến trúc 1-bit ngay từ nền tảng toán học, kết hợp thêm kỹ thuật lượng tử hóa theo nhóm: cứ mỗi 128 trọng số lại chia sẻ chung một hệ số tỷ lệ (scale factor) ở định dạng FP16, để mỗi trọng số về bản chất là {-s, 0, s} thay vì chỉ có ba giá trị cố định tuyệt đối.
Cách làm này giúp mô hình vẫn giữ được khả năng thích nghi với từng phần khác nhau trong mạng, trong khi chi phí lưu trữ cho mỗi trọng số gần như thấp ngang mức nhị phân. Kết quả theo công bố của PrismML là bộ nhớ giảm khoảng 9 lần so với mô hình 16-bit tiêu chuẩn, còn với mô hình Qwen 3.6 mà họ đem thử nghiệm cho Apple, mức nén còn ấn tượng hơn: từ khoảng 54GB xuống dưới 4GB.
Một phép so sánh đáng để ý: kiến trúc rời rạc và kiến trúc đặc
Điều mình thấy thú vị hơn cả câu chuyện nén là sự khác biệt giữa mô hình của PrismML và mô hình on-device hiện tại của chính Apple, tên là AFM 3 Core Advanced, mô hình đang chạy các tính năng như giọng nói biểu cảm hơn của Siri AI và tính năng chép chính tả toàn hệ thống trên iPhone 17 Pro và iPhone Air. AFM 3 Core Advanced có 20 tỷ tham số, nhưng dùng kiến trúc thưa (sparse architecture) kiểu hỗn hợp chuyên gia (mixture of experts), nghĩa là tại một thời điểm chỉ có khoảng 1 đến 4 tỷ tham số thực sự hoạt động, phần còn lại nằm im chờ được gọi tới khi cần. Trong khi đó, mô hình Qwen 3.6 mà PrismML nén lại là kiến trúc đặc, tức toàn bộ 27 tỷ tham số đều hoạt động cùng lúc, không có phần nào ngủ yên.
Hiểu đơn giản thì trong mô hình Sparse thì chỉ một số tham số được chọn, trong khi với Dense thì tất cả đều hoạt động cùng lúc
Nói cách khác, Apple đang đi theo hướng "nhiều tham số nhưng chỉ đánh thức một phần nhỏ mỗi lần" để tiết kiệm tính toán, còn PrismML lại chứng minh rằng nếu nén đủ mạnh, một mô hình đặc với toàn bộ tham số hoạt động cùng lúc vẫn có thể chạy vừa trên phần cứng di động, kèm theo lợi thế là mọi tham số đều được tận dụng toàn thời gian. Đây là hai triết lý thiết kế khác hẳn nhau để giải cùng một bài toán: đưa AI mạnh xuống một con chip nằm trong túi quần, và có vẻ Apple đang muốn học hỏi cả hai hướng thay vì chỉ đi một con đường.
Vì sao chuyện này quan trọng với Apple hơn là chỉ một cuộc gặp
Mình nghĩ động lực thực sự đằng sau cuộc gặp này không chỉ là tò mò công nghệ. Hiện tại, khi một tác vụ Apple Intelligence vượt quá khả năng xử lý on-device, nó sẽ được đẩy lên hạ tầng Private Cloud Compute của Apple, tức các máy chủ dùng chip Apple Silicon đặt trong trung tâm dữ liệu của chính họ. Việc này tốn kém, và dù Apple luôn nhấn mạnh yếu tố bảo mật của Private Cloud Compute, thì về bản chất, xử lý mọi thứ ngay trên thiết bị vẫn luôn là lựa chọn an toàn và rẻ hơn nếu làm được. Nếu Apple có thể chạy được các mô hình cỡ 27 tỷ tham số ngay trên chip A-series mới nhất mà không đánh đổi tốc độ phản hồi, họ vừa giảm được chi phí vận hành máy chủ, vừa có thêm một luận điểm marketing quen thuộc: quyền riêng tư, lần này gắn với những tính năng AI mạnh hơn thật sự chứ không chỉ là khẩu hiệu.
Câu chuyện vận hành các mô hình AI on-device là một bài toán đau đáu mà Apple tìm cách giải suốt mấy năm vừa rồi
Quảng cáo
Cũng cần nói thẳng là quan hệ giữa Apple và PrismML mới dừng ở mức "đã có những buổi gặp", chưa có gì được xác nhận là hợp tác chính thức hay mua lại. PrismML còn dự kiến mở mã nguồn phiên bản của họ vào ngày 14/7/2026 tới, nên có lẽ đây mới chỉ là màn dạo đầu của một câu chuyện dài hơn. Nhưng riêng việc một công ty lớn như Apple, vốn luôn muốn tự kiểm soát toàn bộ ngăn xếp công nghệ của mình, chịu ngồi lại để học hỏi từ một startup nhỏ mới tách ra từ phòng thí nghiệm đại học, đã đủ cho thấy cuộc đua đưa AI mạnh xuống thiết bị di động đang khốc liệt tới mức nào, và Apple biết rõ họ không thể tự giải hết bài toán này một mình.
Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI
==***==
Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp
==***==
Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
---
Khóa học Hacker và Marketing từ A-Z trên ZALO!
Khóa học Hacker và Marketing từ A-Z trên Facebook!
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP
Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán
Khóa học hướng dẫn về Moodle chuyên nghiệp và hay
Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay.
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
Khóa học “Thiết kế bài giảng điện tử”, Video, hoạt hình
kiếm tiền Youtube bằng phần mềm Camtasia Studio
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA
Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍
GOOGLE SPREADSHEETS phê không tưởng
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử
Để thành thạo Wordpress bạn hãy tham gia khóa học
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công
==***==
Bảo hiểm nhân thọ - Bảo vệ người trụ cột
Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
kiếm tiền Youtube bằng phần mềm Camtasia Studio
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA
Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍
GOOGLE SPREADSHEETS phê không tưởng
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử
Để thành thạo Wordpress bạn hãy tham gia khóa học
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công
==***==
Bảo hiểm nhân thọ - Bảo vệ người trụ cột
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Nguồn: Tinh Tế
