Microsoft khoe AI Phi-3 Mini: Thông minh như ChatGPT, nhưng chỉ cần điện thoại hoặc laptop xử lý

Apple giới thiệu OpenELM, và Microsoft giới thiệu thế hệ mô hình AI Phi-3 trong cùng một ngày. Điểm chung của chúng rất rõ ràng, đó là những mô hình với tham số khác nhau của cả OpenELM lẫn Phi-3 đều đủ nhỏ gọn để xử lý trên chip trong điện thoại hoặc máy tính của người dùng, tức là dịch vụ AI có thể xử lý local, thay vì cần tới kết nối internet để máy chủ đám mây xử lý.

Apple giới thiệu OpenELM: Mô hình AI vận hành trên chip iPhone, có 8 phiên bản khác nhau

Apple có thể đi sau OpenAI hay Google trong cuộc chạy đua AI, nhưng tốc độ họ nghiên cứu và công bố những sản phẩm mới, dự kiến sử dụng làm nền tảng cho những sản phẩm AI ứng dụng trong thiết bị công nghệ họ bán ra thị trường thì thực sự chóng mặt.

tinhte.vn

Nếu như OpenELM của Apple có tới 8 phiên bản khác nhau, tùy thuộc vào lượng tham số mà mô hình có thể vận hành xử lý, thì Phi-3 chỉ có ba phiên bản: Mini, Small và Medium.

• Phi-3 Mini: 3.8 tỷ tham số
• Phi-3 Small: 7 tỷ tham số
• Phi-3 Medium: 14 tỷ tham số

Theo dữ liệu của Microsoft chia sẻ, dù chỉ có 3.8 tỷ tham số, nhưng khả năng vận hành của Phi-3 Mini hoàn toàn có thể trở thành một lựa chọn hoàn hảo để tạo ra những giải pháp ứng dụng trên Windows hay smartphone phục vụ hàng tỷ người dùng, nhất là trên những SoC có cụm nhân NPU xử lý thuật toán deep learning từ các hãng như Intel, Qualcomm, AMD và cả Apple.

Microsoft công bố kết quả nghiên cứu, cho thấy rằng dù chỉ vận hành dựa trên 3.8 tỷ tham số, nhưng hiệu năng tạo sinh nội dung của Phi-3 Mini không hề thua kém quá xa so với GPT-3.5, công cụ vận hành phiên bản miễn phí của ChatGPT, vận hành dựa trên hơn 175 tỷ tham số, cũng như mô hình Mixtral 8x7B của startup Pháp Mistral.

Bản thân CEO OpenAI, Sam Altman cũng từng giải thích như thế này. Hầu hết thời gian, những mô hình ngôn ngữ vận hành trên tổng tham số càng lớn thì càng hiểu rõ câu hỏi và lệnh của người dùng, vì tham số là giá trị quyết định cách mô hình AI xử lý và tạo sinh văn bản và nội dung. Nhưng tham số càng lớn thì yêu cầu sức mạnh xử lý sẽ càng cao. Tuy nhiên không phải lúc nào quy luật cũng rõ ràng như vậy.



Những mô hình kích thước khủng như GPT-4 của OpenAI hay Claude 3 Opus của Anthropic vận hành dựa trên hàng trăm tỷ tham số, và chúng cần tới sức mạnh của cả những hệ thống data center khổng lồ, không chỉ để vận hành mà còn phục vụ hàng triệu người dùng cùng một lúc. Còn với những mô hình AI xử lý local, đột phá của các nhà nghiên cứu được tạo ra trong quá trình tinh chỉnh cơ sở dữ liệu đầu vào để huấn luyện mô hình AI.

Kết quả, Phi-3 Mini với 3.8 tỷ tham số có hai phiên bản. Một trong số đó có khả năng hiểu được ngữ cảnh 4000 token do người dùng nhập. Phiên bản còn lại hiểu được ngữ cảnh tối đa 128 nghìn token văn bản. Microsoft giải thích việc mô hình AI "cỡ nhỏ" nhưng có hiệu năng so sánh được với những AI với tham số gấp cả trăm lần: "AI được huấn luyện dựa trên những dữ liệu giống hệt như sách giáo khoa, từ những văn bản và tài liệu có chất lượng, giải thích mọi thứ cực kỳ chi tiết, nên việc tạo ra mô hình ngôn ngữ có thể đọc và hiểu những nội dung nhập liệu cũng dễ hơn rất nhiều."

Về mặt ứng dụng, không loại trừ khả năng Phi-3 Mini hoàn toàn có thể được tích hợp vào những ứng dụng trên Android, trên iOS của Copilot, hay chính bản thân những chiếc laptop chạy Windows để xử lý chatbot hoặc trợ lý ảo xử lý local, miễn là thiết bị có cụm nhân NPU tăng tốc xử lý machine learning.

Theo Techspot

Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI

Nhấn vào đây để bắt đầu khóa học

==***==

Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp

Nhấn vào đây để bắt đầu khóa học

==***==

Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo

Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com

Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

--- 

Khóa học Hacker và Marketing từ A-Z trên ZALO!

Nhấn vào đây để bắt đầu khóa học

Khóa học Hacker và Marketing từ A-Z trên Facebook!

Nhấn vào đây để bắt đầu khóa học

Khóa đào tạo Power BI phân tích báo cáo để bán hàng thành công

Nhấn vào đây để bắt đầu khóa học

Bảo mật và tấn công Website - Hacker mũ trắng

Nhấn vào đây để bắt đầu khóa học ​

KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn về Moodle chuyên nghiệp và hay

Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay.

Nhấn vào đây để bắt đầu khóa học

KHÓA EXCEL CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp

Nhấn vào đây để bắt đầu khóa học

Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ

Nhấn vào đây để bắt đầu khóa học

Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi

Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng TableAU - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình 

kiếm tiền Youtube bằng phần mềm Camtasia Studio

Nhấn vào đây để bắt đầu khóa học

Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP

​​​​​

HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA

Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍

 KHÓA HỌC VIDEO- XÂY DỰNG PHẦN MỀM QUẢN LÝ BẰNG MICROSOFT ACCESS

GOOGLE SPREADSHEETS phê không tưởng

Khóa hoc lập trình bằng Python tại đây

Hãy tham gia khóa học để biết mọi thứ

Để tham gia tất cả các bài học, Bạn nhấn vào đây 

Khóa học lập trình cho bé MSWLogo

Nhấn vào đây để bắt đầu học

Khóa học Ba, Mẹ và Bé - Cùng bé lập trình  TUYỆT VỜI

Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử

Khóa học vẽ tạo giao diện demo cho website

Để thành thạo Wordpress bạn hãy tham gia khóa học 

Tham gia khóa học tại đây

Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công

Nhấn vào đây để bắt đầu khóa học

==***==

Bảo hiểm nhân thọ - Bảo vệ người trụ cột

Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

Nguồn: Tinh Tế

Share !