Microsoft Maia/Cobalt 100: Chip AI tự phát triển, dùng vận hành Copilot và Bing Chat

Rõ ràng không có gì sánh được bằng những chip xử lý được thiết kế chuyên biệt cho từng tác vụ. Microsoft cũng hiểu điều đó. Vài năm qua đã có tin đồn nói rằng họ đang trong quá trình phát triển chip silicon phục vụ riêng nhu cầu xử lý thuật toán AI. Tin đồn hóa ra là sự thật, khi trong tuần vừa qua, trong khuôn khổ sự kiện Ignite 2023, Microsoft đã công bố tận 2 con chip kiến trúc ARM, dự kiến từ năm sau sẽ ứng dụng trong những máy chủ đám mây Azure để vận hành những dịch vụ AI như Microsoft Copilot.

Có thể, Maia 100 và Cobalt 100 chính là sản phẩm của dự án Athena, nỗ lực giúp Microsoft bớt phụ thuộc vào Nvidia với những GPU phục vụ riêng cho thị trường xử lý AI như A100 hay mới nhất vừa được giới thiệu là H200 kiến trúc Hopper.



Đầu tiên, chip tăng tốc xử lý AI Microsoft Azure Maia 100 được tạo ra chỉ để phục vụ một mục đích duy nhất: Đạt hiệu năng xử lý mạnh nhất khi vận hành những mô hình ngôn ngữ quy mô lớn (LLM) như GPT-3.5 Turbo hay phức tạp hơn là GPT-4. Con chip này được TSMC gia công trên tiến tình 5nm, die silicon không dưới 105 tỷ transistor. Sức mạnh của Maia 100 cho phép hỗ trợ những format sub-8-bit để train mô hình ngôn ngữ cũng như vận hành nội suy, ứng dụng mô hình ngôn ngữ cho chatbot hay những dịch vụ như Copilot hay Bing Chat.

Để tiện so sánh, chip xử lý AI mạnh nhất thế giới hiện giờ, trước khi H200 ra mắt chính là H100, trang bị 80 tỷ transistor trên bề mặt die. Instinct MI300X sắp bán ra thị trường của AMD thì có tận 153 tỷ transistor. Còn về mặt hiệu năng, Microsoft hoàn toàn không công bố sức mạnh xử lý số thực dấu phẩy động FP32 hay FP64, mà chỉ cho biết chip Maia 100 có băng thông bộ nhớ lên tới 4.8 terabit/s, nhờ vào giao thức kết nối dựa trên nền Ethernet, giúp mở rộng quy mô máy chủ đám mây cũng như hiệu năng xử lý.

Quá trình hợp tác đầu tư giữa Microsoft và OpenAI cũng được cho là đã góp phần giúp Microsoft hoàn thiện Maia 100. Microsoft đã được làm việc cùng các nhà phát triển LLM bên OpenAI để tối ưu kiến trúc và thử nghiệm những mô hình GPT trên bản thử nghiệm của những con chip chuyên biệt. Nhờ đó, đối với Microsoft, điều này sẽ giúp tối ưu hiệu năng kiến trúc AI của dịch vụ đám mây Azure. Về phần OpenAI, nhờ Maia 100, họ sẽ có thể huấn luyện những mô hình ngôn ngữ mới trên những hệ thống có chi phí thấp hơn nhiều so với những giải pháp của Nvidia hay AMD.



Con chip thứ hai, Cobalt 100 là một CPU 128 nhân 64-bit dựa trên kiến trúc Neoverse Compute Subsystems của ARM. Microsoft cho biết, nhờ CPU này điều khiển hệ thống, cải thiện hiệu năng trên những hệ thống xử lý đám mây Azure sẽ tăng 40%, nhưng là so sánh với những máy chủ trang bị chip ARM thế hệ hiện giờ. Những dịch vụ mà Cobalt 100 sẽ được tận dụng để vận hành bao gồm Microsoft Teams hay dịch vụ hệ điều hành đám mây Windows 365.



Giám đốc mảng hệ thống kiến trúc Azure của Microsoft, bà Rani Borkar cho biết, chip tự phát triển của hãng là thành quả nghiên cứu và kinh nghiệm trong suốt 2 thập kỷ đồng phát triển những chip xử lý cho máy game Xbox hay máy tính bảng Surface. Cobalt 100 cho phép Microsoft kiểm soát hiệu năng và tiêu thụ điện theo từng nhân, từ đó xây dựng được một cụm máy chủ thực sự tiết kiệm chi phí vận hành.

View attachment 7718365

Hình trên là giải pháp minh họa cho hệ thống trang bị chip Maia 100 và Cobalt 100. Microsoft đã phải thiết kế ra cả một hệ thống tản nhiệt và từng rack server riêng, để có nhiều không gian cho cáp điện và cáp mạng. Với hệ thống này, chi phí vận hành thấp hơn nhiều so với những hệ thống máy chủ trang bị CPU và GPU của AMD và Nvidia.

Hiện tại chi phí phát triển, huấn luyện và vận hành nội suy mô hình ngôn ngữ vẫn đang rất cao, quy mô người dùng càng lớn thì chi phí càng cao. Ước tính vận hành chatbot AI có chi phí cao gấp 10 lần so với vận hành một công cụ tìm kiếm trực tuyến. Làm chip custom phục vụ riêng từng nhu cầu xử lý cụ thể vừa giải quyết được những vấn đề liên quan tới nguồn cung chip AI, vừa giúp Microsoft có được lợi thế khi thị trường xử lý AI càng lúc càng nóng lên.

Quảng cáo

Những đơn vị như Amazon, Meta và Google giờ cũng đã có chip xử lý riêng. Những công ty nghiên cứu khác như Ampere thì đang mơ ước trở thành nhà cung cấp chip data center kiến trúc ARM lớn trong tương lai.

NVIDIA chính thức giới thiệu GPU Hopper H200: GPU xử lý AI mạnh nhất thế giới

Tại sự kiện SC23 (Supercomputing 2023) mới diễn ra vào sáng nay, NVIDIA chính thức công bố GPU dựa trên kiến trúc Hopper mới là H200, chính là GPU chuyên về xử lý AI mạnh nhất mà loài người từng tạo ra.

tinhte.vn

Dù đã có Maia 100 và Cobalt 100, nhưng trong tương lai gần, Microsoft vẫn sẽ tiếp tục ứng dụng chip xử lý của các hãng khác, bao gồm cả H200 vừa được Nvidia công bố cách đây ít ngày trong những máy chủ Azure xử lý thuật toán AI và mô hình ngôn ngữ.

Theo Techspot

CHUYÊN MỤC NGHỆ THUẬT LÀM GIÀU BỀN VỮNG

Nhấn vào đây để bắt đầu học

Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI

Nhấn vào đây để bắt đầu khóa học

==***==

Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp

Nhấn vào đây để bắt đầu khóa học

==***==

Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo

Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com

Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

--- 

Khóa học Hacker và Marketing từ A-Z trên ZALO!

Nhấn vào đây để bắt đầu khóa học

Khóa học Hacker và Marketing từ A-Z trên Facebook!

Nhấn vào đây để bắt đầu khóa học

Khóa đào tạo Power BI phân tích báo cáo để bán hàng thành công

Nhấn vào đây để bắt đầu khóa học

Bảo mật và tấn công Website - Hacker mũ trắng

Nhấn vào đây để bắt đầu khóa học ​

KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn về Moodle chuyên nghiệp và hay

Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay.

Nhấn vào đây để bắt đầu khóa học

KHÓA EXCEL CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp

Nhấn vào đây để bắt đầu khóa học

Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ

Nhấn vào đây để bắt đầu khóa học

Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi

Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng TableAU - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình 

kiếm tiền Youtube bằng phần mềm Camtasia Studio

Nhấn vào đây để bắt đầu khóa học

Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP

​​​​​

HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA

Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍

 KHÓA HỌC VIDEO- XÂY DỰNG PHẦN MỀM QUẢN LÝ BẰNG MICROSOFT ACCESS

GOOGLE SPREADSHEETS phê không tưởng

Khóa hoc lập trình bằng Python tại đây

Hãy tham gia khóa học để biết mọi thứ

Để tham gia tất cả các bài học, Bạn nhấn vào đây 

Khóa học lập trình cho bé MSWLogo

Nhấn vào đây để bắt đầu học

Khóa học Ba, Mẹ và Bé - Cùng bé lập trình  TUYỆT VỜI

Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử

Khóa học vẽ tạo giao diện demo cho website

Để thành thạo Wordpress bạn hãy tham gia khóa học 

Tham gia khóa học tại đây

Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công

Nhấn vào đây để bắt đầu khóa học

==***==

Bảo hiểm nhân thọ - Bảo vệ người trụ cột

Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

Nguồn: Tinh Tế

Share !