2024: Microsoft mua gần nửa triệu GPU AI của Nvidia, trị giá hơn 31 tỷ Đô

Đơn vị nghiên cứu thị trường Omdia vừa đưa ra những con số mô tả cuộc chạy đua mở rộng quy mô cơ sở hạ tầng máy chủ đám mây phục vụ cho cơn sốt AI đang diễn ra. Theo số liệu của Omdia, họ ước tính trong năm 2024, Microsoft đã đặt mua 485 nghìn GPU máy chủ của Nvidia, kiến trúc Hopper. Con số này đặt Microsoft trở thành khách hàng lớn nhất của Nvidia ở mảng GPU AI máy chủ đám mây, vì cái tên đứng ở vị trí thứ hai, tính riêng tại Mỹ, là Meta với đơn hàng ước tính 224 nghìn GPU Hopper.

Những cái tên như xAI của Elon Musk, Amazon và Google đặt mua chưa đầy 200 nghìn GPU Hopper trong năm 2024 sắp qua đi. Dù đó vẫn là những con số khủng khiếp để mở rộng quy mô cơ sở hạ tầng máy chủ đám mây phục vụ nghiên cứu vận hành AI, nhưng nếu so sánh với Microsoft, thì đơn hàng của những tập đoàn công nghệ khổng lồ này còn chưa bằng một nửa:



Với con số kể trên, mạng lưới trung tâm dữ liệu máy chủ đám mây thuộc mảng Azure của Microsoft đang nắm giữ lợi thế về cơ sở hạ tầng vận hành dịch vụ AI, hay thậm chí là phục vụ cho OpenAI nghiên cứu ra những mô hình AI thế hệ mới, khi Microsoft giờ vẫn đang là nhà đầu tư chiến lược đổ nhiều vốn nhất cho startup nghiên cứu trí tuệ nhân tạo đang được Sam Altman điều hành.

Tổng chi phí mà các tập đoàn công nghệ lớn ở cả Mỹ lẫn Trung Quốc đã đổ vào cuộc chạy đua mở rộng cơ sở hạ tầng máy chủ xử lý AI lên tới hàng chục tỷ USD. Và hầu hết chúng đều phụ thuộc vào một phần cứng duy nhất: Những GPU AI do Nvidia nghiên cứu phát triển và sản xuất.

Và ở cuộc chạy đua ấy, những cụm máy chủ Azure chính là thứ đã được dùng để phục vụ OpenAI nghiên cứu mô hình o1 mới nhất của họ. Rồi cùng lúc, Microsoft kết hợp với OpenAI cũng đang phải cạnh tranh với cả Google, với những startup nhỏ hơn như Anthropic và xAI, rồi cạnh tranh với cả những tập đoàn và startup AI Trung Quốc để làm chủ thứ công nghệ được coi là thế hệ kế tiếp của điện toán.

Xét riêng thị trường Trung Quốc, Tencent và ByteDance, hai tập đoàn công nghệ khổng lồ tại đây, mỗi tập đoàn cũng đặt hàng ước tính khoảng 230 nghìn GPU xử lý AI từ Nvidia, bao gồm cả mẫu H20, phiên bản giới hạn cả tốc độ xử lý phép tính lẫn băng thông bộ nhớ để tuân thủ quy định cấm vận của chính phủ Mỹ.

Amazon, Google và Meta cũng đang tăng cường đổ vốn đầu tư để mua GPU Nvidia. Omdia cho biết, Amazon đã đặt mua 196 nghìn GPU AI của Nvidia. Con số này đối với Google là khoảng 169 nghìn GPU.



Hiện giờ, Nvidia đã bắt đầu giao những GPU AI thế hệ kế tiếp, kiến trúc Blackwell, với sản phẩm thương mại là GB200 cho các đối tác và khách hàng đầu tiên. Hopper, hay trước đó là Ampere đã giúp Nvidia có được tốc độ tăng trưởng khủng khiếp, giá trị vốn hóa trong năm 2024 luôn ở ngưỡng 3 nghìn tỷ USD, thậm chí còn có lúc trở thành tập đoàn giá trị nhất hành tinh, đứng trên cả Apple lẫn Microsoft.

Tuy nhiên những tháng gần đây, đã bắt đầu có những nhà phân tích thị trường hay một số nhà đầu tư cảnh báo về tốc độ tăng trưởng chậm lại của Nvidia, dẫn tới việc giá cổ phiếu Nvidia không còn có tốc độ tăng trưởng thần tốc như nửa đầu năm 2024. Những lý do khiến các nhà đầu tư cẩn trọng hơn bao gồm những cạnh tranh của các tập đoàn công nghệ khổng lồ với những con chip tăng tốc xử lý thuật toán AI do họ tự phát triển, từ TPU của Google, Trainium của Amazon cho tới Maia 100 của Microsoft…

• Cuộc chạy đua lật đổ Nvidia khỏi ngai vàng dẫn đầu thị trường GPU AI máy chủ

Thêm vào đó, là nguy cơ tiềm ẩn từ những xung đột địa chính trị giữa Mỹ và Trung Quốc, khi tổng thống Donald Trump nhậm chức vào tháng 1 tới, với những quy định cấm vận và hàng rào thuế quan có thể ảnh hưởng trực tiếp tới doanh thu của Nvidia trong những năm tới.

Quảng cáo

• Mỹ muốn cấm vận bán dẫn TQ đến cùng, còn doanh nghiệp thì tìm mọi cách bảo vệ doanh thu

Ở Trung Quốc, như đã nói, ByteDance và Tencent đã trở thành hai khách hàng lớn nhất của Nvidia trong năm nay, bất chấp những quy định cấm vận giới hạn sức mạnh và băng thông bộ nhớ của những con chip xử lý AI các tập đoàn Mỹ được phép bán cho các khách hàng là những công ty Trung Quốc, với lý do bảo vệ lợi ích và an ninh quốc gia.

Về phần Microsoft, sau khi đầu tư 13 tỷ USD cho OpenAI, năm nay, đơn hàng GPU AI họ đặt từ Nvidia nhiều gấp 3 lần so với năm ngoái. Trong năm 2023, sau khi ChatGPT khởi động cuộc chạy đua nghiên cứu phát triển và ứng dụng công nghệ AI, Nvidia vẫn còn đang cố gắng đẩy mạnh doanh số chip GPU kiến trúc Hopper mà họ xuất xưởng ra thị trường.

Alistair Speirs, giám đốc cấp cao mảng cơ sở hạ tầng toàn cầu của Azure cho biết: "Cơ sở hạ tầng data center tốt thường vô cùng phức tạp và tốn kém nguồn vốn đầu tư. Chúng thường tốn vài năm để lên kế hoạch. Và vì lý do đó, điều quan trọng nhất bây giờ là dự đoán được doanh thu tiềm năng trong tương lai với những sai số liên quan tới số vốn đầu tư."

Con số cụ thể mà Omdia đưa ra dự đoán, đó là tổng cộng, trong năm nay, trên toàn thế giới, kinh phí đầu tư máy chủ đám mây xử lý AI sẽ rơi vào khoảng 229 tỷ USD. Dẫn đầu đương nhiên là Microsoft, 31 tỷ USD. Kế đến là Amazon, 26 tỷ USD. Mười tập đoàn và startup dẫn đầu danh sách đầu tư máy chủ đám mây, trong đó có cả xAI hay CoreWeave đang chiếm khoảng 60% trong con số vốn đầu tư 229 tỷ USD kể trên.



Đó là những con số mô tả quá trình đầu tư mua sắm. Còn trong số các bên nhận, các tập đoàn sản xuất chip bán dẫn và thiết bị máy chủ đám mây, Nvidia sẽ nhận được 43% tổng số vốn đầu tư 229 tỷ USD kể trên, theo dự đoán của Vlad Galabov, giám đốc mảng nghiên cứu máy chủ đám mây và data center của Omdia: "GPU của Nvidia chiếm tỷ trọng rất lớn trong tổng số vốn đầu tư máy chủ năm nay."

Quảng cáo

Dù Nvidia vẫn thống trị thị trường GPU máy chủ xử lý AI, và các tập đoàn lớn vẫn đang giúp doanh số của những con chip trị giá hàng chục nghìn USD mỗi chip của Nvidia ở ngưỡng hàng triệu chip bán ra thị trường, tất cả có vẻ đều nhận ra rằng họ không thể, và không được phép phụ thuộc hoàn toàn vào Nvidia.

Google trong cả chục năm qua đã phát triển và ứng dụng những con chip TPU, viết tắt của Tensor Processing Unit, trang bị trên máy chủ Google Cloud vận hành nội suy hoặc huấn luyện mô hình. Meta thì đã ứng dụng những chip MTIA thế hệ đầu tiên, viết tắt của Meta Training and Inference Accelerator từ năm 2023. Google và Meta, mỗi tập đoàn đang vận hành khoảng 1.5 triệu chip xử lý AI do họ tự phát triển.



Amazon cũng có Trainium, và dự án vừa bị hủy bỏ mang tên Inferentia. Trong năm 2024, Amazon đã ứng dụng vận hành 1.3 triệu con chip Trainium trong máy chủ AWS của họ. Anthropic với chatbot Claude chính là đơn vị đang ứng dụng những con chip Trainium để huấn luyện mô hình AI thế hệ mới của họ. Amazon đã rót 8 tỷ USD đầu tư cho startup này.

Tuy nhiên, Microsoft vẫn chưa ứng dụng Maia 100, con chip họ tự phát triển ở quy mô như Google, Meta và Amazon. Hiện giờ trong hệ thống máy chủ Azure, Microsoft đang vận hành khoảng 200 nghìn chip Maia.

Theo giám đốc Speirs của Omdia, dù bỏ hàng chục tỷ USD để mua chip Nvidia trang bị cho máy chủ Azure, Microsoft vẫn tốn không ít kinh phí để thiết kế giải pháp phần mềm, tạo ra dịch vụ riêng phục vụ các khách hàng cá nhân và doanh nghiệp:

"Theo kinh nghiệm của chúng tôi, để xây dựng cơ sở hạ tầng AI, chỉ có những con chip mạnh nhất là chưa đủ, mà còn phải có kết cấu lưu trữ phù hợp, cơ sở hạ tầng phù hợp, chọn đúng phần mềm vận hành, chọn đúng giải pháp quản lý host, giải pháp chỉnh lỗi, và tất cả những linh kiện cần để máy chủ có thể vận hành."

Theo FT

Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI

Nhấn vào đây để bắt đầu khóa học

==***==

Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp

Nhấn vào đây để bắt đầu khóa học

==***==

Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo

Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com

Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

--- 

Khóa học Hacker và Marketing từ A-Z trên ZALO!

Nhấn vào đây để bắt đầu khóa học

Khóa học Hacker và Marketing từ A-Z trên Facebook!

Nhấn vào đây để bắt đầu khóa học

Khóa đào tạo Power BI phân tích báo cáo để bán hàng thành công

Nhấn vào đây để bắt đầu khóa học

Bảo mật và tấn công Website - Hacker mũ trắng

Nhấn vào đây để bắt đầu khóa học ​

KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn về Moodle chuyên nghiệp và hay

Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay.

Nhấn vào đây để bắt đầu khóa học

KHÓA EXCEL CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp

Nhấn vào đây để bắt đầu khóa học

Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ

Nhấn vào đây để bắt đầu khóa học

Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi

Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng TableAU - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình 

kiếm tiền Youtube bằng phần mềm Camtasia Studio

Nhấn vào đây để bắt đầu khóa học

Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP

​​​​​

HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA

Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍

 KHÓA HỌC VIDEO- XÂY DỰNG PHẦN MỀM QUẢN LÝ BẰNG MICROSOFT ACCESS

GOOGLE SPREADSHEETS phê không tưởng

Khóa hoc lập trình bằng Python tại đây

Hãy tham gia khóa học để biết mọi thứ

Để tham gia tất cả các bài học, Bạn nhấn vào đây 

Khóa học lập trình cho bé MSWLogo

Nhấn vào đây để bắt đầu học

Khóa học Ba, Mẹ và Bé - Cùng bé lập trình  TUYỆT VỜI

Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử

Khóa học vẽ tạo giao diện demo cho website

Để thành thạo Wordpress bạn hãy tham gia khóa học 

Tham gia khóa học tại đây

Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công

Nhấn vào đây để bắt đầu khóa học

==***==

Bảo hiểm nhân thọ - Bảo vệ người trụ cột

Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

Nguồn: Tinh Tế

Share !