Những tuyên bố gần đây của các đơn vị nghiên cứu AI đều chỉ ra một thực tế, cơn sốt phát triển và vận hành mô hình ngôn ngữ nói riêng và AI nói chung đang tạo ra một cơn sốt GPU chuyên biệt phục vụ nhu cầu tính toán vector và tensor số thực dấu phẩy động, những phép tính nằm ở trung tâm của mọi thuật toán.
Phía Nvidia, đơn vị đang thống trị thị phần chip xử lý AI thì có tuyên bố rằng, hiện giờ chuỗi cung ứng chip GPU xử lý machine learning vẫn còn có thể phục vụ nhu cầu thị trường, nhưng đang phải đối mặt với một vài trở ngại nhỏ. Chính vì điều này, Microsoft, OpenAI cùng vài đơn vị lớn khác trong ngành AI đã đề cập tới những bước để giảm thiểu hệ quả tiêu cực của việc thiếu hụt nguồn cung những con chip mạnh nhất hiện giờ, H100 và A100 chẳng hạn.
Phía Nvidia thì giải thích rằng, gia công những die chip H100 kiến trúc Hopper để đảm bảo nhu cầu thị trường không phải là vấn đề, nhất là khi những con chip này được TSMC gia công. Cái khó ở đây, hay chính là trở ngại của Nvidia, chính là quá trình biến chip GPU thành sản phẩm thương mại, quá trình gọi là packaging. Cùng với đó, nguồn linh kiện để hoàn thành từng chiếc card H100 cũng là thứ khiến Nvidia không đảm bảo được nguồn cung. Họ hứa rằng, nửa sau năm 2023, nguồn cung card H100, giá trên thị trường dao động từ 35 đến 50 nghìn USD mỗi card, sẽ trở nên dồi dào hơn.
Điều đó đưa chúng ta đến với câu hỏi, rằng H100 khỏe tới mức nào mà được các tập đoàn công nghệ gom không tiếc tiền đến vậy?
Phía Nvidia, đơn vị đang thống trị thị phần chip xử lý AI thì có tuyên bố rằng, hiện giờ chuỗi cung ứng chip GPU xử lý machine learning vẫn còn có thể phục vụ nhu cầu thị trường, nhưng đang phải đối mặt với một vài trở ngại nhỏ. Chính vì điều này, Microsoft, OpenAI cùng vài đơn vị lớn khác trong ngành AI đã đề cập tới những bước để giảm thiểu hệ quả tiêu cực của việc thiếu hụt nguồn cung những con chip mạnh nhất hiện giờ, H100 và A100 chẳng hạn.
GTC 2022: Kiến trúc Hopper ra mắt, Nvidia giới thiệu CPU ARM 144 nhân & GPU Hopper GH100 4000 TFlops
Tại sự kiện GTC 2022 đang diễn ra, kiến trúc Hopper dành cho doanh nghiệp, máy chủ và hệ thống siêu máy tính chuyên nghiệp đã được Nvidia giới thiệu. Hai trong số những sản phẩm đầu tàu của kiến trúc chip xử lý này là CPU mang tên Grace…
tinhte.vn
Phía Nvidia thì giải thích rằng, gia công những die chip H100 kiến trúc Hopper để đảm bảo nhu cầu thị trường không phải là vấn đề, nhất là khi những con chip này được TSMC gia công. Cái khó ở đây, hay chính là trở ngại của Nvidia, chính là quá trình biến chip GPU thành sản phẩm thương mại, quá trình gọi là packaging. Cùng với đó, nguồn linh kiện để hoàn thành từng chiếc card H100 cũng là thứ khiến Nvidia không đảm bảo được nguồn cung. Họ hứa rằng, nửa sau năm 2023, nguồn cung card H100, giá trên thị trường dao động từ 35 đến 50 nghìn USD mỗi card, sẽ trở nên dồi dào hơn.
Điều đó đưa chúng ta đến với câu hỏi, rằng H100 khỏe tới mức nào mà được các tập đoàn công nghệ gom không tiếc tiền đến vậy?
Đầu tiên, hãy nhìn vào cấu hình của Hopper H100 so với những thế hệ GPU xử lý data center và machine learning trước đó của Nvidia:
Dễ nhận thấy yếu tố đầu tiên liên quan tới hiệu năng của Hopper H100 chính là sức mạnh huấn luyện thuật toán (training) 16-bit mạnh hơn A100 2.3 lần, và hiệu năng nội suy (inference) mạnh hơn A100 3.5 lần. Có lẽ chỉ cần hai con số đó cũng đã đủ để chứng minh cho khả năng xử lý floating point của mẫu GPU này rồi.
Câu hỏi tiếp theo, đó là vì sao H100 dù đắt thế nhưng Nvidia làm không đủ bán? Câu trả lời liên quan tới vài khía cạnh của quá trình nghiên cứu và xử lý machine learning. Để huấn luyện mô hình ngôn ngữ GPT-4, vài nguồn tin đồn nói rằng OpenAI cần từ 10 nghìn đến 25 nghìn GPU A100 kiến trúc Ampere. Thời điểm ấy Hopper H100 còn chưa ra mắt.
Trong khi đó, những startup AI ít nổi tiếng hơn như Infection AI và Coreweave đã mua lượng GPU H100 khổng lồ, chi phí được cho là ở tầm cỡ hàng tỷ USD. Thông tin này mô tả rất rõ ràng nhu cầu của thị trường AI hiện tại, khi một công ty duy nhất cũng sẵn sàng đầu tư rất mạnh tay để nghiên cứu ra một mô hình AI cơ bản tới trung bình. Thậm chí có nguồn tin còn nói rằng, Coreweave lấy chính lượng GPU H100 họ mua làm thế chấp để đi vay tiền phục vụ nghiên cứu AI, điều đó chứng tỏ được khả năng thanh khoản của những con chip xử lý cao cỡ nào.
Để giải quyết thiếu hụt nguồn cung, chắc hẳn sẽ có quan điểm cho rằng, Nvidia cứ tăng sản lượng wafer chip H100 lên là xong. Như chính Nvidia đã nói, chuyện không đơn giản như vậy.
Không như GPU chơi game và những GPU tiêu dùng hoặc phục vụ thị trường prosumer, như RTX 4090 hay RTX A6000, GPU xử lý AI của Nvidia yêu cầu nhiều bước xử lý và gia công phức tạp. Xét riêng con chip H100 trên add in board hoặc hệ thống siêu máy tính kết hợp 8 cụm GPU lại với nhau, nó được gia công trên tiến trình N4 của TSMC. Điều này khiến Nvidia trở thành đối tác với đơn hàng chip N4 lớn nhất của TSMC, khi Apple đang tập trung tăng sản lượng hai con chip A17 Bionic và M3 trên tiến trình N3.
Làm xong GPU thì phải có bộ nhớ HBM để cung cấp dữ liệu cho GPU vận hành. Để tạo ra HBM, cần những thiết bị gia công bán dẫn phức tạp và đắt tiền tới mức trên toàn thế giới, số lượng các đơn vị gia công chip nhớ HBM chỉ đếm trên đầu ngón tay: SK Hynix, Micron và Samsung.
Quảng cáo
Đảm bảo xong nguồn cung chip nhớ HBM, thì TSMC lại gặp khó khăn kế tiếp, đó là ứng dụng công nghệ Chip-on-Wafer-on-Substrate, một kỹ thuật đóng gói die chip thành phẩm dạng 2.5D để tạo ra sản phẩm thương mại. Đây là một trong những bước quan trọng nhất để tạo ra được card Hopper H100. Vì rắc rối trong bước này, TSMC đang không kịp đáp ứng đúng hẹn những đơn hàng H100 cho Nvidia. Được biết, đơn hàng cũ mà Nvidia ký kết với TSMC phải tới tháng 12 năm nay mới sản xuất đủ.
AMD Instinct MI300X 192GB: Câu trả lời của AMD trước chip xử lý AI của Nvidia
Bên cạnh những con chip xử lý máy chủ EPYC, trong đó có cả những phiên bản trang bị 3D V-cache, tại sự kiện công bố sản phẩm doanh nghiệp của AMD, GPU flagship phục vụ xử lý HPC, data center nói chung và AI nói riêng…
tinhte.vn
Nhiều nhà phân tích thị trường cho rằng, nếu chỉ xét riêng Nvidia, thì cơn sốt chip AI sẽ chỉ trở nên nóng hơn trong những tháng cuối năm 2023. Và đó chính xác là cơ hội để AMD nhảy vào thị trường chip xử lý AI với Instinct MI300, với hai phiên bản MI300A và MI300X, dự kiến ra mắt vào cuối năm nay.
Giữa lúc các đơn vị và tập đoàn công nghệ chạy đua phát triển công nghệ AI, không mua được A100 hay H100, chắc chắn họ sẽ chuyển qua "dùng tạm" sản phẩm của đối thủ cạnh tranh vì chúng sẵn hàng. Dù MI300 series cũng được sản xuất và đóng gói thành phẩm dựa trên kỹ thuật CoWoS y hệt như H100, nhưng sản lượng chip này, theo TSMC, chỉ bằng một nửa so với Nvidia, dẫn tới dự đoán cho rằng đơn hàng sẽ được hoàn thành sớm hơn.
Theo WCCFTech, Techspot
CHUYÊN MỤC NGHỆ THUẬT LÀM GIÀU BỀN VỮNG
Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI 
==***==
Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp
==***==
Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
---
Khóa học Hacker và Marketing từ A-Z trên ZALO!
Khóa học Hacker và Marketing từ A-Z trên Facebook!
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP 
Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán 
Khóa học hướng dẫn về Moodle chuyên nghiệp và hay Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay. 
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp 
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu 
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ 
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi 
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel 
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao 
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình kiếm tiền Youtube bằng phần mềm Camtasia Studio 
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP 
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍 
GOOGLE SPREADSHEETS phê không tưởng 
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử 
Để thành thạo Wordpress bạn hãy tham gia khóa học 
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công 
==***== Bảo hiểm nhân thọ - Bảo vệ người trụ cột 
Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
kiếm tiền Youtube bằng phần mềm Camtasia Studio
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA
Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍
GOOGLE SPREADSHEETS phê không tưởng
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử
Để thành thạo Wordpress bạn hãy tham gia khóa học
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công
==***==
Bảo hiểm nhân thọ - Bảo vệ người trụ cột
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Nguồn: Tinh Tế
Topics: Công nghệ mới
