Nvidia Eos: Siêu máy tính xử lý AI, 4608 GPU H100, xếp thứ 9 trong danh sách Top500

Hồi tháng 11/2023, Nvidia đã hé lộ siêu máy tính Eos tại hội thảo Supercomputing Conference, nhưng chưa tiết lộ cấu hình chi tiết. Đến thời điểm hiện tại, bức hình đầu tiên chụp bên trong căn phòng lắp đặt hệ thống siêu máy tính này đã được chia sẻ, cùng với đó là cấu hình chi tiết của Eos.

Nvidia trang bị cho Eos 576 hệ thống DGX H100. Mỗi cluster DGX H100 bao gồm 8 GPU H100 kiến trúc Hopper, hiện tại đang là một trong những món hàng hot nhất trên thị trường nghiên cứu, huấn luyện và vận hành thuật toán AI, với cụm tensor core cực mạnh phục vụ tính toán số thực dấu phẩy động. Tổng cộng Eos có 4608 GPU H100, kết nối với nhau thông qua cầu nối Nvidia Quantum-2 InfiniBand. Với cấu hình như thế này, Eos tạo ra sức mạnh xử lý số thực dấu phẩy động FP8 18.4 exaflops.

Với băng thông bộ nhớ 400 Gbps, Eos đủ sức mạnh xử lý nhiều tác vụ, từ huấn luyện mô hình ngôn ngữ, mô phỏng mô hình lượng tử hay những tác vụ AI khác.

Hồi năm ngoái, Nvidia Eos đã khiến công chúng để mắt, khi lọt vào vị trí thứ 9 trong danh sách Top500, xếp hạng những hệ thống siêu máy tính mạnh nhất hành tinh. Hiện tại siêu máy tính mạnh nhất thế giới đang là Frontier, trang bị CPU AMD EPYC, đặt ở phòng thí nghiệm quốc gia Oak Ridge, Tennessee, Mỹ, với sức mạnh đo bằng benchmark HPL đạt ngưỡng 1194 Petaflops. Nvidia Eos cùng bài test chỉ đạt 121.4 petaflops mà thôi.

Xếp hạng siêu máy tính Top500: Frontier chip AMD EPYC mạnh nhất, Aurora chip Intel Xeon thứ nhì

Top500.org vừa công bố danh sách những siêu máy tính mạnh nhất hành tinh, tính theo sức mạnh xử lý số thực dấu phẩy động petaflop và exaflop. Sau khi hạ bệ Fugaku của người Nhật Bản với những con chip kiến trúc ARM A64FX do Fujitsu sản xuất…

tinhte.vn

Sức mạnh của Eos không chỉ đơn thuần nằm ở việc tính toán số thực dấu phẩy động. Tháng 11 năm ngoái, Eos hoàn thành benchmark huấn luyện mô hình ngôn ngữ của MLPerf, dựa trên mô hình GPT-3 với 175 tỷ tham số, huấn luyện dựa trên 1 tỷ token, và hệ thống siêu máy tính này hoàn tất bài thử nghiệm chỉ trong 3.9 phút, thời gian cải thiện gấp 3 lần so với kết quả 10.9 phút đo được 6 tháng trước đó.



Nvidia cho biết, vì bài benchmark này sử dụng một phần của gói dữ liệu GPT-3 hoàn chỉnh, nên nhờ giải pháp ngoại suy, hệ thống Eos có thể huấn luyện cả một mô hình ngôn ngữ nhanh hơn gấp 73 lần so với một hệ thống trang bị 512 GPU A100, vốn là sản phẩm mạnh nhất trên thị trường huấn luyện AI khi GPT-3 ra mắt hồi năm 2020.

Cùng với đó, Eos cũng đi kèm với gói phần mềm tích hợp khá sâu để giúp ích cho quá trình phát triển cũng như vận hành AI, bao gồm khả năng "chia việc" và quản lý từng cluster DGX H100, tăng tốc bộ nhớ và thư viện dữ liệu, cũng như hệ điều hành được tối ưu cho những tác vụ AI.

Theo Techspot

Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI

Nhấn vào đây để bắt đầu khóa học

==***==

Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp

Nhấn vào đây để bắt đầu khóa học

==***==

Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo

Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com

Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

--- 

Khóa học Hacker và Marketing từ A-Z trên ZALO!

Nhấn vào đây để bắt đầu khóa học

Khóa học Hacker và Marketing từ A-Z trên Facebook!

Nhấn vào đây để bắt đầu khóa học

Khóa đào tạo Power BI phân tích báo cáo để bán hàng thành công

Nhấn vào đây để bắt đầu khóa học

Bảo mật và tấn công Website - Hacker mũ trắng

Nhấn vào đây để bắt đầu khóa học ​

KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn về Moodle chuyên nghiệp và hay

Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay.

Nhấn vào đây để bắt đầu khóa học

KHÓA EXCEL CHUYÊN NGHIỆP

Nhấn vào đây để bắt đầu khóa học

Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp

Nhấn vào đây để bắt đầu khóa học

Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu

Nhấn vào đây để bắt đầu khóa học

Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ

Nhấn vào đây để bắt đầu khóa học

Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi

Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel

Nhấn vào đây để bắt đầu khóa học

Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng TableAU - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!

Nhấn vào đây để bắt đầu khóa học

Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình 

kiếm tiền Youtube bằng phần mềm Camtasia Studio

Nhấn vào đây để bắt đầu khóa học

Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP

​​​​​

HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA

Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍

 KHÓA HỌC VIDEO- XÂY DỰNG PHẦN MỀM QUẢN LÝ BẰNG MICROSOFT ACCESS

GOOGLE SPREADSHEETS phê không tưởng

Khóa hoc lập trình bằng Python tại đây

Hãy tham gia khóa học để biết mọi thứ

Để tham gia tất cả các bài học, Bạn nhấn vào đây 

Khóa học lập trình cho bé MSWLogo

Nhấn vào đây để bắt đầu học

Khóa học Ba, Mẹ và Bé - Cùng bé lập trình  TUYỆT VỜI

Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử

Khóa học vẽ tạo giao diện demo cho website

Để thành thạo Wordpress bạn hãy tham gia khóa học 

Tham gia khóa học tại đây

Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công

Nhấn vào đây để bắt đầu khóa học

==***==

Bảo hiểm nhân thọ - Bảo vệ người trụ cột

Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com

Nguồn: Tinh Tế

Share !