Trên MXH X, tỷ phú Elon Musk vừa chia sẻ những hình ảnh khởi động "cluster huấn luyện mô hình AI mạnh nhất hành tinh", thứ sẽ được startup nghiên cứu xAI của ông tạo ra "AI mạnh nhất thế giới xét trên mọi thước đo trước tháng 12 năm nay." Cụm siêu máy chủ này có tên Memphis Supercluster, đã bắt đầu khởi động để huấn luyện mô hình ngôn ngữ do xAI phát triển, thông qua 100 nghìn GPU Nvidia H100 làm mát bằng chất lỏng, kết nối với nhau bằng cầu nối đơn RDMA (remote direct memory access).
![[IMG]](https://photo2.tinhte.vn/data/attachment-files/2024/07/8402491_Screenshot_2024-07-24_141450.jpg)
Hồi tháng 5, đã có những thông tin nói về tham vọng của Elon Musk, muốn mở một "siêu nhà máy điện toán", khái niệm được ông hay sử dụng khi mô tả những "siêu nhà máy" (gigafactory) sản xuất xe điện của Tesla, chẳng hạn như một cái ở Thượng Hải, Trung Quốc, hay hai siêu nhà máy khác tọa lạc tại bang Texas và Nevada ở Mỹ. Musk muốn xây dựng siêu nhà máy điện toán trước mùa thu năm 2025.
Ở thời điểm ấy, Elon Musk cùng các kỹ sư xAI đã bắt đầu công việc thiết kế và xây dựng cụm supercluster xử lý huấn luyện mô hình AI. Khi ấy, vị tỷ phú đã nhấn mạnh vào sự cần thiết đầu tư những mẫu GPU Nvidia H100. Điều này trong mắt các nhà phân tích, cho thấy có vẻ như Elon Musk không đủ kiên nhẫn chờ đợi H200, mẫu GPU mà Nvidia sản xuất không đủ đáp ứng đơn hàng. Còn B100 và B200 kiến trúc Blackwell phải tới cuối năm nay mới giao cho các đối tác, thời điểm ra mắt hoàn toàn lệch với tham vọng và lịch trình mà Musk muốn.
Anh em có thể nhầm lẫn rằng Memphis Supercluster chính là "Gigafactory xử lý AI" của Musk, và nó được "khai trương" sớm hẳn 1 năm. Nhưng kỳ thực Memphis Supercluster chỉ là một phần của toàn bộ "siêu nhà máy nghiên cứu và vận hành AI" Musk muốn xây dựng, và cũng có thể những nguồn tin của Reuters và The Information đã đưa ra thông tin không cập nhật về thời điểm vận hành dự án siêu máy tính nghiên cứu AI của startup Musk sở hữu.
Trong tấm hình ở cover, được trang của xAI trên MXH X chia sẻ, những cụm máy chủ được Supermicro cung cấp. Chính CEO của Supermicro, Charles Liang cũng đã bình luận vào bài đăng của Elon Musk: "Rất mừng được chung tay tạo ra lịch sử với Elon Musk, đây là một trải nghiệm tuyệt vời khi được làm việc với nhóm kỹ sư phát triển cụm siêu máy tính Memphis của anh. Để đạt được mục tiêu, cách chúng tôi làm việc phải hoàn hảo nhất, nhanh nhất, hiệu quả nhất và thân thiện với môi trường nhất có thể."
Trong đoạn Tweet kế tiếp, Musk giải thích, supercluster với 100 nghìn GPU H100 này sẽ được dùng "huấn luyện mô hình AI mạnh nhất hành tinh." Dựa trên những tuyên bố trước đó, rất có thể hệ thống này sẽ được dùng để huấn luyện Grok 3. Musk cho biết, LLM này sẽ hoàn tất quá trình huấn luyện vào khoảng tháng 12 năm nay.
Để dễ so sánh, 100 nghìn GPU H100 bên trong Memphis Supercluster của xAI và Elon Musk vượt xa sức mạnh xử lý GPU của tất cả mọi hệ thống siêu máy tính nằm trong danh sách Top500 hiện tại. Lấy ví dụ, hệ thống siêu máy tính mạnh nhất hành tinh hiện tại là Frontier với 37.888 GPU của AMD, hay kế đến là Aurora với 60 nghìn GPU Intel, rồi kế đến là Microsoft Eagle với 14.400 GPU Nvidia H100 đều sẽ có tốc độ huấn luyện mô hình ngôn ngữ AI thua xa với Memphis Supercluster của Musk.
Theo Tom's Hardware
Hồi tháng 5, đã có những thông tin nói về tham vọng của Elon Musk, muốn mở một "siêu nhà máy điện toán", khái niệm được ông hay sử dụng khi mô tả những "siêu nhà máy" (gigafactory) sản xuất xe điện của Tesla, chẳng hạn như một cái ở Thượng Hải, Trung Quốc, hay hai siêu nhà máy khác tọa lạc tại bang Texas và Nevada ở Mỹ. Musk muốn xây dựng siêu nhà máy điện toán trước mùa thu năm 2025.
Ở thời điểm ấy, Elon Musk cùng các kỹ sư xAI đã bắt đầu công việc thiết kế và xây dựng cụm supercluster xử lý huấn luyện mô hình AI. Khi ấy, vị tỷ phú đã nhấn mạnh vào sự cần thiết đầu tư những mẫu GPU Nvidia H100. Điều này trong mắt các nhà phân tích, cho thấy có vẻ như Elon Musk không đủ kiên nhẫn chờ đợi H200, mẫu GPU mà Nvidia sản xuất không đủ đáp ứng đơn hàng. Còn B100 và B200 kiến trúc Blackwell phải tới cuối năm nay mới giao cho các đối tác, thời điểm ra mắt hoàn toàn lệch với tham vọng và lịch trình mà Musk muốn.
Anh em có thể nhầm lẫn rằng Memphis Supercluster chính là "Gigafactory xử lý AI" của Musk, và nó được "khai trương" sớm hẳn 1 năm. Nhưng kỳ thực Memphis Supercluster chỉ là một phần của toàn bộ "siêu nhà máy nghiên cứu và vận hành AI" Musk muốn xây dựng, và cũng có thể những nguồn tin của Reuters và The Information đã đưa ra thông tin không cập nhật về thời điểm vận hành dự án siêu máy tính nghiên cứu AI của startup Musk sở hữu.
Trong tấm hình ở cover, được trang của xAI trên MXH X chia sẻ, những cụm máy chủ được Supermicro cung cấp. Chính CEO của Supermicro, Charles Liang cũng đã bình luận vào bài đăng của Elon Musk: "Rất mừng được chung tay tạo ra lịch sử với Elon Musk, đây là một trải nghiệm tuyệt vời khi được làm việc với nhóm kỹ sư phát triển cụm siêu máy tính Memphis của anh. Để đạt được mục tiêu, cách chúng tôi làm việc phải hoàn hảo nhất, nhanh nhất, hiệu quả nhất và thân thiện với môi trường nhất có thể."
Trong đoạn Tweet kế tiếp, Musk giải thích, supercluster với 100 nghìn GPU H100 này sẽ được dùng "huấn luyện mô hình AI mạnh nhất hành tinh." Dựa trên những tuyên bố trước đó, rất có thể hệ thống này sẽ được dùng để huấn luyện Grok 3. Musk cho biết, LLM này sẽ hoàn tất quá trình huấn luyện vào khoảng tháng 12 năm nay.
Để dễ so sánh, 100 nghìn GPU H100 bên trong Memphis Supercluster của xAI và Elon Musk vượt xa sức mạnh xử lý GPU của tất cả mọi hệ thống siêu máy tính nằm trong danh sách Top500 hiện tại. Lấy ví dụ, hệ thống siêu máy tính mạnh nhất hành tinh hiện tại là Frontier với 37.888 GPU của AMD, hay kế đến là Aurora với 60 nghìn GPU Intel, rồi kế đến là Microsoft Eagle với 14.400 GPU Nvidia H100 đều sẽ có tốc độ huấn luyện mô hình ngôn ngữ AI thua xa với Memphis Supercluster của Musk.
Theo Tom's Hardware
Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI 
==***==
Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp
==***==
Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
---
Khóa học Hacker và Marketing từ A-Z trên ZALO!
Khóa học Hacker và Marketing từ A-Z trên Facebook!
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP 
Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán 
Khóa học hướng dẫn về Moodle chuyên nghiệp và hay Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay. 
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp 
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu 
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ 
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi 
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel 
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao 
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình kiếm tiền Youtube bằng phần mềm Camtasia Studio 
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP 
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍 
GOOGLE SPREADSHEETS phê không tưởng 
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử 
Để thành thạo Wordpress bạn hãy tham gia khóa học 
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công 
==***== Bảo hiểm nhân thọ - Bảo vệ người trụ cột 
Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
kiếm tiền Youtube bằng phần mềm Camtasia Studio
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA
Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍
GOOGLE SPREADSHEETS phê không tưởng
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử
Để thành thạo Wordpress bạn hãy tham gia khóa học
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công
==***==
Bảo hiểm nhân thọ - Bảo vệ người trụ cột
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Nguồn: Tinh Tế
Topics: Công nghệ mới
