Micron vừa bắt đầu gửi mẫu cho khách hàng module LPDRAM SOCAMM2 dung lượng 256 GB, được hãng giới thiệu là module LPDRAM dung lượng cao nhất hiện nay cho hạ tầng trung tâm dữ liệu, hướng đến các hệ thống AI và HPC cần bộ nhớ nhiều nhưng tiết kiệm điện.
Micron cho biết họ sử dụng thiết kế module LPDDR5X 32 Gb dạng monolithic, qua đó mở đường cho các cấu hình bộ nhớ công suất thấp nhưng dung lượng lớn, phục vụ các máy chủ mới trong bối cảnh AI training, inference, agentic AI và tác vụ tính toán phổ thông đang đồng thời làm phình nhu cầu bộ nhớ.
Theo Micron, các mô hình AI hiện đại ngày càng đòi hỏi cửa sổ ngữ cảnh lớn, tham số mô hình nặng hơn và đặc biệt là KV cache, khiến dung lượng, hiệu quả băng thông, độ trễ và hiệu quả điện năng trở thành nút thắt trực tiếp chi phối hiệu năng, khả năng mở rộng cũng như tổng chi phí sở hữu của hệ thống.
Về lợi ích ở cấp hệ thống, Micron cho biết 1 thanh SOCAMM2 256GB mang lại mức dung lượng cao hơn 33% so với thế hệ 192GB trước đó và có thể đạt tổng 2 TB LPDRAM trên một CPU 8 kênh, nhằm đáp ứng các bài toán inference ngữ cảnh dài và suy luận phức tạp. Bên cạnh đó, hãng nhấn mạnh module này tiêu thụ khoảng 1/3 điện năng và chỉ chiếm 1/3 diện tích so với RDIMM, qua đó cải thiện mật độ lắp đặt trong rack và giúp tối ưu TCO cho trung tâm dữ liệu.
Ở khía cạnh triển khai, Micron nhấn mạnh SOCAMM2 là thiết kế dạng module nhằm tăng khả năng bảo trì, hỗ trợ kiến trúc máy chủ làm mát bằng chất lỏng và tạo dư địa nâng cấp dung lượng trong tương lai khi nhu cầu bộ nhớ cho AI và core compute tiếp tục tăng. Đồng thời, Micron cho biết đang phối hợp với NVIDIA để đồng thiết kế bộ nhớ phục vụ hạ tầng AI tiên tiến và phía NVIDIA cũng khẳng định việc tăng dung lượng và băng thông với mức điện năng thấp hơn so với bộ nhớ máy chủ truyền thống là yếu tố giúp thúc đẩy thế hệ CPU AI tiếp theo.
Micron nói họ đang chờ JEDEC chuẩn hóa cho SOCAMM2 và hiện đã bắt đầu giao các lô đầu tiên của SOCAMM2 256 GB, đồng thời quảng bá danh mục LPDRAM cho trung tâm dữ liệu trải dài từ 8–64 GB đến module SOCAMM2 48–256 GB.
TechPowerUp.
Micron cho biết họ sử dụng thiết kế module LPDDR5X 32 Gb dạng monolithic, qua đó mở đường cho các cấu hình bộ nhớ công suất thấp nhưng dung lượng lớn, phục vụ các máy chủ mới trong bối cảnh AI training, inference, agentic AI và tác vụ tính toán phổ thông đang đồng thời làm phình nhu cầu bộ nhớ.
Theo Micron, các mô hình AI hiện đại ngày càng đòi hỏi cửa sổ ngữ cảnh lớn, tham số mô hình nặng hơn và đặc biệt là KV cache, khiến dung lượng, hiệu quả băng thông, độ trễ và hiệu quả điện năng trở thành nút thắt trực tiếp chi phối hiệu năng, khả năng mở rộng cũng như tổng chi phí sở hữu của hệ thống.
Về lợi ích ở cấp hệ thống, Micron cho biết 1 thanh SOCAMM2 256GB mang lại mức dung lượng cao hơn 33% so với thế hệ 192GB trước đó và có thể đạt tổng 2 TB LPDRAM trên một CPU 8 kênh, nhằm đáp ứng các bài toán inference ngữ cảnh dài và suy luận phức tạp. Bên cạnh đó, hãng nhấn mạnh module này tiêu thụ khoảng 1/3 điện năng và chỉ chiếm 1/3 diện tích so với RDIMM, qua đó cải thiện mật độ lắp đặt trong rack và giúp tối ưu TCO cho trung tâm dữ liệu.
Ở khía cạnh triển khai, Micron nhấn mạnh SOCAMM2 là thiết kế dạng module nhằm tăng khả năng bảo trì, hỗ trợ kiến trúc máy chủ làm mát bằng chất lỏng và tạo dư địa nâng cấp dung lượng trong tương lai khi nhu cầu bộ nhớ cho AI và core compute tiếp tục tăng. Đồng thời, Micron cho biết đang phối hợp với NVIDIA để đồng thiết kế bộ nhớ phục vụ hạ tầng AI tiên tiến và phía NVIDIA cũng khẳng định việc tăng dung lượng và băng thông với mức điện năng thấp hơn so với bộ nhớ máy chủ truyền thống là yếu tố giúp thúc đẩy thế hệ CPU AI tiếp theo.
Micron nói họ đang chờ JEDEC chuẩn hóa cho SOCAMM2 và hiện đã bắt đầu giao các lô đầu tiên của SOCAMM2 256 GB, đồng thời quảng bá danh mục LPDRAM cho trung tâm dữ liệu trải dài từ 8–64 GB đến module SOCAMM2 48–256 GB.
Chuẩn bộ nhớ CAMM2 của JEDEC - Không cần quan tâm tới dual-channel!
Một thiết kế module nhớ do hãng Dell phát triển 4 năm trước giờ đây đang được hiệp hội JEDEC xem xét đưa lên thành tiêu chuẩn công nghiệp chung. Trong vài chục năm qua, tiêu chuẩn module bộ nhớ RAM (phân biệt với chip nhớ DRAM) của thế giới hầu...
tinhte.vn
TechPowerUp.
Khóa học Machine Learning cơ bản- Khoa học dữ liệu - AI 
==***==
Khoá học Quản trị Chiến lược Dành cho Lãnh đạo Doanh nghiệp
==***==
Nơi hội tụ Tinh Hoa Tri Thức - Khơi nguồn Sáng tạo
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
---
Khóa học Hacker và Marketing từ A-Z trên ZALO!
Khóa học Hacker và Marketing từ A-Z trên Facebook!
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP 
Khóa học Lập trình Visual Foxpro 9 - Dành cho nhà quản lý và kế toán 
Khóa học hướng dẫn về Moodle chuyên nghiệp và hay Xây dựng hệ thống đào tạo trực tuyến chuyên nghiệp tốt nhất hiện nay. 
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp 
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu 
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ 
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi 
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel 
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao 
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
Khóa học "Thiết kế bài giảng điện tử", Video, hoạt hình kiếm tiền Youtube bằng phần mềm Camtasia Studio 
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP 
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍 
GOOGLE SPREADSHEETS phê không tưởng 
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử 
Để thành thạo Wordpress bạn hãy tham gia khóa học 
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công 
==***== Bảo hiểm nhân thọ - Bảo vệ người trụ cột 
Cập nhật công nghệ từ Youtube tại link: congnghe.hocviendaotao.com
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Bảo mật và tấn công Website - Hacker mũ trắng
KHÓA HỌC LẬP TRÌNH PYTHON TỪ CƠ BẢN ĐẾN CHUYÊN NGHIỆP
Khóa học AutoIt dành cho dân IT và Marketing chuyên nghiệp
Khoá học Word từ cơ bản tới nâng cao, học nhanh, hiểu sâu
Khóa học hướng dẫn sử dụng Powerpoint từ đơn giản đến phức tạp HIỆU QUẢ
Khóa học Thiết kế, quản lý dữ liệu dự án chuyên nghiệp cho doanh nghiệp bằng Bizagi
Khóa học Phân tích dữ liệu sử dụng Power Query trong Excel
Khóa học Lập trình WEB bằng PHP từ cơ bản đến nâng cao
Khóa học Phân tích dữ liệu sử dụng SPSS - Chìa khóa thành công!
kiếm tiền Youtube bằng phần mềm Camtasia Studio
Khóa học HƯỚNG DẪN THIẾT KẾ VIDEO CLIP CHO DÂN MARKETING CHUYÊN NGHIỆP
HƯỚNG DẪN THIẾT KẾ QUẢNG CÁO VÀ ĐỒ HỌA CHUYÊN NGHIỆP VỚI CANVA
Hãy tham gia khóa học để trở thành người chuyên nghiệp. Tuyệt HAY!😲👍
GOOGLE SPREADSHEETS phê không tưởng
Hãy tham gia khóa học để biết mọi thứ
Khóa học Ba, Mẹ và Bé - Cùng bé lập trình TUYỆT VỜI
Khóa học sử dụng Adobe Presenter-Tạo bài giảng điện tử
Để thành thạo Wordpress bạn hãy tham gia khóa học
Khóa học sử dụng Edmodo để dạy và học hiện đại để thành công
==***==
Bảo hiểm nhân thọ - Bảo vệ người trụ cột
Tham gia nhóm Facebook
Để tham gia khóa học công nghệ truy cập link: http://thuvien.hocviendaotao.com
Mọi hỗ trợ về công nghệ email: dinhanhtuan68@gmail.com
Nguồn: Tinh Tế
Topics: Công nghệ mới
