Micron ra mắt bộ nhớ máy chủ DDR5 512GB, dự kiến giảm hơn 60% điện năng tiêu thụ vận hành

TradingKey - Micron Technology (MU) đã thông báo vào ngày 15 tháng 9 rằng họ đã trình diễn thành công module DDR5 RDIMM 512GB đầu tiên trên thế giới với tốc độ lên tới 9.200 MT/s trên nhiều nền tảng máy chủ. Theo thông cáo báo chí chính thức từ Micron, module này sử dụng công nghệ đóng gói kết nối dọc tiên tiến, cho phép một máy chủ dual-socket 24 khe cắm duy nhất hỗ trợ dung lượng bộ nhớ DDR5 lên tới 12TB, đồng thời giảm hơn 60% mức tiêu thụ điện năng vận hành so với bốn module RDIMM 128GB.

Các mô hình ngôn ngữ lớn (LLM), AI đại lý (agentic AI), suy luận thời gian thực và khối lượng công việc CPU nhiều nhân là những động lực chính thúc đẩy làn sóng nhu cầu bộ nhớ máy chủ này. Nếu dung lượng không đáp ứng kịp, dữ liệu phải liên tục truyền qua lại giữa bộ nhớ và các tầng lưu trữ chậm hơn, làm tăng cả độ trễ lẫn mức tiêu thụ điện năng. Giá trị của module RDIMM 512GB nằm ở việc duy trì các tập dữ liệu lớn hơn trong bộ nhớ chính, giảm sự phụ thuộc vào các tầng lưu trữ chậm hơn và giảm thiểu việc truyền dữ liệu tốn kém.

Ông Darrin Alves, Giám đốc Thông tin Nền tảng Hạ tầng tại JPMorgan Chase, cho biết công nghệ bộ nhớ dung lượng cao hơn giúp các doanh nghiệp hỗ trợ khối lượng công việc xử lý trên bộ nhớ lớn hơn, cải thiện hiệu suất sử dụng tài nguyên và nâng cao tính linh hoạt khi mở rộng quy mô theo yêu cầu của môi trường tính toán hiện đại.

Đối với các nhà vận hành trung tâm dữ liệu, một điểm nổi bật lớn khác của module bộ nhớ mật độ siêu cao này là hiệu quả năng lượng. So với cấu hình sử dụng bốn module 128GB, một module 512GB duy nhất giúp giảm hơn 60% mức tiêu thụ điện năng vận hành, hứa hẹn cắt giảm lượng điện tiêu thụ của trung tâm dữ liệu trong khi vẫn mở rộng dung lượng bộ nhớ.

Đột phá công nghệ bộ nhớ của Micron: Từ việc thêm khe cắm đến xếp chồng theo chiều dọc

Trước đây, phương pháp truyền thống để tăng dung lượng bộ nhớ máy chủ là lắp thêm nhiều mô-đun bộ nhớ vào bo mạch, nhưng phải đánh đổi bằng việc gia tăng đồng thời mức tiêu thụ điện năng, lượng nhiệt tỏa ra và số lượng khe cắm.

Lần này, Micron tập trung vào công nghệ đóng gói: xếp chồng nhiều die DRAM theo chiều dọc và kết nối chúng bằng công nghệ kết nối xuyên qua silicon (TSV) nhằm đẩy mật độ lên mức tối đa trong một gói DRAM duy nhất, đồng thời duy trì hiệu suất đáp ứng yêu cầu của các kiến trúc trung tâm dữ liệu hiện đại. Nhờ một mô-đun duy nhất thay thế cho nhiều thanh bộ nhớ, các nhà sản xuất máy chủ không cần phải thiết kế lại toàn bộ hệ thống để tăng dung lượng.

Ông Raj Narasimhan, Phó Chủ tịch Cấp cao kiêm Tổng Giám đốc Khối Kinh doanh Bộ nhớ Đám mây của Micron, cho biết Micron tiếp tục thúc đẩy nhịp độ phát triển của công nghệ bộ nhớ, trong đó sản phẩm RDIMM 512GB giúp máy chủ đạt dung lượng bộ nhớ lên tới hàng terabyte ngay trong kích thước vật lý hiện tại, hỗ trợ các khối lượng công việc AI và cơ sở dữ liệu lớn hơn, mật độ ảo hóa cao hơn cùng hiệu quả năng lượng vượt trội.

Theo Micron, mức tiêu thụ điện năng vận hành của RDIMM 512GB thấp hơn trên 60% so với 4 mô-đun RDIMM 128GB. Với cùng dung lượng 512GB, phương án trước dựa vào một mô-đun duy nhất, một tập hợp đường truyền tín hiệu và một hệ thống cấp nguồn duy nhất, trong khi phương án sau yêu cầu 4 mô-đun hoạt động song song.

Micron khẳng định rằng đối với các khối lượng công việc phân tích bị giới hạn bởi bộ nhớ như Spark Support Vector Machines (SVM), RDIMM 512GB mang lại mức tăng hiệu suất lên tới 1,4 lần so với cấu hình DDR5 256GB. Đối với các nền tảng cơ sở dữ liệu và bộ nhớ đệm tiêu tốn nhiều bộ nhớ như RocksDB và Redis, dung lượng mô-đun đơn cao hơn sẽ mang lại thông lượng cao hơn, khả năng xử lý đồng thời lớn hơn và việc mở rộng tập dữ liệu dễ dàng hơn.

AMD và Intel đồng thời thúc đẩy xác thực hệ sinh thái

AMD và Intel hiện đang đánh giá xác minh thanh 512GB DDR5 RDIMM này.

Amit Goel, Phó chủ tịch phụ trách Kỹ thuật Giải pháp Nền tảng AI Doanh nghiệp và Tính toán tại AMD, cho biết khi AI và các khối lượng công việc thâm dụng dữ liệu tái định hình nhu cầu hạ tầng, sự hợp tác kỹ thuật giữa AMD và Micron sẽ kết nối đổi mới sáng tạo giữa tính toán và bộ nhớ, giúp khách hàng khai phá trọn vẹn giá trị của các nền tảng dựa trên AMD.

Karin Eibschitz Segal, Tổng giám đốc Kỹ thuật Nền tảng và Hệ thống thuộc Nhóm Trung tâm Dữ liệu tại Intel, lưu ý rằng sự tăng trưởng của AI và các khối lượng công việc thâm dụng dữ liệu khác đang nâng cao yêu cầu đối với hạ tầng máy chủ, trong đó dung lượng và băng thông bộ nhớ ngày càng đóng vai trò then chốt đối với hiệu suất tổng thể của hệ thống; Intel đang xác minh thanh 512GB DDR5 RDIMM cùng Micron để chuẩn bị cho các nền tảng máy chủ thế hệ tiếp theo.

Micron dự kiến thanh 512GB RDIMM sẽ đi vào sản xuất hàng loạt trong nửa cuối năm 2027, điều chỉnh mốc thời gian phù hợp với nhu cầu của khách hàng. Hiện tại, thanh 512GB DDR5 RDIMM này đã được thử nghiệm trình diễn trên nhiều nền tảng máy chủ, với việc cả AMD và Intel đều đang tiến hành xác minh đồng thời; tuy nhiên, vẫn còn một khoảng thời gian khoảng một năm rưỡi từ lúc trình diễn đến triển khai trên quy mô lớn. Trong giai đoạn này, trọng tâm cạnh tranh trong lĩnh vực bộ nhớ máy chủ sẽ chuyển từ "cắm thêm nhiều module" sang "xếp chồng cao hơn trên mỗi module". Sự cân bằng giữa dung lượng, băng thông và hiệu quả năng lượng sẽ quyết định kích thước mô hình và mức độ hoạt động của cơ sở dữ liệu mà các máy chủ AI thế hệ tiếp theo có thể đáp ứng.