zHBM! Samsung công bố lộ trình bộ nhớ 3D hoàn toàn mới, quyết tâm dẫn đầu trong lĩnh vực công nghệ AI

Samsung Electronics đang tích cực quảng bá những cải tiến về hiệu suất và hiệu quả năng lượng của phần cứng bộ nhớ tiên tiến nhất của mình, nhằm vượt qua SK Hynix và Micron Technology trong cuộc cạnh tranh khốc liệt.

Vào ngày 4 tháng 8 theo giờ địa phương, tại Hội nghị thượng đỉnh ngành lưu trữ thường niên FMS, Samsung Electronics đã chính thức công bố hai sản phẩm ý tưởng zHBM và zNAND-O, cùng với V10 BV-NAND – sản phẩm đầu tiên trong ngành sử dụng công nghệ kết dính wafer và có số lớp xếp chồng hơn 400.

Trong đó, zHBM sẽ xếp chồng trực tiếp bộ nhớ băng thông cao lên trên chip tăng tốc AI, dự kiến hiệu suất gấp khoảng 8 lần HBM5 thế hệ tiếp theo.

Những công nghệ này được ra mắt trong bối cảnh ngành công nghiệp bộ nhớ đang cạnh tranh quyết liệt. Wall Street Insights đã đề cập, SK Hynix cùng với SanDisk đã công bố tiêu chuẩn toàn cầu đầu tiên cho Bộ nhớ Flash Băng thông cao (HBF) tại hội nghị này.

Công nghệ HBF được định vị là một tầng lưu trữ mới giữa Bộ nhớ Băng thông cao (HBM) và Ổ cứng thể rắn (SSD), nhằm giải quyết đồng thời các vấn đề về nút cổ chai băng thông và mở rộng dung lượng cho các kịch bản suy luận AI.

zHBM là tầm nhìn công nghệ được thị trường quan tâm nhất trong lần ra mắt này.

Trong các thiết kế hiện tại, bộ nhớ HBM được xếp chồng cùng AI chip qua lớp trung gian silicon, tích hợp song song trong cùng một bao bì, ngành thường gọi là đóng gói 2.5D. Các công ty như AMD, Nvidia đều sử dụng phương án này cho các ứng dụng AI cao cấp.

zHBM của Samsung thì phá vỡ khuôn mẫu này, xếp chồng trực tiếp HBM lên trên chip tăng tốc AI.

Samsung cho biết, bằng việc rút ngắn đáng kể khoảng cách truyền dữ liệu giữa bộ xử lý AI và bộ nhớ, zHBM có thể cung cấp băng thông cao hơn và hiệu quả năng lượng vượt trội, đáp ứng nhu cầu xử lý dữ liệu siêu tốc cho huấn luyện và suy luận AI quy mô lớn.

Theo thông số kỹ thuật Samsung công bố, kết hợp công nghệ kết dính wafer thế hệ tiếp theo, mật độ bộ nhớ của zHBM có thể đạt hơn 10 lần so với HBM5, hiệu quả năng lượng cải thiện 3 lần, điện trở nhiệt giảm trên 50%.

Công nghệ này còn hỗ trợ tích hợp IP tùy chỉnh, cho phép chèn thiết kế đặc biệt vào lớp trung gian giữa bộ nhớ và chip tăng tốc AI, từ đó mở rộng thêm dung lượng bộ nhớ và cải thiện hiệu suất tăng tốc AI.

Samsung dự kiến thời điểm sản xuất hàng loạt công nghệ này vào khoảng năm 2029, hiện vẫn chưa có thời gian biểu cụ thể cho HBM5 hoặc zHBM.

Trong khi đó, Samsung cho biết đã tiên phong sản xuất hàng loạt HBM4 dựa trên tiến trình 1c DRAM và die nền tảng 4nm vào tháng 2 năm nay, và vào tháng 5 đã gửi lô mẫu HBM4E đầu tiên cho khách hàng toàn cầu.

Samsung đồng thời ra mắt zNAND-O, đây là giải pháp NAND hiệu suất cao thế hệ tiếp theo được xây dựng dựa trên công nghệ V-NAND của hãng, mục tiêu sản xuất hàng loạt vào năm 2028, với hai phiên bản 4 lớp và 8 lớp.

Xét về con đường công nghệ, zNAND-O có nhiều điểm tương đồng với khái niệm Bộ nhớ Flash Băng thông cao (HBF) mà SK Hynix và SanDisk từng phát triển, cùng sử dụng công nghệ TSV và giao diện UCIe.

Tuy nhiên, theo đại diện Samsung, định vị ứng dụng của hai công nghệ này có sự khác biệt cơ bản:

HBF được thiết kế nhằm lấp đầy khoảng trống phân tầng bộ nhớ bên cạnh bộ tăng tốc AI trong máy chủ, trong khi zNAND-O được định vị để lưu trữ các mô hình lớn trên thiết bị đầu cuối, phục vụ tương tác với NPU.

Samsung cho biết, nhờ hiệu suất sử dụng không gian cao, cải thiện I/O và độ trễ thấp, zNAND-O tối ưu hóa dành riêng cho môi trường Edge AI để hỗ trợ các ứng dụng AI theo thời gian thực, đòi hỏi dữ liệu lớn.

Samsung cũng ra mắt V10 BV-NAND, sản phẩm 3D NAND đầu tiên trong lịch sử hãng sử dụng kiến trúc kết dính wafer (Bonding V-NAND).

Từ khi Samsung giới thiệu công nghệ V-NAND đầu tiên trên thị trường tại Flash Memory Summit 2013 đến nay đã 13 năm, bản cập nhật đột phá này mới được công bố.

V10 BV-NAND có số lớp xếp chồng vượt 400, sử dụng công nghệ kết dính wafer để xếp chồng dọc các ô nhớ, mật độ lưu trữ tăng khoảng 58% so với thế hệ trước V9.

Thêm vào đó, sản phẩm còn cung cấp hiệu năng đọc, ghi và I/O vượt trội, nhằm cung cấp hỗ trợ NAND hiệu suất cao và dung lượng lớn cho các hệ thống AI và ứng dụng tương lai.

Ngoài các sản phẩm ý tưởng tiên tiến trên, tại triển lãm lần này Samsung còn trưng bày một cách hệ thống danh mục sản phẩm bộ nhớ và lưu trữ AI hiện có cùng lộ trình phát triển, bao gồm các dòng sản phẩm HBM4E, HBM5, LPDDR5X-PIM và PM1763.

Trong đó, LPDDR5X-PIM là bộ nhớ LPDDR đầu tiên trên thị trường tích hợp công nghệ xử lý trong bộ nhớ (Processing-in-Memory), cho phép thực hiện xử lý dữ liệu trực tiếp bên trong bộ nhớ, qua đó cải thiện hiệu quả truyền dữ liệu lẫn tiết kiệm điện năng.

Ở lĩnh vực lưu trữ doanh nghiệp, Samsung trình diễn các giải pháp PM1763 và BM1773 nhằm đáp ứng nhu cầu lưu trữ ngày càng tăng của trung tâm dữ liệu AI.

Với vị thế là nhà sản xuất tích hợp thiết bị (IDM) duy nhất trên thế giới sở hữu năng lực dẫn đầu trong bộ nhớ, chế tạo wafer và đóng gói tiên tiến, Samsung định vị các sản phẩm trên như là giải pháp hạ tầng AI end-to-end một cửa, với mục tiêu giúp khách hàng rút ngắn chu kỳ phát triển, đẩy nhanh việc đưa ra thị trường những sản phẩm bán dẫn AI khác biệt.