SK Hynix đã thông báo rằng họ đã phát triển ngăn xếp bộ nhớ HBM3 12 lớp 24GB đầu tiên trong ngành, cung cấp cả mật độ cao và băng thông cực lớn 819 GB/giây. Các sản phẩm 12-Hi HBM3 duy trì cùng chiều cao với các sản phẩm HBM3 8 lớp hiện có của công ty, nghĩa là chúng rất dễ triển khai.
Sản phẩm khuôn xếp chồng tốt (KGSD) 24GB HBM3 được biết đến của SK Hynix đặt mười hai thiết bị bộ nhớ 16Gb được kết nối bằng cách sử dụng thông qua silicon vias (TSV) trên một lớp cơ sở có giao diện 1024 bit. Thiết bị này có tốc độ truyền dữ liệu 6400 MT/giây và do đó, toàn bộ mô-đun HBM3 24 GB cung cấp băng thông 819,2 GB/giây.
Tùy thuộc vào hệ thống con bộ nhớ thực tế, các mô-đun như vậy có thể cho phép băng thông 3,2 TB/s – 4,915 TB/s cho bộ nhớ 96GB trên giao diện 4096-bit hoặc 144GB trên giao diện 6140-bit, tương ứng. Để đặt các con số vào bối cảnh, H100 NVL của Nvidia — triển khai HBM3 tiên tiến nhất cho đến nay — có bộ nhớ 96GB với băng thông 3,9 TB/giây cho mỗi trong số hai GPU điện toán GH100 của nó.
Xếp chồng 12 lớp HBM DRAM lên nhau là một thách thức vì nhiều lý do. Đầu tiên, thật khó để khoan khoảng 60.000 lỗ TSV trở lên thông qua gói để kết nối tất cả mười hai lớp. Thứ hai, các gói DRAM 12-Hi HBM không thể có kích thước vật lý cao hơn KGSD 8-Hi HBM (thường là 700 – 800 micron, 720 micron trong trường hợp của Samsung), vì vậy sẽ cực kỳ phức tạp (nếu có thể) để cài đặt như vậy. HBM3 KGSD bên cạnh CPU hoặc GPU có chiều cao cố định. Để đạt được mục tiêu đó, các nhà sản xuất DRAM như SK Hynix cần phải giảm độ dày của một lớp DRAM riêng lẻ mà không làm giảm sản lượng hoặc hiệu suất (điều này mang lại nhiều thách thức) hoặc giảm khoảng cách giữa các lớp cũng như thu nhỏ lớp cơ sở.
SK Hynix nói rằng để xây dựng sản phẩm 12-Hi HBM3 có cùng chiều cao với thiết bị 8Hi HBM3, họ đã sử dụng công nghệ đóng gói Advanced Mass Reflow Molded Underfill (MR-MUF) bao gồm gắn chip phản xạ khối lượng (MR) để thu nhỏ lớp cơ sở và các quy trình chèn lót khuôn (MUF) để giảm khoảng cách giữa các khuôn.
SK Hynix đã phân phối các mẫu sản phẩm HBM3 24GB của mình cho một số khách hàng đang háo hức mong đợi. Sản phẩm hiện đang được đánh giá hiệu suất và sẽ được đưa vào sản xuất hàng loạt vào nửa cuối năm nay.
