這邊我們將先來回顧高速記憶體技術的發展歷程，包括動態隨機存取記憶體（Dynamic Random Access Memory, DRAM）、靜態隨機存取記憶體（Static Random Access Memory, SRAM）、非揮發性記憶體（Non-Volatile Memory, NVM）等。同時，我們將關注新興的高速記憶體技術，如高頻率DDR5、3D XPoint等等在市場上的未來趨勢(如下圖二)，AI PC也許不能提高總體銷量，但因為會帶來零組件的升級需求，尤其是一些CPU以外的相關晶片，經過疫情帶動營運上升後，2023多面臨庫存過高情況；2024的換機潮與AI升級商機的確也很值得我們關注晶片業的發展。

電腦及嵌入式系統中的記憶體系統，CPU運算的結果，都是由記憶體來存取，因此CPU運算的速度與記憶體模組的容量，頻寬幾乎決定了整個系統的效能。除了傳統的Server/PC/Mobile等應用，在消費性產品領域如AI PC/AI Server等等不斷的演化出新的應用，而對記憶體的需求也與日遽升。

記憶體產品的發展，主要配合系統配備需求發展，提升系統的效能，大致朝向高容量、高速度、高頻寬、低電壓及低成本的方向發展，如(下表一)我們能看到關於DDR記憶體的規格演進及發展。

隨著 AI PC 中安裝的 CPU 全面支援 DDR5、LPDDR5 和 LPDDR5x 等規格 DRAM，以及需要可儲存 AI 學習大量資料的固態硬碟（SSD）情況下，預計未來對 DRAM 的需求將只會持續擴大，對於高效能 DRAM 的需求也將從伺服器擴展到智慧型手機與 PC 市場上

截至目前為止，DRAM 相關高價值產品的銷售量中，用於 AI 伺服器方面使用的 DDR5 和 HBM3 佔比較高。但接下來以這種方式開發的生成式 AI，預計將分別普及到智慧型手機和筆記型電腦中，這使得高附加價值的 LPDDR5 和 LPDDR5x 的銷售量預計將能夠進一步增加。參考(圖三)

從市場的應用端來看，在PC、NB、AI邊緣運算、Server的時代對於低延遲、低功耗、大頻寬、高速的需求下，DDR5的普及率相對地也被按下了加速鍵。

DDR5最突破的部分，就是速度相對於"非常快速”的DDR4而言還要更快。

在傳送速率方面，全新DDR5記憶體的最高傳輸速率達到了6.4Gbps，比DDR4提升了一倍。此外，DDR5也改善了DIMM的工作電壓，將供電電壓從DDR4的1.2V降至1.1V，進一步提升了記憶體的效能表現。

在架構方面，DDR5採用由8個Bank Group組成的32 Bank（可單獨啟用/停用的存儲單元）架構，比DDR4由4個Bank Group組成的16 Bank架構，多出1倍的存取可用性（Access Availability）如圖(四)。

不同於DDR4在更新（Refresh）時無法同步執行其他操作，DDR5則透過Same Bank Refresh功能，讓系統可以在更新某些Bank的時候，也能同時存取其他Bank的資料，而DDR5的Burst Length（DRAM單個讀/寫指令可以存取的資料量）也從DDR4的8增加到16，這點也是在效能上增強的關鍵功能。

至於在ECC (Error-Correcting Code)方面

在以往的記憶體若要有ECC功能，需要額外多配置一顆IC負責糾錯，因此會看到ECC記憶體單面會是9顆IC而不是常見的8顆IC，同時也需要CPU或主板本身有支援，才能使用ECC記憶體。但是隨著DDR5 RAM的容量越來越大，現在每根DDR5 RAM都內置了ECC芯片，每顆IC直接就自帶ECC除錯的功能，相對的在系統上擁有更高的穩定性，不再因錯誤而造成中斷

頻率跟密度上，DDR5也大大的超越了DDR4，DDR4僅支援最高16Gb的DRAM容量，而DDR5記憶體標準提高到了64Gb。這代表著，DDR5 在SDP模式下的最高容量是DDR4 最大容量的4倍。同時，DDR5還支援最高40個單元的堆疊，使其有效記憶體容量高達到2TB。

DDR5記憶體的接腳頻寬(頻率)是DDR4的兩倍，起始頻率4800MHz也比DDR4 的3200MHz增加了高達50%。而在未來DDR5記憶體的最高頻率甚至可望高達到8400MHz，系統頻寬會繼續提高至當前水準的兩倍以上，下表(二)為DDR4及DDR5規格差異，由以上各項資訊可知，DDR5在各方面都遠遠強大於DDR4，逐漸取代DDR4，成為主流也只是遲早會發生的事了。

HBM3是一種用3D堆疊起來的高效能DRAM，在透過先進封裝的方式包裝，使其密度增加、體積更小、功率消耗更少，來達到更高的頻寬及儲存效果。

技術方面是透過將好幾片晶圓做堆疊，在通過矽穿孔的技術，像牙籤般將每層的晶圓串住，最後再做封裝,如下(圖五)

高頻寬記憶體匯流排在擁有四塊DRAM裸晶的高頻寬記憶體堆上，每顆裸晶各有兩條128位元的通道，加起來共有八條，與其他DRAM(DDR4、DDR5相比起來更加寬闊。而因記憶體的最大連接數多，高頻寬記憶體就須以更新的方式來連接到處理器，為此而打造出了所謂的矽片(插入器)用以連接記憶體及處理器，以減短記憶體的路徑。

我們也可由下(圖六)及(表三)看出HBM規格上的演進趨勢及目前在各大原廠針對HBM的市場開發進度。