IT 界一直在努力尋找新的記憶體解決方案。其中一項重點是實現一種兼具 RAM 和 SSD 優勢的記憶體。也就是說,既要擁有與主記憶體一樣快的速度,又要兼具輔助記憶體的容量和非揮發性。而這正是未來發展的方向。 供應鏈管理 今天我們向你們介紹的是…
目前記憶體層次結構
提醒一下,假設當前電腦架構中的記憶體有一個 記憶體層次結構 呈金字塔形式,頂部速度最快、價格最昂貴、容量最低,底部最便宜、速度最慢、容量最高:
- 0級:在頂部我們有最快的,它們是 記錄 儘管它的容量也是最小的,但它卻是CPU中最大的。暫存器的大小通常從32位元到64位元甚至更大。然而,儘管容量小,它們卻由非常快速的觸發器構成,可以在不到0.5奈秒的時間內完成存取。
- 1級:暫存器正下方是高速緩存,從 L0 或 L1 到 LLC(末級快取)。一些緩衝區甚至可能包含在這裡,例如 TLB,它也是一種快取。也就是說,除了少數例外,我們經常可以找到 L1、L2 和 L3。這些記憶體的容量通常比暫存器大,從幾 KB 到幾 MB 不等。然而,這些記憶體中的單元是 SRAM。這使得它們非常快,雖然不如暫存器快,但比其下一層快取更快。這裡我們討論的訪問時間通常從 1 奈秒到幾十納秒不等,具體取決於級別,換句話說,從大約 4 個 CPU 時脈週期到更高級別的 50 或 70 個週期。例如,L1 的典型存取時間可能是 1 ns,而 L2 的典型存取時間可能是 3.3 ns,L3 的典型存取時間是 12.8 ns,L4 的典型存取時間是 42.4 ns…也應該補充一點,在當前情況下,0 級和 1 級都在 CPU 本身內。
- 2級這就是所謂的主存,也就是RAM(這裡可能包含虛擬內存,但請記住,它的一部分位於第三級)。主記憶體的容量比快取大,有幾GB,但存取時間也較慢,大約3奈秒。由於延遲和時脈頻率各不相同,因此存取時間會因記憶體類型而異,僅供參考。這是因為它是由DRAM單元組成的內存,速度比SRAM慢,但價格更便宜,因此可以以合理的價格實現更高的容量。 10級、0級和1級是CPU可以直接存取的記憶體。順便說一句,如你所知,GPU也有自己的主記憶體,也就是VRAM,通常是DRAM,在某些情況下也會使用HBM。 HBM也可以用於CPU,儘管這比較特殊。
- 3級這裡可以包括非揮發性記憶體 (NVM),因為所有先前的層級都是易失性的,這意味著當儲存單元斷電時,其內容將會遺失。這種類型的記憶體即使斷電也能保留所有儲存的資訊。還需要注意的是,這種類型的記憶體不能由 CPU 直接訪問,在許多情況下,需要作業系統的協助。這一級別通常稱為輔助記憶體,就像第 1 級稱為主記憶體一樣。第 3 級包括 HDD 和 SSD 硬碟。前者是磁性的,存取時間約為 3 毫秒,而後者是速度更快的閃存單元,存取時間約為 0.1 毫秒。如您所見,我們從奈秒到毫秒,但也必須指出,這種記憶體的生產成本要低得多,因此可以實現數百或數千 GB 或 TB 的容量。
- 4級:在這種情況下,訪問時間比以前更長,在某些情況下可能超過 10 毫秒。這可能包括可移動媒體、光記憶體(CD/DVD/BD)、磁帶和其他 I/O 記憶體。
好的,一旦我們了解這個記憶體金字塔或層次結構,下一步就是開始研究什麼是 SCM...
尋找普遍記憶
為了嘗試改進這種記憶層次結構,研究人員不斷發展新技術,並尋找所謂的 《通用記憶》這個術語指的是一種儲存設備,它可以結合 DRAM 的成本優勢、SRAM 的速度以及快閃記憶體的非揮發性,同時還具有無限且持久的耐用性。
顯然,將所有這些特徵整合到一份報告中並不容易,事實上, 許多專家對此表示懷疑。。一些 最近出現的回憶錄可能符合以下一些特徵,儘管由於這樣或那樣的原因,它們並不是最終的解決方案。
我指的是 FRAM 或 FeRAM、MRAM、PCM、RRAM 或 ReRAM、NRAM 或 Nano-RAM、PRAM 或 PCRAM、基於憶阻器的記憶體、PMC、氣泡記憶體、賽道記憶體、UltraRAM(正在研究的半導體包括 InGaAs、GaSb、AlGaAs、GaAs、AlSb、RDAs、AlSb、D.3Sb、A2D、Aet、AlSb、Fet、AlSb、Aet)它們都具有有趣的優點,但也有缺點,仍然不適合被視為通用記憶體,並且可以取代第 1 級和第 XNUMX 級,如在前面的金字塔中所見,也可以作為主記憶體和輔助記憶體之間的記憶體。
什麼是 NVRAM?
La NVRAM(非揮發性隨機存取記憶體) 它是一種類似 RAM 的隨機存取記憶體,但在斷電時不會丟失數據,因此具有非揮發性。其理念是讓這種記憶體在存取速度上擁有 SRAM 或 DRAM 的特性,但不會像輔助記憶體那樣遺失儲存的資訊。這項技術可以廣泛應用於眾多領域,從韌體儲存到工業微控制器,或用於高效能運算 (HPC) 應用、航空航天應用、物聯網 (IoT)、分散式運算、虛擬機器應用等等。
想念每一個人 好處 與目前傳統的金字塔相比,這種記憶有何特色?例如:
- 它的速度與 DRAM 或 SRAM 一樣快,具有非常快的存取時間,可以用作主記憶體。
- 由於它是非易失性的,因此它的消耗會非常低,因為不像易失性記憶體那樣需要刷新週期和不斷供給記憶體。
- 可以獲得大容量來儲存大量資訊。
- 這些單元也比目前的閃存單元具有更好的可靠性,因此數據可以長期存儲,而不會像目前其他單元那樣在數千或數百萬次循環後出現性能下降。如你所知,這取決於 快閃記憶體單元是 NOR、NAND 或其衍生產品,可靠性可能或多或少是短暫的。
考慮到現有的技術限制和差距,這種持久記憶可以解決當前的一些問題。 成就差距 RAM 和 CPU 之間的電流。
正如你們所知,目前有一些 解決方案 這些技術包括更快的揮發性記憶體,用於在使用過程中儲存信息,從而實現更快的存取。當電源即將切斷時,內容將傳輸到非揮發性記憶體。然而,這意味著需要兩種類型的記憶體,這會增加生產成本,並帶來其他問題。但有了這些模組,您就可以一站式解決所有問題。
最近推出了一些標準,例如 NVDIMM,即 DIMM(雙列直插式記憶體模組)格式 對於這種類型的永久性或非揮發性記憶體,這是理想的解決方案。這樣,這些記憶體就可以像目前的RAM一樣以模組形式實現,並安裝在與現有插槽類似的插槽中。然而,與傳統的DRAM不同,它們具有上述優勢。
NVDIMM 是從被稱為 BBU DIMM(電池備援 DIMM),它使用備用電池在斷電情況下為揮發性記憶體供電長達 72 小時。然而,這並不是這款 SCM 或通用記憶體的目標,因為使用電池意味著需要充電或更換電池,而且對環境的影響更大,等等。
這種輔助電源是必要的,以便主揮發性記憶體在斷電時有時間將其內容傳輸到非揮發性記憶體。目前,也有一些 NVDIMM 模組不依賴電池,而是依靠 超級電容器即高容量電容器,在使用過程中充滿電,並且當突然斷電時,它們有足夠的能量保持足夠長的時間活躍,以防止資料遺失。
其中一些解決方案最初用於快取 RAID 驅動器的某些主機匯流排適配器 (HBA),使快取在斷電後仍然能夠正常運作。然而,正如您將看到的,它們的應用範圍遠不止於此。
為了擠壓這些系統的使用,一些系統誕生了 JEDEC 針對 NVDIMM 的標準 您應該知道,例如:
- NVDIMM-F:這是帶有快閃記憶體晶片的 DIMM 模組的插槽標準。系統使用者必須將儲存 DIMM 與傳統的 DRAM DIMM 分別組合使用。該標準自 2014 年起便已推出,例如英特爾和美光科技發布的 3D XPoint PCM 等產品。
- NVDIMM-N:在這種情況下,兩種類型的記憶體被組合成一個 DIMM 模組。也就是說,我們在同一個模組中整合了快閃記憶體和傳統 DRAM。這使得系統可以在運行時直接存取傳統 DRAM。如果發生斷電或關機,該模組會將資料從易失性傳統 DRAM 刷新到持久性閃存,並在電源恢復時將其複製回來。在資料從 DRAM 複製到快閃記憶體的過程中,該模組使用一個小型備用電源。索尼和 Viking Technology 也宣布推出一款基於 ReRAM 的此類插槽記憶體。
- NVDIMM-P:規範於 2021 年 4 月發布,允許使用持久主內存,並出現了這些新的 SCM(通用內存模組)。此外,它們可以與 DDR5 或 DDR2015 的 DIMM 共享相同的互連。因此,它們可以被替換。此類範例包括 XNUMX 年發布的 Samsung/Netlist 模組,該模組可能基於 Z-NAND。
- NVDIMM-X:這不是 JEDEC 標準,但也挺有趣的。我們有一個 DDR 記憶體 DIMM 模組,但配備了 Xitore 開發的 NAND 快閃記憶體。
好的,現在我們將轉到 SCM,它與我在這裡解釋的所有內容都相關,正如您所看到的,但在開始研究這個新概念之前有必要解釋這一點...
什麼是 SCM?
La SCM(儲存層級記憶體)本文重點關注的是一種實體記憶體,它試圖將自己定位為通用記憶體,或至少涵蓋其部分基礎。 SCM 是一種結合了動態隨機存取記憶體 (DRAM) 和 NAND 快閃記憶體的優點以及資料持久性電源的記憶體。
簡而言之,我們利用 SCM 可以實現的是 資料存取(寫入和讀取)速度更快 比透過 PCIe 連接本機固態硬碟 (SSD)、磁性硬碟 (HDD) 和外部儲存陣列存取資料的速度更快。 SCM 比 DRAM 更耐用,讀寫速度比 NAND 驅動器快 10 倍。此外,它還能以實惠的價格實現比傳統 RAM 更高的容量,並且比現有 SSD 擁有更長的使用壽命。
這些 SCM 記憶體可以利用的應用之一是 在資料中心他們可以做出貢獻:
- 潛伏:我們擁有高效能、低延遲的儲存介質,這意味著存取速度比二級儲存介質更快。這對於需要高效能處理大量資料的工作負載來說是一個利好因素。
- 持久性備用電源可確保在系統故障或斷電期間保留資料和程式碼。這在 DRAM 和快閃記憶體之間提供了一個位元組可尋址的持久性儲存層。使用 SCM 可將 DRAM 的快速效能擴展到非揮發性儲存。因此,當電源恢復時,系統可以從中斷處繼續運行,而不會遺失資料或時間——這對於高可用性系統至關重要。此外,在許多情況下,無需不斷刷新。
- 減少對輔助媒體的依賴使用 SCM,由於容量更大,需要在主記憶體和輔助儲存之間移動的資料更少。正如我之前所解釋的,當作業系統需要存取輔助媒體時,這可以減少 CPU 的工作負載,從而提高效能。 SCM 設備的時脈速度幾乎可以與 DRAM 和靜態 RAM (SRAM) 媲美,但具有持久性的優勢。
SCM的優點和缺點
正如我在整篇文章中一直評論的那樣,使用 SCM 可以 巨大的優勢 與傳統記憶體相比,SCM 的容量更大,存取時間相似甚至更快,但卻沒有後者的易失性。此外,許多正在開發的新技術還能提高能源效率,這對資料中心至關重要。即使節點本地供電中斷,資料也不會遺失。同樣重要的是,儲存在 SCM 中的資料會遵循更短的 I/O 路徑,從而減少大資料區塊的垃圾收集。
在計算領域,垃圾回收(GC)是一種自動管理記憶體的方法。 GC 會嘗試回收程式分配但不再使用的記憶體;換句話說,它會釋放這些記憶體資源。這使得程式無需執行記憶體管理任務;換句話說,它不需要指定要釋放的物件。
但是,儘管它們具有優勢,但它們也 缺點,這就是為什麼它們尚未被廣泛採用的原因。最大的缺陷之一是,它們基於仍在開發中或尚待成熟的技術,因為首批推出的產品尚未達到理論預期的潛力極限。此外,由於它們是新興技術,因此生產成本可能更高。
SCM產品範例
正如我上面提到的, 一些產品範例 已在市場上推出並被視為商業 SCM 實施類型的產品,例如:
- 英特爾Optane:於 2018 年推出,是一款專為 HPC、AI 等應用程式開發的產品,其基於與美光公司共同開發的 3D XPoint 技術的 SCM 內存,實現了性能提升。儘管該記憶體有多種格式,例如 M.2 NVMe 格式、PCIe 擴充卡,但也有一種 DIMM 格式,稱為傲騰持久記憶體 (PMem)。這些 DIMM 模組的容量範圍為每個模組 128 GB 到 512 GB。然而,英特爾在 2021 年決定停止該記憶體的開發,並將目標轉向似乎更有前景的開放標準 Compute Express Link (CXL)。
- 三星 Z-SSD:這家韓國公司也將基於與之前不同的技術,打造出低延遲的 SCM 型介質。他們使用了 V-NAND 的一種變體,稱為 Z-NAND,它基於浮柵電晶體,由 48 層儲存單元組成。
- Western Digital Ultrastar DC ME200 記憶體擴充驅動器:可用於擴展現有系統內存,促進伺服器整合,並降低在多台伺服器之間劃分大型多 TB 資料集的複雜性。這是 AMD 用於其基於 EPYC 的系統與英特爾解決方案競爭的 SCM 解決方案。
- Kioxia XL-Flash 單晶片:這家公司(前身為東芝記憶體)也開發了自己的 SCM 技術,即所謂的「SCM」。這些產品採用了類似 SSD 的外形尺寸,但計劃將其引入 DRAM 總線。
- 智慧模組化技術 DuraMemory:模組中的這種其他持久記憶體解決方案也是另一個值得注意的例子,儘管在這種情況下它是為需要在惡劣條件下保持穩健性和可靠性的工業和環境而設計的。
所有這些發展,以及其他發展,使得許多 大型供應商 IT公司,尤其是HPC公司,將會對這些產品產生興趣,並將其納入自己的解決方案中。 SCM在商業和企業系統中的應用範例包括:
- 戴爾EMC:這家美國公司宣布將使用英特爾傲騰 PMem 來提高其 PowerMax SAN 系統的效能。
- 惠普企業(HPE):也將利用基於 Optane 的 Nimble Storage SAN 等企業解決方案進軍 SCM。
- 日立萬塔拉: 這家日本公司還提供其虛擬儲存平台 5000 系列,用戶可以選擇使用 SCM 作為緩衝區或快取記憶體。
- 聯想: 這家中國個人運算和 HPC 巨頭預計也將宣布其 ThinkSystem 伺服器支援英特爾傲騰。
- 記憶邊緣這家新創公司成立於 2017 年,開發了一個名為 Memory Machine 的系統,該系統將 DRAM 和英特爾傲騰 (Intel Optane) 虛擬化,以創建高容量、持久的儲存媒體。其初衷是將這些系統用於快照、伺服器複製和其他用途。
- NetApp的:設計了記憶體加速資料(Max Data)軟體。該專案採用Pleexistor技術,並支援Intel Optane SCM。
- 純存儲:該公司背後的想法是將 NVMe 快閃記憶體與自己開發的模組(稱為 DirectMemory)結合起來,從而產生商業上稱為 FlashArray//X 全快閃記憶體的產品,使用雙埠英特爾傲騰裝置。
- StorOne:與前一個類似,因為 All-Flash Array.next 是一個將 Optane 記憶體與英特爾 QLC 3D NAND 記憶體一起封裝的系統,並由 S1 軟體管理。
- 海量數據:這家公司創建了一個基於 SCM 的寫入緩衝區來加速 AI 工作負載。
SCM的未來
簡而言之,我們已經看到了一些嘗試使用某種形式的供應鏈管理(SCM)的技術和產品,但由於種種原因,它們在市場上尚未完全普及。這些設備仍需進一步發展,其所基於的一些技術也需要成熟。儘管許多人對此持悲觀態度,但這份報告 未來前景光明.