SCM: Hva slags minne har det beste RAM-et og det beste SSD-et?

Maskinvareguide » Guider » SCM: Hva slags minne har det beste RAM-et og det beste SSD-et?

Det er en konstant kamp i IT-verdenen for å finne nye minneløsninger. En av prioriteringene er å oppnå et minne som kombinerer det beste fra begge verdener: RAM og SSD. Det vil si et minne som er like raskt som primærminnet, men med kapasiteten og den ikke-flyktige naturen til sekundærminnet. Og det er dit tingene er på vei. SCM-en som vi presenterer for dere i dag…

Gjeldende minnehierarki

Som en påminnelse, la oss si at minnet i den nåværende dataarkitekturen har en minnehierarki i form av en pyramide, som går fra den raskeste, dyreste og laveste kapasiteten på toppen, til den billigste, tregeste og høyeste kapasiteten på bunnen:

• Nivel 0På toppen har vi de raskeste av alle, som er poster av CPU-en, selv om den også har den minste kapasiteten. Registre varierer vanligvis i størrelse fra 32-bit til 64-bit eller mer. Til tross for den lille kapasiteten er de bygget av svært raske vippekretser og kan nås på under 0.5 ns.
• Nivel 1Rett under registrene ligger hurtigbufferen, fra L0 eller L1 til LLC (Last Level Cache). Noen buffere kan til og med inkluderes her, for eksempel TLB, som også er en type hurtigbuffer. Det vil si at vi ofte finner L1, L2 og L3, med noen få unntak. Dette minnet har vanligvis større kapasitet enn registrene, fra noen få KB til flere MB. Cellene i dette minnet er imidlertid SRAM. Dette gjør dem veldig raske, men ikke like raske som registrene, men raskere enn nivåene under dem. Her snakker vi om tilgangstider som vanligvis er fra 1 ns til noen få titalls nanosekunder, avhengig av nivået, eller med andre ord, fra omtrent 4 CPU-klokkesykluser til 50 eller 70 sykluser på de høyere nivåene. For eksempel kan en L1 ha typiske tilgangstider på 1 ns, mens L2 kan være rundt 3.3 ns, L3 mellom 12.8 ns og L4 på 42.4 ns ... Det bør også legges til at både nivå 0 og nivå 1 er i selve CPU-en i nåværende tilfeller.
• Nivel 2Dette er det som kalles primærminne, eller hovedminne. Det vil si RAM (virtuelt minne kan inkluderes her, men husk at dette er en del som ligger på nivå 3). Dette minnet har en større kapasitet enn hurtigbufferen, flere GB, men det er også sant at tilgangstiden er tregere, rundt 10 ns. Dette kan variere avhengig av minnetypen, siden latens og klokkefrekvens ikke er den samme i alle, men bare for å gi deg en referanse. Dette er fordi det er et minne som består av DRAM-celler, tregere enn SRAM, men billigere, noe som gir denne høyere kapasiteten til en moderat pris. Nivå 0, nivå 1 og nivå 2 er minne som CPU-en kan få direkte tilgang til. Forresten, som du vet, har GPU-en også sitt eget hovedminne, eller VRAM, og det er vanligvis DRAM og også HBM i noen tilfeller. HBM kan også brukes til CPU-en, selv om dette er mer eksotisk.
• Nivel 3Ikke-flyktig minne (NVM) kan inkluderes her, siden alle tidligere nivåer var flyktige, noe som betyr at når strømmen fjernes fra minnecellene, går innholdet deres tapt. Denne typen minne beholder all lagret informasjon selv når strømmen fjernes. Det er også viktig å merke seg at denne typen minne ikke kan nås direkte av CPU-en og i mange tilfeller krever assistanse fra operativsystemet. Dette nivået kalles vanligvis sekundærminne, akkurat som nivå 1 refereres til som primærminne. Nivå 3 inkluderer HDD- og SSD-harddisker. De førstnevnte er magnetiske og har tilgangstider på rundt 3 ms, mens sistnevnte er mye raskere flashminneenheter, med tilgangstider som kan være rundt 0.1 ms. Som du kan se, går vi her fra nanosekunder til millisekunder, men det må også sies at det er et minne som er betydelig billigere å produsere, så det kan implementeres i kapasiteter på hundrevis eller tusenvis av GB eller TB.
• Nivel 4I dette tilfellet er tilgangstiden lengre enn de foregående, og kan i noen tilfeller være over 10 ms. Dette kan inkludere flyttbare medier, optisk minne (CD/DVD/BD), magnetbånd og annet I/O-minne.

Greit, så når vi forstår denne pyramiden eller hierarkiet av hukommelse, er neste steg å begynne å se på hva SCM er ...

På jakt etter universell hukommelse

For å prøve å forbedre dette minnehierarkiet utvikler forskere stadig nye teknologier, og de leter etter det som kalles «universell hukommelse»Dette begrepet refererer til en lagringsenhet som kan kombinere kostnadsfordelene til DRAM, hastigheten til SRAM og den ikke-flyktige naturen til flashminne, samtidig som den har uendelig og langvarig holdbarhet.

Det er tydeligvis ikke lett å samle alle disse funksjonene i én rapport, Mange eksperter tviler på at dette er mulig.. Noen Memoarer som har dukket opp nylig kan oppfylle noen av disse egenskapene, selv om de ikke er en endelig løsning av en eller annen grunn.

Jeg refererer til minner som FRAM eller FeRAM, MRAM, PCM, RRAM eller ReRAM, NRAM eller Nano-RAM, PRAM eller PCRAM, memristorbasert minne, PMC, bobleminne, racetrack-minne, UltraRAM (halvledere som InGaAs, GaSb, AlGaAs, GaAs, AlSb, InAs er under utredning), 3D XPoint, Millipede, FeFET-basert minne, NOVRAM, osv. Alle med interessante fordeler, men også ulemper som fortsatt ikke gjør dem egnet til å bli ansett som universelle minner, og som kan erstatte nivå 2 og 1, slik man kan se i den forrige pyramiden, samt legge seg som et minne mellom hovedminnet og sekundærminnet.

Hva er NVRAM?

La NVRAM (ikke-flyktig tilfeldig tilgangsminne) Det er en type RAM, men den mister ikke dataene sine når den ikke får strøm, noe som gjør den ikke-flyktig. Tanken er å oppnå dette minnet med egenskapene til SRAM eller DRAM når det gjelder tilgangshastighet, men uten å miste lagret informasjon, som sekundærminne. Dette kan være en god teknologi å bruke på en rekke fronter, fra fastvarelagring til mikrokontrollere for industrien, eller for bruk i HPC-applikasjoner, luftfartsapplikasjoner, IoT, distribuert databehandling, virtuelle maskinapplikasjoner, blant annet.

Tenk på alle fordelene Hva ville dette minnet hatt sammenlignet med den nåværende konvensjonelle pyramiden, slik som:

• Siden den er like rask som DRAM eller SRAM, oppnår den svært raske tilgangstider, slik at den kan brukes som hovedminne.
• Siden den er ikke-flyktig, ville forbruket være svært lavt, siden oppdateringssykluser og konstant mating av minnet ikke ville være nødvendig slik tilfellet er med flyktig minne.
• Stor kapasitet kan oppnås for å lagre store mengder informasjon.
• Disse cellene har også bedre pålitelighet enn dagens flash-celler, slik at data kan lagres langsiktig uten å forringes etter tusenvis eller millioner av sykluser slik det skjer med disse andre cellene i dag. Som du vet, avhengig av om Flashminneceller er NOR, NAND eller derivater, påliteligheten kan være mer eller mindre kort.

Dette vedvarende minnet kan være løsningen på noen av dagens problemer gitt de teknologiske begrensningene som finnes og gapet eller prestasjonsgap strøm mellom RAM og CPU.

Som du vet, finnes det for tiden noen Soluciones Disse inkluderer raskere flyktig minne for å lagre informasjon under bruk, noe som gir raskere tilgang. Når strømforsyningen er i ferd med å bli kuttet, overføres innholdet til ikke-flyktig minne. Dette betyr imidlertid at man må inkludere to typer minne, noe som blant annet øker produksjonskostnadene. Men med disse modulene får du alt på ett sted.

Nylig har noen standarder blitt lansert, som f.eks. NVDIMM, det vil si et DIMM-format (Dual In-line Memory Module) for denne typen permanent eller ikke-flyktig minne. På denne måten kan disse minnene implementeres i modulform som nåværende RAM og installeres i spor som ligner på de som er tilgjengelige for øyeblikket. I motsetning til konvensjonell DRAM, ville de imidlertid ha fordelene som er nevnt ovenfor.

NVDIMM-er utviklet seg fra teknologien kjent som BBU DIMM (batteribasert DIMM), som brukte et backupbatteri for å opprettholde strøm i et flyktig minne i opptil 72 timer ved strømbrudd. Dette er imidlertid ikke målet med denne SCM-en eller universalminnet, ettersom bruk av batterier betyr at de må lades eller byttes ut, har større miljøpåvirkning og så videre.

Denne ekstra strømkilden er nødvendig for å gi det flyktige hovedminnet tid til å overføre innholdet til det ikke-flyktige minnet i tilfelle strømbrudd. For tiden finnes det også noen NVDIMM-moduler som ikke er avhengige av batterier, men av superkondensatorer, det vil si høykapasitetskondensatorer som er fulle under bruk, og når et plutselig strømbrudd oppstår, har de nok energi til å forbli aktive lenge nok til å forhindre datatap.

Noen av disse løsningene ble opprinnelig brukt til å mellomlagre noen vertsbussadaptere (HBA-er) for RAID-disker, slik at mellomlagringsbufferen overlever et strømbrudd. De har imidlertid bruksområder utover dette, som du vil se.

For å presse bruken av disse systemene, har noen blitt født standarder under JEDEC for NVDIMM som du bør vite, slik som:

• NVDIMM-FDette er en standardspor for DIMM-moduler med flash-minnebrikker. Systembrukere må kombinere lagrings-DIMM-en med en tradisjonell DRAM DIMM, dvs. de to modulene separat. Den har vært tilgjengelig siden 2014, med produkter som 3D XPoint PCM annonsert av Intel og Micron Technology.
• NVDIMM-NI dette tilfellet er begge minnetypene kombinert i én DIMM-modul. Det vil si at vi har flash-lagring og tradisjonell DRAM i samme modul. Dette lar systemet få direkte tilgang til den tradisjonelle DRAM-en mens systemet kjører. Ved strømbrudd eller strømstans spyler modulen dataene fra den flyktige tradisjonelle DRAM-en til permanent flash-minne og kopierer dem tilbake når strømmen er gjenopprettet. En liten reservestrømkilde brukes for modulen mens dataene kopieres fra DRAM til flash-minne. Sony og Viking Technology annonserte også et minne for denne typen spor basert på ReRAM.
• NVDIMM-P: spesifikasjonen dukket opp i februar 2021, og tillot permanent hovedminne, med disse nye SCM-ene eller universelle minnemodulene som dukket opp. Videre kunne de dele identiske sammenkoblinger med DIMM-ene til DDR4 eller DDR5. Derfor kunne de erstattes. Eksempler på denne typen inkluderer Samsung/Netlist-modulen som ble annonsert i 2015, som muligens var basert på Z-NAND.
• NVDIMM-XDette er ikke en JEDEC-standard, men den er også interessant. I dette tilfellet har vi en DDR-minne-DIMM-modul, men med NAND-flashlagring, utviklet av Xitore.

Greit, nå skal vi gå videre til SCM, som er relatert til alt jeg har forklart her, som du vil se, men det var nødvendig å forklare dette før vi gikk i gang med dette nye konseptet ...

Hva er SCM?

La SCM (lagringsklasseminne), som er hovedfokuset i denne artikkelen, er en type fysisk minne som forsøker å etablere seg som et universelt minne, eller i det minste dekke noen av grunnlagene. Med SCM har vi et minne som kombinerer det beste fra dynamisk tilfeldig tilgangsminne (DRAM), det beste fra NAND-flashminne og en strømkilde for datapersistens.

Kort sagt, det vi ville oppnå med en SCM er å ha en tilgang (skriving og lesing) til data er raskere enn datatilgang på lokalt tilkoblede SSD-er via PCIe, magnetiske harddisker (HDD-er) og eksterne lagringsarrayer. SCM er mer holdbart enn DRAM og kan lese og skrive data opptil 10 ganger raskere enn NAND-disker. Imidlertid kan høyere kapasiteter enn konvensjonelt RAM også oppnås til en overkommelig kostnad, samt en lengre levetid enn dagens SSD-er.

En av bruksområdene der disse SCM-minnene kan brukes til å dra nytte av er i datasentreOg de kan bidra:

• VentetidVi har et høytytende lagringsmedium med lav latens, noe som betyr raskere tilgangstider enn sekundære lagringsmedier. Dette er en positiv faktor for arbeidsbelastninger som krever håndtering av store mengder data med god ytelse.
• vedvarendeReservestrømforsyningen sørger for at data og programkode beholdes under systemfeil eller strømbrudd. Dette gir et byte-adresserbart, vedvarende lagringslag mellom DRAM og flashminne. Bruk av SCM utvider den raske ytelsen til DRAM til ikke-flyktig lagring. Når strømmen gjenopprettes, kan systemet derfor fortsette der det slapp, uten å miste data eller tid – noe som er viktig i systemer med høy tilgjengelighet. Videre vil behovet for konstant oppdatering i mange tilfeller elimineres.
• Mindre avhengig av sekundære medierMed SCM trenger mindre data å flyttes mellom hovedminne og sekundærlagring, ettersom den har større kapasitet. Dette reduserer CPU-arbeidsbelastningen når den trenger at operativsystemet skal få tilgang til sekundære medier, som jeg forklarte tidligere, noe som øker ytelsen. En SCM-enhet kan klokkehastigheter nesten like raskt som DRAM og statisk RAM (SRAM), men med fordelen av persistens.

Fordeler og ulemper med SCM

Som jeg har kommentert gjennom hele artikkelen, kan bruken av SCM ha store fordeler sammenlignet med konvensjonelt minne, for eksempel større kapasitet enn dagens DRAM-er, med lignende eller raskere tilgangstider, men uten sistnevntes volatilitet. Videre tilbyr mange av de nye teknologiene under utvikling også større energieffektivitet, noe som er viktig i datasentre. Og i tilfelle lokal strømforsyning til en node, vil ikke data gå tapt. Det er også viktig å huske at data som plasseres i SCM følger en kortere I/O-bane og reduserer søppelinnsamling på store datablokker.

Innen databehandling er søppelinnsamling, eller GC, en måte å automatisk administrere minne på. GC forsøker å gjenvinne minne som er allokert av et program, men som ikke lenger brukes; med andre ord, den frigjør denne minneressursen. Dette frigjør programmet fra å måtte utføre minnehåndteringsoppgaver; med andre ord, det trenger ikke å spesifisere hvilke objekter som skal avallokeres og frigjøres.

Men til tross for fordelene sine, har de også Noen ulemper, og det er derfor de ennå ikke har blitt bredt tatt i bruk. En av de største fallgruvene er at de er basert på teknologier som fortsatt er under utvikling eller må modnes, ettersom de første produktene som ble lansert ikke har nådd grensene for potensialet som teoretisk var forventet. Dessuten, fordi de er eksotiske teknologier, kan de være dyrere å produsere.

Eksempler på SCM-produkter

Som jeg har nevnt ovenfor, finnes det noen produkteksempler som har blitt lansert på markedet og regnes som typer kommersielle SCM-implementeringer, for eksempel:

• Intel Optane: ble lansert i 2018, et produkt som var spesielt utviklet for HPC, AI, blant andre applikasjoner, som muliggjør ytelsesforbedringer takket være dette SCM-minnet basert på 3D XPoint, en teknologi utviklet sammen med Micron. Selv om flere formater av dette minnet ble lansert, for eksempel M.2 NVMe-formater, PCIe-utvidelseskort, fantes det også et i DIMM-format kalt Optane Persistent Memory eller PMem. Kapasiteten til disse DIMM-modulene varierte fra 128 GB til 512 GB per modul. I 2021 bestemte Intel seg imidlertid for å stoppe utviklingen av dette minnet, og målet fokuserte på den åpne standarden Compute Express Link (CXL), som virket mer lovende.
• Samsung Z-SSDDet sørkoreanske selskapet skulle også lage et SCM-type medium med lav latens, basert på en annen teknologi enn den forrige. I dette tilfellet ble det brukt en variant av V-NAND, kalt Z-NAND, som var organisert i 48 lag med minneceller basert på flytende gate-transistorer.
• Western Digital Ultrastar DC ME200 minneutvidelsesdisker: kan brukes til å utvide eksisterende systemminne, oppmuntre til serverkonsolidering og redusere kompleksiteten ved å dele store datasett på flere terabyte på tvers av flere servere. Dette er en SCM-løsning som AMD brukte for sine EPYC-baserte systemer for å konkurrere med Intels løsning.
• Kioxia XL-Flash SCMDette selskapet, tidligere kjent som Toshiba Memory, utviklet også sin egen SCM-teknologi, kjent som denne. Disse produktene brukte en SSD-lignende formfaktor, men med planer om å bringe den til DRAM-bussen.
• Smarte modulære teknologier DuraMemoryDenne andre vedvarende minneløsningen i moduler er også et annet bemerkelsesverdig eksempel, selv om den i dette tilfellet er designet for industri og miljøer der robusthet og pålitelighet under ugunstige forhold er nødvendig.

All denne utviklingen, blant annet, gjorde at mange store leverandører IT-selskaper, spesielt HPC-selskaper, vil bli interessert i disse produktene og inkludere dem i løsningene sine. Noen eksempler på bruk av SCM i kommersielle og bedriftssystemer inkluderer:

• Dell EMCDet amerikanske selskapet annonserte at de ville bruke Intel Optane PMem for å forbedre ytelsen til PowerMax SAN-systemene sine.
• Hewlett Packard Enterprise (HPE)ville også gjøre et inngrep i SCM med bedriftsløsninger som Nimble Storage SAN-er, basert på Optane.
• Hitachi Vantara: Det japanske selskapet tilbød også sin Virtual Storage Platform 5000-serie, med mulighet for brukere å bruke SCM, som fungerer som buffer- eller hurtigminne.
• Lenovo: Den kinesiske giganten innen personlig databehandling og HPC forventes også å kunngjøre støtte for Intel Optane for sine ThinkSystem-servere.
• MemVergeDenne oppstartsbedriften ble grunnlagt i 2017 og utviklet et system kjent som Memory Machine, som virtualiserte DRAM og Intel Optane for å lage et høykapasitets, permanent lagringsmedium. Ideen var å bruke disse systemene til øyeblikksbilder, serverreplikering og andre formål.
• NetAppUtviklet programvaren Memory Accelerated Data (Max Data). Dette prosjektet bruker Pleexistor-teknologi og støtter Intel Optane SCM.
• Ren lagringIdeen bak dette selskapet var å kombinere NVMe flash-minne og moduler utviklet av det selv og kalt DirectMemory, noe som resulterte i det som var kommersielt kjent som FlashArray//X all-flash, ved bruk av Intel Optane-enheter med to porter.
• StorOneLigner på den forrige, siden All-Flash Array.next er et system som pakker Optane-minne sammen med Intel QLC 3D NAND-minne, og administreres av S1-programvare.
• Enorme dataDette andre selskapet opprettet en SCM-basert skrivebuffer for å akselerere AI-arbeidsbelastninger.

Fremtiden til SCM

Kort sagt, vi har sett noen forsøk på teknologier og produkter som bruker en eller annen form for SCM, men de har ikke blitt helt populære i markedet av en eller annen grunn. Utvikling er fortsatt nødvendig, i tillegg til modenhet for noen av teknologiene som disse enhetene er basert på. Og til tross for pessimismen til mange, denne rapporten kan ha en lovende fremtid.