La storia della tecnologia della memoria è costellata di fallimenti, ma Pat Gelsinger, ex CEO di Intel, è convinto che la nuova tecnologia di memoria sviluppata dai ricercatori del Georgia Tech, basata su semiconduttori ossidici, possa rappresentare un punto di svolta. “In sostanza, non abbiamo visto importanti forme di innovazione nella memoria negli ultimi trenta anni, con SRAM, DRAM e Flash come unici tipi di memoria ampiamente utilizzati”, ha affermato Gelsinger.
La soluzione proposta da Nagare Labs, chiamata Z2RAM, punta a cambiare il panorama attuale, offrendo una tecnologia di memoria che è quasi veloce come l’SRAM, ma con una densità vicina a quella della DRAM, e con un processo di produzione più semplice rispetto a HBM o LPDDR. “Fondamentalmente, stanno combinando le migliori caratteristiche di DRAM, SRAM e Flash in un nuovo dispositivo che è denso come la DRAM, veloce come l’SRAM e scalabile come Flash”, ha spiegato Gelsinger. Questa tecnologia, promettente in termini di densità, velocità e potenza, ha attratto l’attenzione degli investitori, tra cui Playground Global, che sostiene finanziariamente gli sviluppi di Nagare.
Velocità simile all’SRAM, densità paragonabile alla DRAM
Nagare Labs è stata cofondata dai professori del Georgia Institute of Technology Sumem Datta e Shimeng Yu, ed è il risultato di anni di ricerca sulle tecnologie di memoria di nuova generazione, come i ferroelettrici e la memoria resistiva. La tecnologia si basa su semiconduttori ossidici ed è progettata per essere integrata direttamente sulla logica computazionale attraverso tecnologie di bonding 3D ibrido. In questo senso, Z2RAM rivestirà un ruolo simile alla tecnologia di stacking SRAM 3D V-Cache di AMD.
Un esempio pratico: mentre AMD utilizza un packaging avanzato per unire un tile di SRAM da 64 MB sopra o sotto i chip dell’CPU, Z2RAM promette una densità di bit fino a cinque volte superiore rispetto all’SRAM nella sua prima incarnazione. Ad esempio, un tile di SRAM da 64 MB offrirebbe ben 320 MB di capacità occupando lo stesso spazio, mantenendo una larghezza di banda comparabile all’Sram.
Nonostante la potenzialità, Z2RAM potrebbe sembrare limitato rispetto agli acceleratori dotati di HBM, come il Nvidia Rubin o l’AMD MI455X, che vantano capacità di 288 GB e 432 GB rispettivamente. Tuttavia, rappresenta un significativo miglioramento rispetto agli acceleratori basati su SRAM, come le Groq LPUs di Nvidia, che attualmente offrono circa 500 MB di SRAM per chip, rendendo necessario un gran numero di acceleratori per supportare i modelli di linguaggio di grande scala (LLM). Z2RAM potrebbe ridurre il numero di chip richiesti anche di cinque volte.
“Con l’esplosione della domanda di AI, abbiamo visto un eccezionale fabbisogno di memoria, dato che l’AI è un carico di lavoro limitato dalla capacità di memoria”, ha commentato Gelsinger, sottolineando l’interesse e il capitale disponibili per sviluppare soluzioni innovative che affrontino le sfide di banda e capacità create dall’AI.
Un design senza condensatori
Nagare riesce a raggiungere questa densità e larghezza di banda utilizzando celle di memoria basate su transistor anziché su condensatori. “In termini di velocità, Z2RAM sarà paragonabile all’SRAM, ma per funzionalità è più simile alla DRAM a causa del meccanismo di stoccaggio”, ha spiegato il cofondatore Datta. “La DRAM utilizza un transistor e un condensatore passivo; Z2RAM utilizza invece due transistor, usando la capacità del gate del secondo transistor per memorizzare la carica”.
Poiché la carica è immagazzinata in un transistor, la lettura diventa non distruttiva, consentendo una latenza migliore rispetto alla DRAM. Quando una cella DRAM viene letta, il suo condensatore viene scaricato, richiedendo così di scrivere nuovamente nella cella al termine della lettura.
Questa architettura completamente basata su transistor non è l’unica innovazione di Z2RAM; Nagare sta anche perseguendo una tecnologia e un processo che permetteranno di impilare queste celle verticalmente. Anche se questo potrebbe sembrare simile all’HBM o LPDDR, Datta sottolinea che in realtà è più affine alla costruzione a strati della memoria NAND, il che potrebbe tradursi in una produzione significativamente più economica e facile.
Una strada lunga da percorrere
Nell’ambito del suo primo round di finanziamento iniziale, Nagare ha raccolto 5 milioni di dollari per proseguire lo sviluppo della tecnologia. Pur non essendo una somma considerevole nel contesto delle tecnologie dei semiconduttori, Datta è il primo a riconoscere che la tecnologia della startup è ancora agli stadi iniziali. “Siamo letteralmente a livello di prototipi di laboratorio”, ha affermato. L’azienda sta cercando un partner R&D per aiutare a scalare la produzione oltre il laboratorio universitario, con l’obiettivo di testare campioni funzionanti di Z2RAM entro i prossimi quattro anni e di avviare la produzione entro il prossimo decennio.
Datta ha anche reso noto che l’azienda è aperta a collaborazioni con i produttori di chip per integrare Z2RAM nei loro progetti, in modo simile a come AMD ha lavorato con TSMC sui tile 3D V-Cache. Tuttavia, Nagare deve affrontare anche sfide di integrazione. “Non abbiamo attualmente uno standard per integrare questa nuova memoria con l’acceleratore”, ha osservato Yu. “Per sfruttare i vantaggi di questa memoria ad alta capacità e alta velocità, dobbiamo utilizzare il bonding 3D, ma attualmente non esistono standardizzazione a riguardo.”
Benché AMD abbia il V-Cache, è una tecnologia proprietaria. Perché Z2RAM venga adottato su larga scala senza uno standard aperto del settore, Nagare potrebbe dover sviluppare autonomamente un’interfaccia, un compito non da poco. Ci sono anche preoccupazioni relative alla validazione, poiché Nagare sta lavorando con semiconduttori ossidici, i quali, come affermato da Datta, beneficiano di prestazioni termiche e di radiazioni migliorate, ma sono anche suscettibili a vuoti atomici. “Anche gli effetti di singoli elettroni o di pochi elettroni possono far spostare leggermente la tensione di soglia dei transistor, il che potrebbe compromettere la cella”, ha spiegato.
Per queste ragioni, molta attenzione è rivolta a massimizzare l’affidabilità delle celle di memoria Z2RAM. “Ci sono state così tante startup nel campo della memoria e molte di esse non hanno avuto successo”, ha affermato Datta. “Puoi avere la tecnologia di memoria più innovativa, ma non riesci mai a penetrare nel mercato a causa degli standard rigorosi”. Tuttavia, Datta è fiducioso che il panorama sia cambiato; le dinamiche in evoluzione e l’emergere di nuovi protocolli hanno riaperto la possibilità di essere audaci con la memoria.
