In Breve
- Cos'è RAMDeck?
- RAMDeck è un hub che aggrega la RAM di più dispositivi per eseguire modelli di intelligenza artificiale.
- Dove è possibile acquistare RAMDeck?
- RAMDeck è disponibile in preordine su Indiegogo.
- Qual è l'obiettivo di finanziamento della campagna?
- L'obiettivo di finanziamento della campagna è di 10.000 dollari.
RAMDeck è un innovativo hub a basso consumo energetico, attualmente in crowdfunding su Indiegogo, con un prezzo early-bird di 109 dollari. La campagna, che ha un obiettivo di finanziamento di 10.000 dollari, si concluderà l’8 novembre 2026. Questo dispositivo è progettato per aggregare la memoria RAM di PC Windows, Mac, Linux e telefoni Android all’interno di una rete domestica, consentendo di eseguire modelli di intelligenza artificiale che superano le capacità di un singolo dispositivo.
Il progetto nasce in un periodo di forte aumento dei prezzi della memoria DDR5, che ha visto i costi salire a circa cinque volte rispetto ai livelli di metà 2025. RAMDeck non fonde fisicamente la memoria tra i dispositivi; invece, i pesi di un modello vengono distribuiti tra le macchine, ognuna delle quali mantiene la propria porzione di memoria locale e trasferisce solo i risultati intermedi via rete durante la generazione dei token.
L’infrastruttura software su cui si basa RAMDeck utilizza l’RPC di llama.cpp: un agente nodo avvia il server ggml RPC su ogni dispositivo partecipante, mentre il coordinamento avviene tramite il protocollo standard di llama.cpp. L’elemento distintivo di TradeMAV è l’orchestrazione attorno a questo motore, che include la scoperta automatica dei nodi, il posizionamento dei layer privilegiando le GPU più veloci rispetto alla RAM di sistema più lenta, la gestione dei guasti, una dashboard intuitiva e un’API compatibile con OpenAI.
Le specifiche hardware dell’hub non sono state rese pubbliche, con dettagli su processore, memoria, porte e consumo energetico non disponibili. La documentazione suggerisce che gli utenti esperti di script da terminale possono seguire una soluzione fai-da-te (DIY) gratuita. Esistono già alternative software per il pooling e l’orchestrazione su dispositivi eterogenei, e sul mercato commerciale sono disponibili soluzioni di clustering ad alte prestazioni che sfruttano interconnessioni come Thunderbolt 5 con RDMA.
TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità, raccomandando l’acquisto di GPU con maggiore VRAM per chi cerca prestazioni elevate. I benchmark pubblicati mostrano che le demo più veloci utilizzano un mini PC con RTX 3060 e modelli mixture-of-experts, attivando circa 3 miliardi di parametri per token: 39 token/s per Qwen3-Coder 30B su una coppia di Beelink mini PC e Mac mini M4, e 16 token/s per una variante 40B REAP di Qwen3-Coder-Next. Un modello 7B ha raggiunto 43 token/s eseguendo esclusivamente sulla 3060. I modelli densi, tuttavia, mostrano prestazioni significativamente più basse: un 27B denso ha prodotto 1,92 token/s su quattro dispositivi, mentre gpt-oss-120b ha segnato 1,37 token/s su un cluster di sei macchine. Un modello 120B su cinque macchine ha impiegato circa sette minuti per l’inizializzazione, raggiungendo poi 3,1 token/s. Questi risultati evitano crash per esaurimento di memoria, ma rimangono lenti rispetto a configurazioni dotate di GPU con elevata VRAM.
In sintesi, l’engine sottostante di RAMDeck è un software gratuito già disponibile, mentre l’hub mira a semplificare l’orchestrazione multi-dispositivo. Tuttavia, mancano dettagli hardware e i risultati pubblicati evidenziano limitazioni nelle prestazioni per modelli densi. Gli utenti interessati possono provare le modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce la comodità, i 109 dollari offrono l’hub in preordine, con i rischi tipici delle campagne di crowdfunding, che possono includere ritardi, cambiamenti o mancata consegna.
