ChatGPT su un Raspberry Pi? Forse ci siamo

Immagina di far girare GPT-4 su un Raspberry Pi da 35 euro. Suona assurdo, vero? Multiverse Computing ha appena raccolto 217 milioni di dollari e dice che è possibile. Una startup spagnola che ha convinto HP, Toshiba e altri big a scommettere sulla loro compressione dei modelli AI. Il trucco è ridurre un modello del 95% senza farlo diventare stupido.

La cosa interessante è che riescono a ridurre le dimensioni dei modelli linguistici fino al 95% senza farli diventare stupidi. Immagina di comprimere un elefante nelle dimensioni di un gatto, ma che continui a comportarsi come un elefante. Usano principi di fisica quantistica mescolati al machine learning, una specie di cocktail scientifico che funziona anche senza computer quantistici veri. I costi si riducono dell’80%. Il risparmio è reale, tangibile.

Ora Multiverse è diventata la più grande startup AI di Spagna. Hanno già rilasciato versioni compresse di Llama di Meta, DeepSeek e Mistral. Il futuro dell’AI non sarà più grande e più pesante, ma più piccola e più efficiente. Come tutto quello che conta davvero.