Una tabella di costi è un oggetto rassicurante. Mette in colonna i parametri, i token, i server, e restituisce una cifra che sembra chiudere il discorso. La discussione che sta attraversando la community italiana sull'LLM nazionale ha, in talune apprezzabili circostanze, prodotto tabelle così, oneste e utili, col merito raro di sostituire l'entusiasmo con l'aritmetica. Il problema è che misurano una sola voce: il noleggio (ma spesso, con coraggio, anche l'acquisto) delle GPU per un pretraining che fila liscio. Che è, più o meno, il 20% del conto vero.

Il primo continente sommerso sono i dati. Un modello non è funzione dei suoi FLOPs, è funzione del corpus che ha digerito. E qui la lingua gioca contro: l'italiano di qualità sul web è una frazione dell'inglese, e quel poco va setacciato. Sourcing, deduplicazione a scala di trilioni di token, filtri di qualità addestrati apposta, rimozione dei dati personali, decontaminazione dai benchmark, un tokenizer che non sprechi caratteri sull'italiano. Il solo filtraggio aggiunge un 10-30% di compute prima ancora che il modello veda un token. Poi c'è il diritto: l'AI Act chiede un riassunto dei dati di addestramento e una policy sul copyright, e i corpora italiani buoni hanno quasi sempre un editore dietro.

La scorciatoia di moda si chiama dati sintetici. Funziona finché non ci pensi. Per generare buon italiano sintetico serve un modello di frontiera, i cui termini d'uso vietano di addestrare concorrenti sui suoi output, e che ti trasforma in una distillazione: non sei sovrano, sei una copia a valle. Il tetto di qualità diventa il tuo maestro. Non batti Claude distillando Claude.

Il secondo continente è l'allineamento, la voce a cui quasi nessuno pensa mentre fa i conti. Il pretraining consegna un modello che completa il testo, non uno che risponde. Per renderlo usabile servono istruzioni scritte da umani, dati di preferenza, valutazioni (e per l'italiano un benchmark ampio non esiste, te lo costruisci), red-teaming, documentazione. È costo umano, non GPU: un set di istruzioni decente in italiano vale da solo 200-300 mila euro. Somma i run che deragliano e le prove preliminari, e il modello davvero usabile finisce per costare 2-4 volte la riga di pretraining.

Poi bisogna tenerlo acceso, ed è qui che i numeri diventano poco romantici. Servire anche solo un 30B in modo sensato e competitivo non è tenere una GPU calda, è una flotta accesa giorno e notte, perché la memoria non la divorano i pesi ma la KV cache, che cresce con ogni utente simultaneo. Un solo nodo da 8 H100 assorbe circa 10 kW: oltre 7.000 kWh al mese, che alla tariffa industriale italiana, tra le più salate d'Europa, fanno quasi 1.800 euro di sola corrente, 3.000 col raffreddamento. Aggiungi il deprezzamento di un hardware che invecchia in tre anni e un ingegnere che lo tenga in piedi, e sei a 150-200 mila euro l'anno per un nodo, prima di sapere se qualcuno lo userà. E lo paghi identico anche da fermo, mentre il traffico vero arriva a ondate. Fatti i conti, quel 30B ti costa 1-3 euro per milione di token, quando a consumo affitti modelli di frontiera migliori del tuo a una frazione del prezzo. La matematica del self-hosting torna solo sopra le decine di milioni di token al mese, stabili.

Vale la pena, per inciso, non confondere le macchine. Un robusto supercomputer nazionale pensato per il calcolo scientifico è un animale diverso da un cluster costruito apposta per il training: centinaia di migliaia di schede di ultima generazione cablate per un unico addestramento sincrono. Così diverso che uno di questi colossi privati, mescolando hardware eterogeneo, ha smesso di addestrare bene e ne hanno riconvertito un pezzo all'inferenza. Per un progetto italiano la leva non è comprare un server, è chiedere allocazioni sulle AI Factory europee o su infrastrutture pubbliche. Ma quello è tempo-macchina per un addestramento, non l'infrastruttura che serve a reggere utenti veri ogni giorno.

C'è poi la variabile più sottovalutata di tutte, il tempo. Uno dei cluster privati più discussi, Colossus, è stato acceso in 122 giorni, quando montare centomila GPU, a detta di Nvidia stessa, richiede di norma qualcosa come quattro anni. Sembra la solita parabola del privato agile contro il pubblico lento, e invece è l’altra faccia della medaglia. La velocità record è stata pagata a parte, con gigawatt di assorbimento, generatori a gas installati in fretta e i contenziosi ambientali che ne sono seguiti. La rapidità non è gratis, il conto lo salda qualcun altro: un privato quel costo lo esternalizza, uno Stato e una comunità no. Il che dice due cose insieme, che sul ritmo dell'infrastruttura non puoi competere e che forse non è nemmeno il caso di volerlo.

E qui arriva la domanda che rovescia il tavolo, quella che nessun preventivo contiene. Non è "come lo costruiamo", è "per quale utente italiano il nostro modello sarà la scelta migliore disponibile?". Perché un modello di frontiera è già eccellente in italiano: i grandi modelli nascono multilingue, e l'italiano è una lingua ben servita. "Meno capace ma con qualche dato italiano in più" non è un compromesso, è una posizione perdente. La competenza in italiano sta a valle della competenza generale, e quella la possiede la frontiera. Qualche gigabyte di corpus nazionale ti compra sfumature idiomatiche che gli altri hanno già, mentre paghi in ragionamento e conoscenza del mondo, cioè in tutto ciò che conta davvero. Ottieni un modello peggiore ovunque e non più italiano dove serve. Aperta l'app di chat, l'utente sceglierà comunque altro.

L'italianità che conta, del resto, non è una proprietà della lingua. È una proprietà del contesto: la sovranità del dato, che non può lasciare il Paese; l'aderenza a un dominio regolato; la conoscenza della pubblica amministrazione, della manifattura, della sanità, del diritto. È qui che la domanda iniziale cambia segno. Centomila euro di GPU investiti nell'ennesimo generalista produrrebbero un modello nato già in ritardo. Gli stessi centomila euro, investiti in una famiglia di modelli piccoli e specialistici, addestrati tramite fine-tuning su basi aperte e mature come Qwen, Llama o Mistral, costruirebbero invece competenze difficilmente replicabili. Non perché questi modelli siano alternativi alla frontiera, ma perché la assumono come fondazione e la indirizzano verso verticali che la frontiera, per ragioni economiche e di scala, non può presidiare con la stessa profondità. Per un piccolo team è questo il solo spazio competitivo: non la costruzione della capacità generale, ma la sua specializzazione istituzionale.

E poi, dopo aver speso tutto questo, il coraggio di aprire i pesi. Le strade sono due, entrambe legittime, ma vanno chiamate per nome. Una comunità aperta (come tante si dichiarano in principio) che mette lavoro e competenza e poi tiene il modello chiuso ha costruito un business sul contributo di molti: rispettabilissimo, a patto di dirlo prima e non dopo. L'altra strada è restituire alla comunità ciò che la comunità ha fatto. E non è solo etica: sta diventando la corsia quasi obbligata anche per ragioni regolatorie. Il vento è che i governi chiederanno aderenza a framework di sicurezza tagliati sui pochi che possono permetterseli, e già oggi l'AI Act riserva ai modelli aperti e non sistemici un regime più leggero. Per un 30B di comunità, lontano anni luce dalle soglie di rischio sistemico, l'apertura non è generosità, è la mossa che ti tiene in partita.

Un LLM italiano ha senso. Ma sovrano non è chi possiede i pesi, è chi decide cosa farne. E dopo aver fatto tutti i conti, la decisione più sovrana che una comunità nostrana possa prendere è forse anche la più contro-intuitiva: costruire poco e mirato, costruirlo benissimo, e lasciarlo aperto.

L'argomento sviluppato in questo post riguarda la costruzione di un ecosistema nazionale, non prescrive una scelta universale di foundation model. Nell'industria, modelli aperti e proprietari possono anche essere strumenti complementari. Il vantaggio competitivo nasce soprattutto quando un investimento mirato consente di risolvere problemi ad alto impatto economico: quelli in cui l'ottimizzazione dei processi, la riduzione del rischio o il miglioramento della produttività giustificano una soluzione specialistica.