AI infrastructure: la fine dell'era dei foundation model generalisti?

La fine di un'illusione

Tra il 2022 e il 2025 il messaggio implicito dei laboratori AI è stato chiaro: "aspetta il prossimo modello, sarà migliore di quanto pensavi e renderà obsoleta la tua ottimizzazione". Per molti casi d'uso ha funzionato. Per i carichi di produzione reali, sempre meno.

I limiti diventano evidenti:

• Ritorni decrescenti sulla scala dei foundation model generalisti
• Costi di inferenza in aumento per applicazioni davvero usate
• Latenza incompatibile con UX real-time
• Tassi di errore ancora troppo alti per workflow autonomi end-to-end

Nei prossimi 24 mesi il vantaggio competitivo non sarà più "uso GPT-X invece di Y". Sarà come hai composto l'intero stack.

I cinque livelli del nuovo stack AI

1. Routing layer — un classificatore leggero che decide quale modello usare per ogni richiesta.
2. Modelli specializzati — fine-tunati o piccoli, per i task ripetitivi e ad alto volume.
3. Foundation model generalisti — riservati ai task complessi e a basso volume.
4. Memory & retrieval — vector DB, knowledge graph, cache semantica. Il dato è tuo, non del fornitore.
5. Orchestrazione e tool use — il livello dove agenti, funzioni e sistemi esterni si parlano.

Nessuno di questi livelli vale, da solo. La differenza la fa l'integrazione.

Cosa cambia per chi compra AI infrastructure

I prossimi 24 mesi saranno il periodo in cui:

• I prezzi dei modelli generalisti smetteranno di scendere come negli anni precedenti
• Emergeranno provider europei seri di inferenza (anche per ragioni di sovranità del dato)
• Le piattaforme di orchestrazione (LangGraph, Inngest, Temporal e simili) diventeranno commodity
• Il fine-tuning tornerà di moda — non come ricerca, ma come pratica industriale ordinaria

Cosa cambia per chi costruisce prodotti AI

Tre raccomandazioni concrete:

1. Disaccoppia il prodotto dal modello specifico. Ogni chiamata AI deve essere un'interfaccia astratta dietro cui puoi sostituire fornitori senza rifare il prodotto.
2. Misura il costo per task, non il costo per token. Sono cose diverse. Il primo è la metrica di business, il secondo solo una variabile.
3. Non costruire la tua piattaforma di orchestrazione, a meno che non sia il tuo core business. Compra (o usa open source maturo) e investi sul dominio.

La vera scarsità nei prossimi 24 mesi

Non sarà più la GPU, anche se sembra controintuitivo. Sarà:

• Talento di ML engineering capace di portare modelli in produzione, non solo in notebook
• Dati di dominio puliti, etichettati, con consenso d'uso documentato
• Capacità di disegno di prodotto che integra l'AI senza ridurla a una feature

Chi ha questi tre asset costruirà i prodotti che contano. La dimensione del modello, fra 24 mesi, sarà un dettaglio implementativo.