AI Router nasce da un problema concreto: pagare un modello di frontiera per rispondere «ciao». Invece di scegliere il modello a mano in ogni punto del codice, abbiamo messo la decisione dentro l'endpoint.
Il primo commit è del 21 aprile 2026: un router, un saldo a crediti e una dashboard. Il problema era già chiaro allora — nel codice di tutti i giorni il nome del modello è scritto a mano, e resta quello anche quando la richiesta non ne ha bisogno.
Abbiamo costruito AI Router come lo volevamo per noi: un endpoint OpenAI-compatibile che legge la richiesta, ne stima la complessità con un modello che non costa nulla, e la manda al modello più economico capace di rispondere bene. Con il fallback quando un provider cade, e con il costo scritto nella risposta invece che in un foglio di calcolo.
Oggi lo stesso endpoint parla tre linguaggi — OpenAI, Anthropic e MCP — e ogni richiesta lascia una riga leggibile.
Giusto è il più economico che risponde bene. Tutto il resto è spesa che non cambia il risultato.
Ogni risposta dice quale modello ha risposto, a che livello, con quanti crediti e se è scattato un fallback. Nessuna scatola nera.
Registriamo metadati — modello, token, costo, latenza. Il contenuto di richieste e risposte non finisce nei nostri log.
Puoi sempre forzare il livello, fissare i modelli con un preset o chiamare un modello preciso. Il default è una comodità, non una gabbia.
Quando diciamo «fino al 90%» è una stima sul differenziale di prezzo tra modelli, e lo scriviamo. Non la spacciamo per uno SLA.
Router, saldo a crediti, fatturazione Stripe e dashboard: la prima versione instrada già su più modelli.
rilasciatoIl routing smette di dipendere da un provider solo: più hub di inferenza e fallback automatico tra loro.
rilasciatoIl free tier resta sul livello Simple; chi forza un livello a pagamento riceve un errore chiaro, non un declassamento silenzioso.
rilasciatoFissi il modello per ogni livello e assegni il preset a una chiave API o al server MCP. Venti preset predefiniti su nove categorie.
rilasciatoEventi su richieste e crediti, firma HMAC-SHA256, storico delle consegne e re-delivery manuale.
rilasciatoIl pannello di amministrazione sceglie i modelli per livello; la fatturazione smette di appiattirsi su un livello unico.
rilasciatoArrivano /v1/messages e /v1/responses accanto a /v1/chat/completions, più il magazzino di memorie con ricerca full-text.
rilasciatoLo streaming diventa nativo su tutte e tre le superfici, con lo stesso nucleo di condotta e nessun buffering intermedio.
rilasciato«Non volevamo un altro SDK da imparare. Volevamo che il codice già scritto smettesse di pagare troppo, senza cambiare una riga in più.»
AI Router nasce dal bisogno di non pagare un modello di frontiera per rispondere «ciao».