Switchyard e policy
Preparare il routing intelligente
switchyard è un nome pubblico riservato. Seleziona un classificatore compatibile e abilita come target i modelli approvati nel catalogo. Per ogni target controlla capacità, protocollo, prezzo massimo stimato e livelli di ragionamento.
Il giudice valuta l’idoneità dei candidati. La scelta applica i vincoli di capacità e ambito, confronta il livello di ragionamento richiesto e il massimo stimato già utilizzato per le riserve. Non promette il minimo costo effettivo finale.
Livelli di ragionamento
I livelli portabili sono none, minimal, low, medium, high, xhigh e max. Per ciascuno configura parametri nativi realmente supportati. Il gateway non inventa un’equivalenza universale tra budget di thinking e livelli portabili.
Nelle API, reasoning_effort prevale sui campi alternativi di effort previsti. Una richiesta con soltanto un budget di thinking deve indicare anche il livello portabile quando necessario alla selezione.
Costo e contesto
Classificazione e risposta attraversano entrambe controlli PII e prenotazione del credito. Il costo del classificatore riduce il budget disponibile per la richiesta. Un consumo incerto arresta il flusso e conserva la riserva da riconciliare.
Le registrazioni collegate distinguono scopo routing e answer e condividono un gruppo di richiesta. Gli header diagnostici disponibili sono descritti in Streaming e strumenti.
Una continuazione Responses o un artefatto firmato può essere vincolato a una route: non deve essere spostato trasparentemente su un modello incompatibile. Revocare il target può impedire nuove continuazioni.
Configurare le policy
In Modelli e policy seleziona ambito e risorsa consentiti al tuo ruolo. Imposta modelli autorizzati, predefinito, protezione PII e massimo economico per richiesta.
| Scelta | Effetto |
|---|---|
| Lista di nomi pubblici | Consente soltanto i nomi selezionati entro i vincoli superiori |
| Tutti i modelli consentiti | Include anche modelli futuri, sempre entro ambito e policy superiori |
| Modello predefinito | Stabilisce la scelta prevista dove il client non ne indica una diversa ammessa |
| Massimo per richiesta | Limita l’esposizione economica della prenotazione |
| PII richiesti | Impone la protezione secondo le regole applicabili |
Le policy hanno ambiti Netter, reseller, azienda, gruppo e utente. I campi API legacy profile, allowed_profiles e default_profile rappresentano oggi nomi pubblici liberi; non reintroducono fasce fisse di capacità.
Embeddings e modifiche di modello
I binding embeddings vanno mantenuti coerenti con gli indici che li utilizzano. Cambiare modello o namespace può richiedere reindicizzazione del dataset; completa il flusso autorizzato di reindicizzazione prima di usare il nuovo binding. Switchyard non sostituisce automaticamente la scelta nominativa di embeddings e audio.