Instradamento dei modelli
L’instradamento consente di usare un altro account o modello LLM per diversi tipi di lavoro, mentre la chat principale rimane sul predefinito.
Che cosa significa instradamento
Assistela non chiama un LLM soltanto per le normali risposte della Chat. Usa i modelli anche per riassumere conversazioni meno recenti, rivedere la memoria, eseguire l’Assistente personale, pianificare l’uso degli strumenti, lavorare con il codice ed eseguire la diagnostica. L’instradamento consente di assegnare un account o modello diverso a ogni scopo.
Per impostazione predefinita, ogni scopo è configurato su Predefinito, vale a dire che eredita l’account e il modello IA principali. È la scelta consigliata finché non hai un motivo specifico per separare qualcosa.
Scopi disponibili
- Chat: risposte ordinarie e conversazione principale.
- Riepilogo: compressione della cronologia meno recente quando il contesto cresce.
- Ricerca nelle conversazioni: ricerca di messaggi e sessioni precedenti.
- Revisione della memoria: valutazione e aggiornamento della memoria duratura.
- Assistente personale: controlli proattivi periodici.
- Riflessione: valutazione dei risultati e dei passi successivi.
- Pianificazione delle azioni: decisione sugli strumenti da usare e sul loro ordine.
- Programmazione: lavoro incentrato sul codice.
- Diagnostica: verifiche dei modelli e analisi operative.
Un modello che scrive bene può comunque usare male gli strumenti. Per Assistente personale, pianificazione delle azioni, memoria, programmazione e diagnostica, usa un modello con un tool calling affidabile.
Configura un instradamento personalizzato
Prepara entrambi gli account
Per prima cosa aggiungi e prova separatamente ogni account in Impostazioni → Account IA.
Apri l’instradamento
Scegli Assistela → Impostazioni → Avanzate → Instradamento modelli.
Seleziona uno scopo
Nella riga richiesta, cambia Predefinito in Personalizzato.
Scegli connessione, account e modello
Seleziona il tipo di connessione, l’account IA e il modello esatto. Se il modello non è presente, usa un ID modello personalizzato solo se conosci l’identificatore esatto del fornitore.
Prova la funzione specifica
Prova l’instradamento della Chat con un messaggio, quello dell’Assistente personale con Esegui ora e quello del riepilogo con una conversazione di prova più lunga o con la diagnostica.
Strategie ragionevoli
- Semplicità: lascia tutto su Predefinito. In questo modo si riducono al minimo i possibili punti di errore.
- Costi inferiori: usa un modello rapido ed economico per riepiloghi e ricerca nelle conversazioni e uno più potente per Chat e pianificazione delle azioni.
- Specializzazione: usa un modello di programmazione solo per l’instradamento Programmazione.
- Assistente personale separato: usa un modello affidabile per il tool calling con un proprio budget di spesa.
Ogni instradamento personalizzato è un’ulteriore dipendenza. Se l’account esaurisce il credito, la chiave API scade o il fornitore rinomina un modello, solo una parte di Assistela potrebbe smettere di funzionare. Controlla l’utilizzo di ogni fornitore coinvolto.
Torna al valore predefinito
Reimposta lo scopo interessato su Predefinito. Erediterà nuovamente l’account e il modello IA principali. Se il problema scompare, la causa era l’account, il modello o la sua capacità di usare gli strumenti.