Modelldirigering
Med dirigering kan olika slags arbete använda ett annat LLM-konto eller en annan modell medan huvudchatten behåller sin standard.
Vad dirigering innebär
Assistela anropar inte en LLM enbart för vanliga svar i Chatt. Modeller används också för att sammanfatta äldre samtal, granska minnet, köra Personlig assistent, planera verktygsanvändning, arbeta med kod och utföra diagnostik. Med dirigering kan du tilldela varje ändamål ett annat konto eller en annan modell.
Som standard är varje ändamål inställt på Standard, vilket innebär att det ärver det huvudsakliga AI-kontot och modellen. Detta rekommenderas tills du har ett särskilt skäl att separera något.
Tillgängliga ändamål
- Chatt: vanliga svar och huvudsamtalet.
- Sammanfattning: komprimerar äldre historik när sammanhanget växer.
- Samtalssökning: hittar äldre meddelanden och sessioner.
- Minnesgranskning: bedömer och uppdaterar varaktigt minne.
- Personlig assistent: regelbundna proaktiva kontroller.
- Reflektion: bedömer resultat och nästa steg.
- Åtgärdsplanering: avgör vilka verktyg som ska användas och i vilken ordning.
- Kodning: programmeringsinriktat arbete.
- Diagnostik: modellkontroller och driftanalys.
En modell som skriver bra text kan ändå använda verktyg dåligt. Använd en modell med tillförlitlig tool calling för Personlig assistent, åtgärdsplanering, minne, kodning och diagnostik.
Konfigurera en anpassad dirigering
Förbered båda kontona
Lägg först till och testa varje konto separat under Inställningar → AI-konton.
Öppna dirigering
Välj Assistela → Inställningar → Avancerat → Modelldirigering.
Välj ett ändamål
Ändra Standard till Anpassad på önskad rad.
Välj anslutning, konto och modell
Välj anslutningstyp, AI-konto och exakt modell. Om modellen saknas ska du bara använda ett anpassat modell-id när du känner till leverantörens exakta identifierare.
Testa just den funktionen
Testa en Chatt-dirigering med ett meddelande, en Personlig assistent-dirigering med Kör nu och en sammanfattningsdirigering med ett längre testsamtal eller diagnostik.
Förnuftiga strategier
- Enkelhet: låt allt vara Standard. Det ger minst antal möjliga felkällor.
- Lägre kostnad: använd en snabb och billig modell för sammanfattningar och samtalssökning och en kraftfullare för Chatt och åtgärdsplanering.
- Specialisering: använd en kodmodell bara för dirigeringen Kodning.
- Separat Personlig assistent: använd en pålitlig modell för tool calling med egen kostnadsbudget.
Varje anpassad dirigering är ytterligare ett beroende. Om kontots kredit tar slut, dess API-nyckel går ut eller leverantören byter modellnamn kan bara en del av Assistela sluta fungera. Övervaka användningen hos varje berörd leverantör.
Återgå till standard
Ställ tillbaka det berörda ändamålet på Standard. Det ärver då åter det huvudsakliga AI-kontot och modellen. Om felet försvinner låg orsaken i det särskilda kontot, modellen eller dess förmåga att använda verktyg.