Modell-Routing

Was Routing bedeutet

Assistela ruft ein LLM nicht nur für gewöhnliche Chatantworten auf. Die App verwendet Modelle auch zum Zusammenfassen älterer Unterhaltungen, Prüfen der Erinnerung, Ausführen des Persönlichen Assistenten, Planen des Tool-Einsatzes, Arbeiten mit Code und Durchführen von Diagnosen. Mit Routing können Sie jedem Zweck ein anderes Konto oder Modell zuweisen.

Standardmäßig steht jeder Zweck auf Standard und übernimmt damit das AI-Hauptkonto und dessen Modell. Diese Einstellung wird empfohlen, bis Sie einen bestimmten Grund für eine Trennung haben.

Verfügbare Zwecke

Chat: gewöhnliche Antworten und die Hauptunterhaltung.
Zusammenfassung: Komprimieren älterer Verläufe, wenn der Kontext wächst.
Gesprächssuche: Finden älterer Nachrichten und Sitzungen.
Prüfung der Erinnerung: Bewerten und Aktualisieren dauerhafter Erinnerungen.
Persönlicher Assistent: regelmäßige proaktive Prüfungen.
Reflexion: Bewerten von Ergebnissen und Folgeschritten.
Aktionsplanung: Entscheiden, welche Tools in welcher Reihenfolge verwendet werden.
Programmierung: auf Programmierung ausgerichtete Arbeit.
Diagnose: Modellprüfungen und betriebliche Analyse.

Tools benötigen ein zuverlässiges Modell

Ein Modell, das gute Texte schreibt, kann Tools dennoch schlecht aufrufen. Verwenden Sie für den Persönlichen Assistenten, die Aktionsplanung, Erinnerung, Programmierung und Diagnose ein Modell mit zuverlässigem tool calling.

Benutzerdefinierte Route konfigurieren

1

Beide Konten vorbereiten

Fügen Sie zunächst jedes Konto unter Einstellungen → AI-Konten hinzu und testen Sie es unabhängig.

2

Routing öffnen

Wählen Sie Assistela → Einstellungen → Erweitert → Modell-Routing.

3

Zweck auswählen

Ändern Sie in der gewünschten Zeile Standard in Benutzerdefiniert.

4

Verbindung, Konto und Modell auswählen

Wählen Sie Verbindungstyp, AI-Konto und genaues Modell. Wenn das Modell fehlt, verwenden Sie eine benutzerdefinierte Modell-ID nur, wenn Sie die genaue Kennung des Anbieters kennen.

5

Genau diese Funktion testen

Testen Sie eine Chatroute mit einer Nachricht, eine Route für den Persönlichen Assistenten mit „Jetzt ausführen“ und eine Zusammenfassungsroute mit einer längeren Testunterhaltung oder der Diagnose.

Sinnvolle Strategien

Einfachheit: Lassen Sie alles auf „Standard“. Dadurch entstehen die wenigsten Fehlerquellen.
Geringere Kosten: Verwenden Sie ein schnelles günstiges Modell für Zusammenfassungen und Gesprächssuche und ein leistungsfähigeres für Chat und Aktionsplanung.
Spezialisierung: Verwenden Sie ein Programmiermodell nur für die Route „Programmierung“.
Getrennter Persönlicher Assistent: Verwenden Sie ein zuverlässiges Modell mit tool calling und eigenem Kostenbudget.

Verfügbarkeit und Kosten beachten

Jede benutzerdefinierte Route ist eine weitere Abhängigkeit. Wenn das Guthaben dieses Kontos aufgebraucht ist, sein API-Schlüssel abläuft oder der Anbieter ein Modell umbenennt, kann nur ein Teil von Assistela ausfallen. Überwachen Sie die Nutzung bei jedem beteiligten Anbieter.

Zum Standard zurückkehren

Setzen Sie den betroffenen Zweck wieder auf Standard. Er übernimmt dann erneut das AI-Hauptkonto und dessen Modell. Wenn der Fehler verschwindet, lag die Ursache beim jeweiligen Konto, Modell oder dessen Fähigkeit zur Tool-Nutzung.