Δρομολόγηση Μοντέλων
Η δρομολόγηση επιτρέπει σε διαφορετικούς τύπους εργασίας να χρησιμοποιούν άλλον λογαριασμό ή μοντέλο LLM, ενώ η κύρια συνομιλία παραμένει στην προεπιλογή.
Τι σημαίνει δρομολόγηση
Η Assistela δεν καλεί LLM μόνο για απλές απαντήσεις Συνομιλίας. Χρησιμοποιεί μοντέλα για σύνοψη παλιότερης συνομιλίας, έλεγχο μνήμης, Προσωπικό Βοηθό, σχεδιασμό εργαλείων, κώδικα και διαγνωστικά. Η δρομολόγηση αναθέτει διαφορετικό λογαριασμό ή μοντέλο σε κάθε σκοπό.
Από προεπιλογή κάθε σκοπός είναι Προεπιλογή, δηλαδή κληρονομεί τον κύριο λογαριασμό και μοντέλο AI. Συνιστάται μέχρι να έχετε συγκεκριμένο λόγο διαχωρισμού.
Διαθέσιμοι σκοποί
- Συνομιλία: απλές απαντήσεις και κύρια συζήτηση.
- Σύνοψη: συμπίεση παλιότερου ιστορικού καθώς αυξάνεται το πλαίσιο.
- Αναζήτηση συνομιλιών: εύρεση παλιότερων μηνυμάτων και συνεδριών.
- Έλεγχος μνήμης: αξιολόγηση και ενημέρωση μόνιμης μνήμης.
- Προσωπικός Βοηθός: περιοδικοί προληπτικοί έλεγχοι.
- Αναστοχασμός: αξιολόγηση αποτελεσμάτων και επόμενων βημάτων.
- Σχεδιασμός ενεργειών: απόφαση εργαλείων και σειράς χρήσης.
- Κωδικοποίηση: εργασία προγραμματισμού.
- Διαγνωστικά: έλεγχοι μοντέλου και λειτουργική ανάλυση.
Μοντέλο που γράφει καλά μπορεί να καλεί εργαλεία ανεπαρκώς. Για Προσωπικό Βοηθό, σχεδιασμό ενεργειών, μνήμη, κωδικοποίηση και διαγνωστικά, χρησιμοποιήστε μοντέλο με αξιόπιστο tool calling.
Ρύθμιση προσαρμοσμένης διαδρομής
Προετοιμάστε και τους δύο λογαριασμούς
Προσθέστε και δοκιμάστε ανεξάρτητα κάθε λογαριασμό στις Ρυθμίσεις → Λογαριασμοί AI.
Ανοίξτε τη δρομολόγηση
Επιλέξτε Assistela → Ρυθμίσεις → Προηγμένα → Δρομολόγηση Μοντέλων.
Επιλέξτε σκοπό
Στην απαιτούμενη σειρά, αλλάξτε Προεπιλογή σε Προσαρμοσμένο.
Επιλέξτε σύνδεση, λογαριασμό και μοντέλο
Επιλέξτε τύπο σύνδεσης, λογαριασμό AI και ακριβές μοντέλο. Αν λείπει, χρησιμοποιήστε προσαρμοσμένο ID μόνο όταν γνωρίζετε το ακριβές αναγνωριστικό παρόχου.
Δοκιμάστε την ακριβή λειτουργία
Δοκιμάστε διαδρομή Συνομιλίας με μήνυμα, Προσωπικού Βοηθού με Εκτέλεση τώρα και Σύνοψης με μεγαλύτερη δοκιμαστική συζήτηση ή διαγνωστικά.
Λογικές στρατηγικές
- Απλότητα: αφήστε τα πάντα στην Προεπιλογή για λιγότερα σημεία αποτυχίας.
- Χαμηλότερο κόστος: γρήγορο οικονομικό μοντέλο για συνόψεις και αναζήτηση, ισχυρότερο για Συνομιλία και σχεδιασμό ενεργειών.
- Εξειδίκευση: μοντέλο κωδικοποίησης μόνο στη διαδρομή Κωδικοποίηση.
- Ξεχωριστός Προσωπικός Βοηθός: αξιόπιστο μοντέλο tool calling με δικό του προϋπολογισμό.
Κάθε προσαρμοσμένη διαδρομή είναι επιπλέον εξάρτηση. Αν τελειώσει η πίστωση, λήξει το κλειδί API ή μετονομαστεί μοντέλο, μπορεί να αποτύχει μόνο μέρος της Assistela. Παρακολουθείτε κάθε πάροχο.
Επιστροφή στην προεπιλογή
Ορίστε ξανά τον επηρεαζόμενο σκοπό σε Προεπιλογή. Θα κληρονομήσει πάλι τον κύριο λογαριασμό και μοντέλο AI. Αν η αποτυχία εξαφανιστεί, αιτία ήταν ο λογαριασμός, το μοντέλο ή η ικανότητα εργαλείων του.