ניתוב מודלים

מהו ניתוב

Assistela אינה פונה ל-LLM רק לתשובות צ׳אט רגילות. היא משתמשת במודלים גם לסיכום שיחות ישנות, לסקירת זיכרון, להפעלת העוזרת האישית, לתכנון שימוש בכלים, לעבודה עם קוד ולאבחון. ניתוב מאפשר להקצות חשבון או מודל אחר לכל מטרה.

כברירת מחדל כל מטרה מוגדרת ברירת מחדל, כלומר היא יורשת את חשבון ה-AI והמודל הראשיים. הדבר מומלץ עד שיש סיבה מסוימת להפריד.

מטרות זמינות

• צ׳אט: תשובות רגילות והשיחה הראשית.
• סיכום: דחיסת היסטוריה ישנה כאשר ההקשר גדל.
• חיפוש שיחות: מציאת הודעות והפעלות ישנות.
• סקירת זיכרון: הערכה ועדכון של זיכרון מתמשך.
• עוזרת אישית: בדיקות יזומות תקופתיות.
• רפלקציה: הערכת תוצאות וצעדי המשך.
• תכנון פעולות: החלטה באילו כלים להשתמש ובאיזה סדר.
• קוד: עבודה ממוקדת תכנות.
• אבחון: בדיקות מודל וניתוח תפעולי.

הגדרת נתיב מותאם

אסטרטגיות הגיוניות

• פשטות: השאירו הכול בברירת המחדל. כך יש הכי מעט נקודות כשל.
• עלות נמוכה: השתמשו במודל מהיר וזול לסיכומים ולחיפוש שיחות, ובמודל חזק יותר לצ׳אט ולתכנון פעולות.
• התמחות: השתמשו במודל קוד רק בנתיב קוד.
• עוזרת אישית נפרדת: השתמשו במודל אמין ל-tool calling עם תקציב עלויות משלו.

חזרה לברירת המחדל

החזירו את המטרה הרלוונטית לברירת מחדל. היא שוב תירש את חשבון ה-AI והמודל הראשיים. אם הכשל נעלם, הסיבה הייתה החשבון, המודל או יכולת השימוש שלו בכלים.