ספק LLM משלכם

לפני שמתחילים

לחיבור API דרושים חשבון אצל הספק הנבחר ומפתח API שלו. מנוי ChatGPT ו-OpenAI API הם שירותים נפרדים: ChatGPT Plus כשלעצמו אינו מספק מפתח OpenAI API או אשראי API.

אחסון מאובטח

כאשר Assistela שואלת היכן לשמור סיסמאות ומפתחות גישה, בחרו שימוש ב-Keychain של ה-Mac לשימוש רגיל. קל יותר לגבות את נתוני Assistela, אך הם נעשים רגישים יותר כאשר נשמרים בהם מפתחות.

OpenAI, Anthropic או ספק אחר מהרשימה

1

הוסיפו חשבון AI

פתחו Assistela ← הגדרות ← חשבונות AI. לחצו על + בפינה השמאלית התחתונה ובחרו את הספק.

2

בדקו את שרת ה-API

עבור ספקים שמופיעים ברשימה, כתובת שרת ה-API בכרטיסייה חשבון מוזנת מראש. אל תשנו אותה אלא אם הספק מסר במפורש כתובת אחרת.

3

הדביקו את מפתח ה-API

תחת מפתח גישה, הדביקו את מפתח ה-API בדיוק כפי שהוא מופיע בלוח הבקרה של הספק. אל תוסיפו רווחים או מירכאות.

4

שמרו ובדקו

לחצו על שמירה ובדיקת החשבון. המתינו להודעה שהחשבון מוכן או שהחיבור פועל.

5

בחרו מודל

פתחו את הכרטיסייה מודל. השאירו את המודל שהוגדר מראש, או רעננו את רשימת המודלים ובחרו אחר. הזינו שם מודל ידנית רק כאשר הספק אינו מחזיר אותו ברשימה.

6

הגדירו אותו כברירת המחדל

בכרטיסייה „חשבון”, לחצו על הגדרה כברירת מחדל. לאחר מכן שלחו הודעת בדיקה בצ׳אט.

API מותאם התואם ל-OpenAI או ל-Anthropic

בתפריט +, בחרו מותאם תואם OpenAI או מותאם תואם Anthropic. כתובת השרת אינה מוזנת בחשבון מותאם.

תחת כתובת שרת API, הזינו את ה-URL המלא מתיעוד הספק. API תואם OpenAI כולל לעיתים קרובות נתיב כגון /v1, אך תיעוד הספק המסוים הוא הסמכות הקובעת.
אשרו את תבנית החיבור הנכונה: תבנית OpenAI API או תבנית Anthropic Messages API.
הדביקו את מפתח ה-API ולחצו על שמירה ובדיקת החשבון.
בכרטיסייה מודל, טענו את רשימת המודלים. אם ה-API אינו מספק רשימה, בחרו מודל מותאם והזינו את מזהה המודל המדויק.

מנוי ChatGPT ללא מפתח API

1

בחרו מנוי ChatGPT

תחת הגדרות ← חשבונות AI, לחצו על + ובחרו מנוי ChatGPT.

2

התחילו את החיבור

לחצו על חיבור ChatGPT. Assistela מציגה קוד חד-פעמי.

3

פתחו את OpenAI

השתמשו בפתיחת דף OpenAI ובהעתקת קוד. בדף שנפתח, היכנסו לחשבון ChatGPT הנכון והזינו את הקוד.

4

המתינו לאישור

חזרו ל-Assistela והשאירו את החלון פתוח. האפליקציה בודקת את החיבור אוטומטית במשך כמה דקות. אם מופיע כפתור שמאשר שהזנתם את הקוד, השתמשו בו.

5

הגדירו אותו כברירת המחדל

לאחר הצלחת החיבור, לחצו על הגדרה כברירת מחדל ובדקו את הצ׳אט.

בעיות נפוצות

מפתח לא חוקי: צרו או העתיקו שוב את מפתח ה-API, ואז שמרו שוב את החשבון.
כתובת שרת API לא חוקית: השוו את https://, נתיב ה-API ו-/v1 הסופי לתיעוד הספק.
המודל לא נמצא: רעננו את רשימת המודלים או הזינו את מזהה המודל המדויק.
החשבון פועל אך הצ׳אט אינו משתמש בו: הגדירו את החשבון כברירת המחדל וודאו שהוא פעיל.

בחירת מודל בלי כוונון מורכב

לחשבון הראשי, התחילו במודל שהספק מציין כי הוא תומך ב-tool calling. אם הצ׳אט עונה אך אינו יכול להשתמש בלוח השנה, באימייל או בפעולות אחרות, בדקו תמיכה בכלים לפני שינוי הגדרות טוקנים מתקדמות.

השתמשו במודל כללי בעל יכולת כברירת המחדל לצ׳אט ולעבודה מורכבת.
מודל מהיר וזול יותר עשוי להתאים לבדיקות אוטומטיות פשוטות ותכופות.
לאחר שינוי המודל, השתמשו בשמירה ובדיקת החשבון ולאחר מכן בדקו פעולה בטוחה אחת לקריאה בלבד.

ראו ניתוב מודלים כדי לפצל עבודה בין כמה מודלים.