Penghalaan Model

Maksud penghalaan

Assistela tidak memanggil LLM hanya untuk jawapan Chat biasa. Ia turut menggunakan model untuk meringkaskan perbualan lama, menyemak memori, menjalankan Pembantu Peribadi, merancang penggunaan alat, bekerja dengan kod dan menjalankan diagnostik. Penghalaan membolehkan anda menetapkan akaun atau model berlainan bagi setiap tujuan.

Secara lalai, setiap tujuan ditetapkan kepada Lalai, yang bermakna ia mewarisi akaun dan model AI utama. Ini disyorkan sehingga anda mempunyai sebab tertentu untuk mengasingkan sesuatu.

Tujuan yang tersedia

Chat: jawapan biasa dan perbualan utama.
Ringkasan: memampatkan sejarah lama apabila konteks bertambah.
Carian perbualan: menemukan mesej dan sesi lama.
Semakan memori: menilai dan mengemas kini memori berpanjangan.
Pembantu Peribadi: semakan proaktif berkala.
Refleksi: menilai hasil dan langkah susulan.
Perancangan tindakan: menentukan alat yang perlu digunakan dan urutannya.
Pengekodan: kerja yang berfokuskan pengaturcaraan.
Diagnostik: semakan model dan analisis operasi.

Alat memerlukan model yang andal

Model yang menghasilkan prosa baik masih mungkin menggunakan alat dengan kurang baik. Untuk Pembantu Peribadi, perancangan tindakan, memori, pengekodan dan diagnostik, gunakan model dengan tool calling yang andal.

Konfigurasikan laluan tersuai

1

Sediakan kedua-dua akaun

Tambah dan uji setiap akaun secara berasingan di bawah Tetapan → Akaun AI dahulu.

2

Buka penghalaan

Pilih Assistela → Tetapan → Lanjutan → Penghalaan Model.

3

Pilih tujuan

Untuk baris yang diperlukan, ubah Lalai kepada Tersuai.

4

Pilih sambungan, akaun dan model

Pilih jenis sambungan, akaun AI dan model tepat. Jika model tiada, gunakan ID model tersuai hanya apabila anda mengetahui pengecam tepat penyedia.

5

Uji ciri tersebut

Uji laluan Chat dengan mesej, laluan Pembantu Peribadi dengan Jalankan Sekarang dan laluan ringkasan dengan perbualan ujian lebih panjang atau diagnostik.

Strategi yang munasabah

Kesederhanaan: biarkan semuanya pada Lalai. Ini menghasilkan paling sedikit titik kegagalan.
Kos lebih rendah: gunakan model pantas dan murah untuk ringkasan serta carian perbualan, dan model lebih kukuh untuk Chat serta perancangan tindakan.
Pengkhususan: gunakan model pengekodan hanya pada laluan Pengekodan.
Pembantu Peribadi berasingan: gunakan model tool calling yang boleh diharap dengan belanjawan kosnya sendiri.

Pantau ketersediaan dan kos

Setiap laluan tersuai ialah satu lagi kebergantungan. Jika akaun kehabisan kredit, kunci APInya luput atau penyedia menamakan semula model, hanya sebahagian Assistela mungkin gagal. Pantau penggunaan bagi setiap penyedia yang terlibat.

Kembali kepada lalai

Tetapkan tujuan yang terjejas kembali kepada Lalai. Ia akan mewarisi akaun dan model AI utama sekali lagi. Jika kegagalan hilang, puncanya ialah akaun, model atau keupayaan penggunaan alat tertentu.