Perutean Model
Perutean memungkinkan jenis pekerjaan berbeda menggunakan akun atau model LLM lain sementara chat utama tetap memakai default.
Arti perutean
Assistela tidak hanya memanggil LLM untuk jawaban Chat biasa. Assistela juga menggunakan model untuk merangkum percakapan lama, meninjau memori, menjalankan Asisten Pribadi, merencanakan penggunaan alat, bekerja dengan kode, dan melakukan diagnostik. Perutean memungkinkan Anda menetapkan akun atau model berbeda untuk setiap tujuan.
Secara default, setiap tujuan diatur ke Default, artinya mewarisi akun dan model AI utama. Ini disarankan hingga Anda memiliki alasan khusus untuk memisahkannya.
Tujuan yang tersedia
- Chat: jawaban biasa dan percakapan utama.
- Perangkuman: memadatkan riwayat lama saat konteks tumbuh.
- Pencarian percakapan: menemukan pesan dan sesi lama.
- Tinjauan memori: mengevaluasi dan memperbarui memori tahan lama.
- Asisten Pribadi: pemeriksaan proaktif berkala.
- Refleksi: mengevaluasi hasil dan langkah tindak lanjut.
- Perencanaan tindakan: menentukan alat dan urutan penggunaannya.
- Pengodean: pekerjaan yang berfokus pada pemrograman.
- Diagnostik: pemeriksaan model dan analisis operasional.
Model yang menulis dengan baik tetap dapat memanggil alat dengan buruk. Untuk Asisten Pribadi, perencanaan tindakan, memori, pengodean, dan diagnostik, gunakan model dengan tool calling yang andal.
Konfigurasikan rute khusus
Siapkan kedua akun
Tambahkan dan uji setiap akun secara terpisah di Pengaturan → Akun AI.
Buka perutean
Pilih Assistela → Pengaturan → Lanjutan → Perutean Model.
Pilih tujuan
Untuk baris yang diperlukan, ubah Default menjadi Khusus.
Pilih koneksi, akun, dan model
Pilih jenis koneksi, akun AI, dan model tepat. Jika model tidak ada, gunakan ID model khusus hanya jika mengetahui pengenal tepat dari penyedia.
Uji fitur tersebut
Uji rute Chat dengan pesan, rute Asisten Pribadi dengan Jalankan Sekarang, dan rute ringkasan dengan percakapan uji lebih panjang atau diagnostik.
Strategi yang masuk akal
- Kesederhanaan: biarkan semuanya pada Default untuk titik kegagalan paling sedikit.
- Biaya lebih rendah: gunakan model cepat dan murah untuk ringkasan dan pencarian, serta model lebih kuat untuk Chat dan perencanaan tindakan.
- Spesialisasi: gunakan model pengodean hanya pada rute Pengodean.
- Asisten Pribadi terpisah: gunakan model tool calling andal dengan anggaran sendiri.
Setiap rute khusus adalah dependensi lain. Jika akun kehabisan kredit, kunci API kedaluwarsa, atau penyedia mengganti nama model, hanya sebagian Assistela yang mungkin gagal. Pantau penggunaan setiap penyedia.
Kembali ke default
Atur kembali tujuan terkait ke Default. Tujuan akan mewarisi akun dan model AI utama. Jika kegagalan hilang, penyebabnya adalah akun, model, atau kemampuan penggunaan alatnya.