Pagruruta ng modelo
Hinahayaan ng routing na gumamit ang iba't ibang uri ng trabaho ng ibang LLM account o modelo habang nananatili sa default ang pangunahing Chat.
Ang ibig sabihin ng routing
Hindi lang tumatawag ang Assistela ng LLM para sa karaniwang sagot sa Chat. Gumagamit din ito ng mga modelo para ibuod ang mas lumang pag-uusap, suriin ang memory, patakbuhin ang Personal Assistant, planuhin ang paggamit ng tool, gumamit ng code at magsagawa ng diagnostics. Hinahayaan ka ng routing na magtalaga ng ibang account o modelo sa bawat layunin.
Bilang default, nakatakda ang bawat layunin sa Default, na nangangahulugang minamana nito ang pangunahing AI account at modelo. Inirerekomenda ito hanggang may partikular kang dahilan para paghiwalayin ang isang bagay.
Mga available na layunin
- Chat: karaniwang sagot at pangunahing pag-uusap.
- Summarization: pag-compress sa mas lumang history habang lumalaki ang konteksto.
- Conversation search: paghahanap ng mas lumang mensahe at session.
- Memory review: pagsusuri at pag-update ng pangmatagalang memory.
- Personal Assistant: pana-panahong proactive na pagsusuri.
- Reflection: pagsusuri sa mga resulta at follow-up step.
- Action planning: pagpapasya kung aling mga tool ang gagamitin at sa anong pagkakasunod-sunod.
- Coding: trabahong nakatuon sa programming.
- Diagnostics: mga pagsusuri ng modelo at operational analysis.
Maaaring mahusay magsulat ang modelo ngunit hindi mahusay tumawag ng mga tool. Para sa Personal Assistant, action planning, memory, coding at diagnostics, gumamit ng modelong may maaasahang tool calling.
Mag-configure ng custom route
Ihanda ang dalawang account
Idagdag at hiwalay na subukan muna ang bawat account sa Settings → AI Accounts.
Buksan ang routing
Piliin ang Assistela → Settings → Advanced → Model Routing.
Pumili ng layunin
Para sa kinakailangang row, baguhin ang Default sa Custom.
Piliin ang koneksyon, account at modelo
Piliin ang uri ng koneksyon, AI account at eksaktong modelo. Kung wala ang modelo, gumamit lang ng custom model ID kapag alam mo ang eksaktong identifier ng provider.
Subukan ang eksaktong feature
Subukan ang Chat route gamit ang mensahe, Personal Assistant route gamit ang Run Now at summary route gamit ang mas mahabang test conversation o diagnostics.
Mga makatuwirang strategy
- Pagiging simple: iwan ang lahat sa Default. Ito ang may pinakakaunting failure point.
- Mas mababang gastos: gumamit ng mabilis at murang modelo para sa mga buod at conversation search, at mas mahusay na modelo para sa Chat at action planning.
- Specialization: gumamit lang ng coding model sa Coding route.
- Hiwalay na Personal Assistant: gumamit ng maaasahang tool-calling model na may sarili nitong budget.
Karagdagang dependency ang bawat custom route. Kung maubusan ng credit ang account, mag-expire ang API key o palitan ng provider ang pangalan ng modelo, maaaring bahagi lang ng Assistela ang mabigo. Bantayan ang paggamit para sa bawat provider.
Bumalik sa default
Ibalik sa Default ang apektadong layunin. Muli nitong mamanahin ang pangunahing AI account at modelo. Kung mawala ang failure, ang partikular na account, modelo o kakayahan nitong gumamit ng tool ang sanhi.