Định tuyến mô hình

Định tuyến nghĩa là gì

Assistela không chỉ gọi LLM cho các câu trả lời Trò chuyện thông thường. Ứng dụng cũng dùng mô hình để tóm tắt cuộc trò chuyện cũ, rà soát bộ nhớ, chạy Trợ lý cá nhân, lập kế hoạch dùng công cụ, làm việc với mã và thực hiện chẩn đoán. Định tuyến cho phép bạn chỉ định một tài khoản hoặc mô hình khác cho từng mục đích.

Theo mặc định, mọi mục đích được đặt thành Mặc định, nghĩa là kế thừa tài khoản AI và mô hình chính. Đây là lựa chọn được khuyến nghị cho đến khi bạn có lý do cụ thể để tách riêng.

Các mục đích có sẵn

Trò chuyện: câu trả lời thông thường và cuộc trò chuyện chính.
Tóm tắt: nén lịch sử cũ khi bối cảnh tăng lên.
Tìm kiếm cuộc trò chuyện: tìm tin nhắn và phiên cũ.
Rà soát bộ nhớ: đánh giá và cập nhật bộ nhớ lâu dài.
Trợ lý cá nhân: kiểm tra chủ động định kỳ.
Đánh giá lại: đánh giá kết quả và bước theo dõi.
Lập kế hoạch hành động: quyết định dùng công cụ nào và theo thứ tự nào.
Lập trình: công việc tập trung vào lập trình.
Chẩn đoán: kiểm tra mô hình và phân tích hoạt động.

Công cụ cần một mô hình đáng tin cậy

Một mô hình viết văn hay vẫn có thể gọi công cụ kém. Đối với Trợ lý cá nhân, lập kế hoạch hành động, bộ nhớ, lập trình và chẩn đoán, hãy dùng mô hình có tool calling đáng tin cậy.

Cấu hình tuyến tùy chỉnh

1

Chuẩn bị cả hai tài khoản

Trước tiên, thêm và kiểm tra độc lập mọi tài khoản trong Cài đặt → Tài khoản AI.

2

Mở định tuyến

Chọn Assistela → Cài đặt → Nâng cao → Định tuyến mô hình.

3

Chọn mục đích

Đối với hàng cần thiết, đổi Mặc định thành Tùy chỉnh.

4

Chọn kết nối, tài khoản và mô hình

Chọn loại kết nối, tài khoản AI và mô hình chính xác. Nếu không có mô hình, chỉ dùng ID mô hình tùy chỉnh khi bạn biết định danh chính xác của nhà cung cấp.

5

Thử chính xác tính năng đó

Thử tuyến Trò chuyện bằng một tin nhắn, tuyến Trợ lý cá nhân bằng Chạy ngay và tuyến tóm tắt bằng cuộc trò chuyện thử dài hơn hoặc chẩn đoán.

Chiến lược hợp lý

Đơn giản: giữ mọi thứ ở Mặc định. Cách này tạo ít điểm lỗi nhất.
Giảm chi phí: dùng mô hình nhanh, rẻ cho bản tóm tắt và tìm kiếm cuộc trò chuyện, đồng thời dùng mô hình mạnh hơn cho Trò chuyện và lập kế hoạch hành động.
Chuyên biệt: chỉ dùng mô hình lập trình trên tuyến Lập trình.
Trợ lý cá nhân riêng: dùng mô hình tool calling đáng tin cậy với ngân sách chi phí riêng.

Theo dõi tính khả dụng và chi phí

Mỗi tuyến tùy chỉnh là một phần phụ thuộc khác. Nếu tài khoản đó hết tín dụng, khóa API hết hạn hoặc nhà cung cấp đổi tên mô hình, chỉ một phần của Assistela có thể gặp lỗi. Theo dõi mức sử dụng của mọi nhà cung cấp liên quan.

Quay lại mặc định

Đặt mục đích bị ảnh hưởng trở lại Mặc định. Mục đích đó sẽ lại kế thừa tài khoản AI và mô hình chính. Nếu lỗi biến mất, nguyên nhân nằm ở tài khoản, mô hình cụ thể hoặc khả năng dùng công cụ của mô hình.