DeepSeek Harness
Kết nối DeepSeek Harness bằng Custom model API
DeepSeek Harness (dsh) hỗ trợ gateway tùy chỉnh,
không chỉ model DeepSeek. Dự án đang developer preview; tên menu có thể thay đổi giữa các bản.
1. Khởi chạy Web UI
Cài Node.js theo yêu cầu của dự án, rồi chạy:
npx @deepseek-ai/dsh webMở http://127.0.0.1:3080 nếu trình duyệt không tự mở. Giữ terminal chạy trong khi sử dụng.
2. Thêm Custom model API
Vào Settings → Models → Add model provider, chuyển sang Custom model API.
| Trường | Giá trị cho Chat Completions |
|---|---|
| Provider ID | vnaipro-chat |
| Display name | VNAI Pro |
| Base URL | https://api.vnaipro.app/v1 |
| API protocol | OpenAI Chat Completions (openai-completions) |
| API key / Credential | Key được tạo trên website của hệ thống |
Provider ID dùng chữ thường và không đổi tên sau khi tạo. Đừng chọn provider DeepSeek dựng sẵn nếu muốn dùng gateway: preset lấy endpoint/catalog của hãng.
3. Thêm model
Trong Model catalog, bấm Fetch available models, chọn model thuộc group của key, sau đó Add selected. Nếu không lấy được danh sách, thêm ID thủ công từ Kiểm tra model. Lưu/tạo provider để áp dụng; chỉ chọn trong danh sách chưa lưu cấu hình.
Nếu cần, khai báo context window, output limit và input types theo model thật. Chỉ bật Image cho model có nhận ảnh.
4. Chọn giao thức khác khi cần
| Model/kênh | Provider ID gợi ý | API protocol | Base URL |
|---|---|---|---|
| Responses | vnaipro-responses | OpenAI Responses (openai-responses) | https://api.vnaipro.app/v1 |
| Claude native | vnaipro-claude | Anthropic Messages (anthropic-messages) | https://api.vnaipro.app |
Một provider dùng một giao thức. Nếu gateway phục vụ nhiều giao thức, tạo provider riêng. Với Anthropic, nếu model discovery không hoạt động ở URL gốc, thêm ID thủ công; không đổi URL chat chỉ để lấy catalog.
5. Thử phiên mới
Chọn model vừa thêm trong model picker, tạo session mới, gửi câu hỏi ngắn rồi thử đọc một file. Session đã gửi request có thể giữ model cũ trong log; việc đổi mặc định không đổi model của mọi session cũ. Kiểm tra request trong lịch sử sử dụng trên website.
MISSING_CREDENTIAL: lưu lại key của đúng provider.UNKNOWN_MODEL: thêm/chọn đúng model ID.- Gateway từ chối
developerhoặcmax_completion_tokens: đối chiếu lỗi với phần Request compatibility trong tài liệu chính thức; chỉ chỉnh các trường mà kênh của bạn yêu cầu. - Thay đổi model áp dụng từ request tiếp theo, thông thường không cần restart server.
Nguồn: README và cách chạy, Configure models.