Providers
SGLang
SGLang phục vụ các mô hình open-weight thông qua API HTTP tương thích với OpenAI. OpenClaw kết nối với SGLang bằng họ provider openai-completions với khả năng tự động khám phá các mô hình có sẵn.
| Thuộc tính | Giá trị |
|---|---|
| ID provider | sglang |
| Plugin | bundled, enabledByDefault: true |
| Biến env xác thực | SGLANG_API_KEY (bất kỳ giá trị không rỗng nào nếu máy chủ không có xác thực) |
| Cờ onboarding | --auth-choice sglang |
| API | Tương thích với OpenAI (openai-completions) |
| URL cơ sở mặc định | http://127.0.0.1:30000/v1 |
| Placeholder mô hình mặc định | sglang/Qwen/Qwen3-8B |
| Sử dụng streaming | Có (supportsStreamingUsage: true) |
| Giá | Được đánh dấu miễn phí bên ngoài (modelPricing.external: false) |
OpenClaw cũng tự động khám phá các mô hình có sẵn từ SGLang khi bạn chọn tham gia bằng SGLANG_API_KEY và không định nghĩa mục models.providers.sglang rõ ràng — xem Khám phá mô hình (provider ngầm định) bên dưới.
Bắt đầu
Khởi động SGLang
Khởi chạy SGLang với một máy chủ tương thích với OpenAI. URL cơ sở của bạn nên cung cấp
các endpoint /v1 (ví dụ /v1/models, /v1/chat/completions). SGLang
thường chạy tại:
http://127.0.0.1:30000/v1
Đặt API key
Bất kỳ giá trị nào cũng hoạt động nếu máy chủ của bạn chưa cấu hình xác thực:
export SGLANG_API_KEY="sglang-local"
Chạy onboarding hoặc đặt trực tiếp một mô hình
openclaw onboard
Hoặc cấu hình mô hình thủ công:
{
agents: {
defaults: {
model: { primary: "sglang/your-model-id" },
},
},
}
Khám phá mô hình (provider ngầm định)
Khi SGLANG_API_KEY được đặt (hoặc có hồ sơ xác thực tồn tại) và bạn không
định nghĩa models.providers.sglang, OpenClaw sẽ truy vấn:
GET http://127.0.0.1:30000/v1/models
và chuyển đổi các ID được trả về thành các mục mô hình.
Cấu hình rõ ràng (mô hình thủ công)
Dùng cấu hình rõ ràng khi:
- SGLang chạy trên host/port khác.
- Bạn muốn cố định các giá trị
contextWindow/maxTokens. - Máy chủ của bạn yêu cầu API key thật (hoặc bạn muốn kiểm soát header).
{
models: {
providers: {
sglang: {
baseUrl: "http://127.0.0.1:30000/v1",
apiKey: "${SGLANG_API_KEY}",
api: "openai-completions",
models: [
{
id: "your-model-id",
name: "Local SGLang Model",
reasoning: false,
input: ["text"],
cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
contextWindow: 128000,
maxTokens: 8192,
},
],
},
},
},
}
Cấu hình nâng cao
Hành vi kiểu proxy
SGLang được xử lý như một backend /v1 kiểu proxy tương thích với OpenAI, không phải
một endpoint OpenAI gốc.
| Hành vi | SGLang |
|---|---|
| Định dạng yêu cầu chỉ dành cho OpenAI | Không áp dụng |
service_tier, Responses store, gợi ý prompt-cache |
Không gửi |
| Định dạng payload tương thích reasoning | Không áp dụng |
Header quy nguồn ẩn (originator, version, User-Agent) |
Không được chèn trên các URL cơ sở SGLang tùy chỉnh |
Khắc phục sự cố
Không truy cập được máy chủ
Xác minh máy chủ đang chạy và phản hồi:
curl http://127.0.0.1:30000/v1/models
Lỗi xác thực
Nếu yêu cầu thất bại do lỗi xác thực, hãy đặt SGLANG_API_KEY thật khớp
với cấu hình máy chủ của bạn, hoặc cấu hình provider rõ ràng trong
models.providers.sglang.