Providers
SGLang
SGLang serveert open-weightmodellen via een OpenAI-compatibele HTTP-API. OpenClaw maakt verbinding met SGLang via de openai-completions-providerfamilie met automatische ontdekking van beschikbare modellen.
| Eigenschap | Waarde |
|---|---|
| Provider-id | sglang |
| Plugin | meegeleverd, enabledByDefault: true |
| Auth-omgevingsvariabele | SGLANG_API_KEY (elke niet-lege waarde als de server geen auth heeft) |
| Onboarding-vlag | --auth-choice sglang |
| API | OpenAI-compatibel (openai-completions) |
| Standaardbasis-URL | http://127.0.0.1:30000/v1 |
| Standaardmodel-placeholder | sglang/Qwen/Qwen3-8B |
| Streaminggebruik | Ja (supportsStreamingUsage: true) |
| Prijzen | Gemarkeerd als extern-gratis (modelPricing.external: false) |
OpenClaw ontdekt ook automatisch beschikbare modellen van SGLang wanneer je je aanmeldt met SGLANG_API_KEY en je geen expliciete models.providers.sglang-vermelding definieert — zie Modelontdekking (impliciete provider) hieronder.
Aan de slag
Start SGLang
Start SGLang met een OpenAI-compatibele server. Je basis-URL moet
/v1-eindpunten aanbieden (bijvoorbeeld /v1/models, /v1/chat/completions). SGLang
draait vaak op:
http://127.0.0.1:30000/v1
Stel een API-sleutel in
Elke waarde werkt als er geen auth op je server is geconfigureerd:
export SGLANG_API_KEY="sglang-local"
Voer onboarding uit of stel direct een model in
openclaw onboard
Of configureer het model handmatig:
{
agents: {
defaults: {
model: { primary: "sglang/your-model-id" },
},
},
}
Modelontdekking (impliciete provider)
Wanneer SGLANG_API_KEY is ingesteld (of er een auth-profiel bestaat) en je geen
models.providers.sglang definieert, zal OpenClaw dit opvragen:
GET http://127.0.0.1:30000/v1/models
en de geretourneerde ID's omzetten in modelvermeldingen.
Expliciete configuratie (handmatige modellen)
Gebruik expliciete configuratie wanneer:
- SGLang op een andere host/poort draait.
- Je
contextWindow/maxTokens-waarden wilt vastzetten. - Je server een echte API-sleutel vereist (of je headers wilt beheren).
{
models: {
providers: {
sglang: {
baseUrl: "http://127.0.0.1:30000/v1",
apiKey: "${SGLANG_API_KEY}",
api: "openai-completions",
models: [
{
id: "your-model-id",
name: "Local SGLang Model",
reasoning: false,
input: ["text"],
cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
contextWindow: 128000,
maxTokens: 8192,
},
],
},
},
},
}
Geavanceerde configuratie
Proxy-achtig gedrag
SGLang wordt behandeld als een proxy-achtige OpenAI-compatibele /v1-backend, niet als een
native OpenAI-eindpunt.
| Gedrag | SGLang |
|---|---|
| OpenAI-specifieke request-vormgeving | Niet toegepast |
service_tier, Responses store, prompt-cache hints |
Niet verzonden |
| Redeneringscompatibele payload-vormgeving | Niet toegepast |
Verborgen attributieheaders (originator, version, User-Agent) |
Niet geïnjecteerd op aangepaste SGLang-basis-URL's |
Probleemoplossing
Server niet bereikbaar
Controleer of de server draait en reageert:
curl http://127.0.0.1:30000/v1/models
Auth-fouten
Als requests mislukken met auth-fouten, stel dan een echte SGLANG_API_KEY in die overeenkomt
met je serverconfiguratie, of configureer de provider expliciet onder
models.providers.sglang.