Providers

SGLang

يقدّم SGLang نماذج مفتوحة الأوزان عبر واجهة HTTP API متوافقة مع OpenAI. يتصل OpenClaw بـ SGLang باستخدام عائلة المزوّد openai-completions مع الاكتشاف التلقائي للنماذج المتاحة.

الخاصية القيمة
معرّف المزوّد sglang
Plugin مضمّن، enabledByDefault: true
متغيّر بيئة المصادقة SGLANG_API_KEY (أي قيمة غير فارغة إذا لم تكن لدى الخادم مصادقة)
علم التهيئة --auth-choice sglang
API متوافق مع OpenAI (openai-completions)
عنوان URL الأساسي الافتراضي http://127.0.0.1:30000/v1
عنصر نائب للنموذج الافتراضي sglang/Qwen/Qwen3-8B
استخدام البث نعم (supportsStreamingUsage: true)
التسعير معلّم كخارجي مجاني (modelPricing.external: false)

يقوم OpenClaw أيضًا باكتشاف النماذج المتاحة تلقائيًا من SGLang عند الاشتراك باستخدام SGLANG_API_KEY وعدم تعريف إدخال models.providers.sglang صريح — راجع اكتشاف النموذج (مزوّد ضمني) أدناه.

البدء

  • بدء SGLang

    شغّل SGLang باستخدام خادم متوافق مع OpenAI. يجب أن يكشف عنوان URL الأساسي نقاط نهاية /v1 (على سبيل المثال /v1/models و/v1/chat/completions). يعمل SGLang غالبًا على:

    • http://127.0.0.1:30000/v1
  • تعيين مفتاح API

    تعمل أي قيمة إذا لم تتم تهيئة المصادقة على الخادم لديك:

    export SGLANG_API_KEY="sglang-local"
    
  • تشغيل التهيئة أو تعيين نموذج مباشرة

    openclaw onboard
    

    أو قم بتهيئة النموذج يدويًا:

    {
      agents: {
        defaults: {
          model: { primary: "sglang/your-model-id" },
        },
      },
    }
    
  • اكتشاف النموذج (مزوّد ضمني)

    عند تعيين SGLANG_API_KEY (أو وجود ملف مصادقة) وعدم تعريف models.providers.sglang، سيستعلم OpenClaw عن:

    • GET http://127.0.0.1:30000/v1/models

    ويحوّل المعرّفات المُعادة إلى إدخالات نماذج.

    التهيئة الصريحة (النماذج اليدوية)

    استخدم التهيئة الصريحة عندما:

    • يعمل SGLang على مضيف/منفذ مختلف.
    • تريد تثبيت قيم contextWindow/maxTokens.
    • يتطلب خادمك مفتاح API حقيقيًا (أو تريد التحكم في الرؤوس).
    {
      models: {
        providers: {
          sglang: {
            baseUrl: "http://127.0.0.1:30000/v1",
            apiKey: "${SGLANG_API_KEY}",
            api: "openai-completions",
            models: [
              {
                id: "your-model-id",
                name: "Local SGLang Model",
                reasoning: false,
                input: ["text"],
                cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
                contextWindow: 128000,
                maxTokens: 8192,
              },
            ],
          },
        },
      },
    }
    

    التهيئة المتقدمة

    سلوك نمط الوكيل

    يُعامل SGLang كواجهة خلفية /v1 متوافقة مع OpenAI وبنمط الوكيل، وليس كنقطة نهاية OpenAI أصلية.

    السلوك SGLang
    تشكيل طلبات OpenAI فقط لا يُطبّق
    تلميحات service_tier وstore في Responses وذاكرة التخزين المؤقت للمطالبة لا تُرسل
    تشكيل الحمولة المتوافق مع الاستدلال لا يُطبّق
    رؤوس الإسناد المخفية (originator وversion وUser-Agent) لا تُحقن في عناوين URL أساسية مخصصة لـ SGLang
    استكشاف الأخطاء وإصلاحها

    الخادم غير قابل للوصول

    تحقّق من أن الخادم يعمل ويستجيب:

    curl http://127.0.0.1:30000/v1/models
    

    أخطاء المصادقة

    إذا فشلت الطلبات بسبب أخطاء مصادقة، فعيّن SGLANG_API_KEY حقيقيًا يطابق تهيئة خادمك، أو قم بتهيئة المزوّد صراحةً ضمن models.providers.sglang.

    ذات صلة