Providers

NVIDIA

NVIDIA, açık modeller için ücretsiz olarak https://integrate.api.nvidia.com/v1 adresinde OpenAI uyumlu bir API sağlar. build.nvidia.com üzerinden alınan bir API anahtarıyla kimlik doğrulaması yapın.

Başlarken

  • Get your API key

    build.nvidia.com adresinde bir API anahtarı oluşturun.

  • Export the key and run onboarding

    export NVIDIA_API_KEY="nvapi-..."
    openclaw onboard --auth-choice nvidia-api-key
    
  • Set an NVIDIA model

    openclaw models set nvidia/nvidia/nemotron-3-super-120b-a12b
    
  • Etkileşimsiz kurulum için anahtarı doğrudan da geçirebilirsiniz:

    openclaw onboard --auth-choice nvidia-api-key --nvidia-api-key "nvapi-..."
    

    Yapılandırma örneği

    {
      env: { NVIDIA_API_KEY: "nvapi-..." },
      models: {
        providers: {
          nvidia: {
            baseUrl: "https://integrate.api.nvidia.com/v1",
            api: "openai-completions",
          },
        },
      },
      agents: {
        defaults: {
          model: { primary: "nvidia/nvidia/nemotron-3-super-120b-a12b" },
        },
      },
    }
    

    Yerleşik katalog

    Model ref Ad Bağlam Maksimum çıktı
    nvidia/nvidia/nemotron-3-super-120b-a12b NVIDIA Nemotron 3 Super 120B 262,144 8,192
    nvidia/moonshotai/kimi-k2.5 Kimi K2.5 262,144 8,192
    nvidia/minimaxai/minimax-m2.5 Minimax M2.5 196,608 8,192
    nvidia/z-ai/glm5 GLM 5 202,752 8,192

    Gelişmiş yapılandırma

    Auto-enable behavior

    Sağlayıcı, NVIDIA_API_KEY ortam değişkeni ayarlandığında otomatik etkinleşir. Anahtar dışında açık bir sağlayıcı yapılandırması gerekmez.

    Catalog and pricing

    Paketlenmiş katalog statiktir. NVIDIA listelenen modeller için şu anda ücretsiz API erişimi sunduğundan, maliyetler kaynakta varsayılan olarak 0 olur.

    OpenAI-compatible endpoint

    NVIDIA standart /v1 tamamlama uç noktasını kullanır. OpenAI uyumlu herhangi bir araç, NVIDIA temel URL'siyle kutudan çıktığı gibi çalışmalıdır.

    Slow custom provider responses

    NVIDIA üzerinde barındırılan bazı özel modeller, ilk yanıt parçasını yaymadan önce varsayılan model boşta kalma watchdog süresinden daha uzun sürebilir. Özel NVIDIA sağlayıcı girdileri için, tüm agent çalışma zamanı zaman aşımını artırmak yerine sağlayıcı zaman aşımını yükseltin:

    {
      models: {
        providers: {
          "custom-integrate-api-nvidia-com": {
            baseUrl: "https://integrate.api.nvidia.com/v1",
            api: "openai-completions",
            apiKey: "NVIDIA_API_KEY",
            timeoutSeconds: 300,
          },
        },
      },
      agents: {
        defaults: {
          models: {
            "custom-integrate-api-nvidia-com/meta/llama-3.1-70b-instruct": {
              params: { thinking: "off" },
            },
          },
        },
      },
    }
    

    İlgili