Ollama

Les hôtes Ollama locaux et LAN n’ont pas besoin d’un vrai jeton porteur. OpenClaw utilise le marqueur local ollama-local uniquement pour les URL de base Ollama en local loopback, réseau privé, .local et nom d’hôte nu.

Les hôtes publics distants et Ollama Cloud (https://ollama.com) exigent un véritable identifiant via OLLAMA_API_KEY, un profil d’authentification ou l’apiKey du fournisseur.

Les IDs de fournisseurs personnalisés qui définissent api: "ollama" suivent les mêmes règles. Par exemple, un fournisseur ollama-remote qui pointe vers un hôte Ollama LAN privé peut utiliser apiKey: "ollama-local" et les sous-agents résoudront ce marqueur via le hook du fournisseur Ollama au lieu de le traiter comme un identifiant manquant. La recherche mémoire peut aussi définir agents.defaults.memorySearch.provider sur cet ID de fournisseur personnalisé afin que les embeddings utilisent le point de terminaison Ollama correspondant.

auth-profiles.json stocke l’identifiant pour un ID de fournisseur. Placez les paramètres de point de terminaison (baseUrl, api, IDs de modèles, en-têtes, délais d’expiration) dans models.providers.<id>. Les anciens fichiers de profils d’authentification plats tels que { "ollama-windows": { "apiKey": "ollama-local" } } ne sont pas un format d’exécution ; exécutez openclaw doctor --fix pour les réécrire au format canonique de profil de clé API ollama-windows:default avec une sauvegarde. baseUrl dans ce fichier est du bruit de compatibilité et devrait être déplacé vers la configuration du fournisseur.

Quand Ollama est utilisé pour les embeddings mémoire, l’authentification par jeton porteur est limitée à l’hôte où elle a été déclarée :

• Une clé au niveau du fournisseur est envoyée uniquement à l’hôte Ollama de ce fournisseur.
• agents.*.memorySearch.remote.apiKey est envoyé uniquement à son hôte d’embeddings distant.
• Une valeur d’environnement pure OLLAMA_API_KEY est traitée comme la convention d’Ollama Cloud, et n’est pas envoyée par défaut aux hôtes locaux ou auto-hébergés.

Utilisez ceci lorsqu’Ollama s’exécute sur la même machine que le Gateway et que vous voulez qu’OpenClaw découvre automatiquement les modèles installés.

ollama serve
ollama pull gemma4
export OLLAMA_API_KEY="ollama-local"
openclaw models list --provider ollama
openclaw models set ollama/gemma4

Ce chemin garde la configuration minimale. N’ajoutez pas de bloc models.providers.ollama sauf si vous voulez définir les modèles manuellement.

Utilisez les URL Ollama natives pour les hôtes LAN. N’ajoutez pas /v1.

{
  models: {
    providers: {
      ollama: {
        baseUrl: "http://gpu-box.local:11434",
        apiKey: "ollama-local",
        api: "ollama",
        timeoutSeconds: 300,
        contextWindow: 32768,
        maxTokens: 8192,
        models: [
          {
            id: "qwen3.5:9b",
            name: "qwen3.5:9b",
            reasoning: true,
            input: ["text"],
            params: {
              num_ctx: 32768,
              thinking: false,
              keep_alive: "15m",
            },
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "ollama/qwen3.5:9b" },
    },
  },
}

contextWindow est le budget de contexte côté OpenClaw. params.num_ctx est envoyé à Ollama pour la requête. Gardez-les alignés lorsque votre matériel ne peut pas exécuter tout le contexte annoncé du modèle.

Utilisez ceci lorsque vous n’exécutez pas de daemon local et que vous voulez des modèles Ollama hébergés directement.

export OLLAMA_API_KEY="your-ollama-api-key"

{
  models: {
    providers: {
      ollama: {
        baseUrl: "https://ollama.com",
        apiKey: "OLLAMA_API_KEY",
        api: "ollama",
        models: [
          {
            id: "kimi-k2.5:cloud",
            name: "kimi-k2.5:cloud",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "ollama/kimi-k2.5:cloud" },
    },
  },
}

Utilisez ceci lorsqu’un daemon Ollama local ou LAN est connecté avec ollama signin et doit servir à la fois les modèles locaux et les modèles :cloud.

ollama signin
ollama pull gemma4

{
  models: {
    providers: {
      ollama: {
        baseUrl: "http://127.0.0.1:11434",
        apiKey: "ollama-local",
        api: "ollama",
        timeoutSeconds: 300,
        models: [
          { id: "gemma4", name: "gemma4", input: ["text"] },
          { id: "kimi-k2.5:cloud", name: "kimi-k2.5:cloud", input: ["text", "image"] },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/gemma4",
        fallbacks: ["ollama/kimi-k2.5:cloud"],
      },
    },
  },
}

Utilisez des ID de fournisseur personnalisés lorsque vous avez plusieurs serveurs Ollama. Chaque fournisseur reçoit son propre hôte, ses modèles, son authentification, son délai d’expiration et ses références de modèle.

{
  models: {
    providers: {
      "ollama-fast": {
        baseUrl: "http://mini.local:11434",
        apiKey: "ollama-local",
        api: "ollama",
        contextWindow: 32768,
        models: [{ id: "gemma4", name: "gemma4", input: ["text"] }],
      },
      "ollama-large": {
        baseUrl: "http://gpu-box.local:11434",
        apiKey: "ollama-local",
        api: "ollama",
        timeoutSeconds: 420,
        contextWindow: 131072,
        maxTokens: 16384,
        models: [{ id: "qwen3.5:27b", name: "qwen3.5:27b", input: ["text"] }],
      },
    },
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama-fast/gemma4",
        fallbacks: ["ollama-large/qwen3.5:27b"],
      },
    },
  },
}

Lorsque OpenClaw envoie la requête, le préfixe du fournisseur actif est supprimé afin que ollama-large/qwen3.5:27b arrive à Ollama sous la forme qwen3.5:27b.

Certains modèles locaux peuvent répondre à des invites simples, mais peinent avec toute la surface d’outils de l’agent. Commencez par limiter les outils et le contexte avant de modifier les paramètres globaux du runtime.

{
  agents: {
    defaults: {
      experimental: {
        localModelLean: true,
      },
      model: { primary: "ollama/gemma4" },
    },
  },
  models: {
    providers: {
      ollama: {
        baseUrl: "http://127.0.0.1:11434",
        apiKey: "ollama-local",
        api: "ollama",
        contextWindow: 32768,
        models: [
          {
            id: "gemma4",
            name: "gemma4",
            input: ["text"],
            params: { num_ctx: 32768 },
            compat: { supportsTools: false },
          },
        ],
      },
    },
  },
}

Utilisez compat.supportsTools: false uniquement lorsque le modèle ou le serveur échoue de manière fiable sur les schémas d’outils. Cela échange des capacités d’agent contre de la stabilité. localModelLean supprime les outils de navigateur, de Cron et de messages de la surface de l’agent, mais ne modifie pas le contexte d’exécution ni le mode de réflexion d’Ollama. Associez-le à params.num_ctx explicite et à params.thinking: false pour les petits modèles de réflexion de style Qwen qui bouclent ou dépensent leur budget de réponse en raisonnement masqué.

Si vous devez utiliser le point de terminaison compatible OpenAI à la place (par exemple, derrière un proxy qui ne prend en charge que le format OpenAI), définissez explicitement api: "openai-completions" :

{
  models: {
    providers: {
      ollama: {
        baseUrl: "http://ollama-host:11434/v1",
        api: "openai-completions",
        injectNumCtxForOpenAICompat: true, // default: true
        apiKey: "ollama-local",
        models: [...]
      }
    }
  }
}

Ce mode peut ne pas prendre en charge simultanément le streaming et l’appel d’outils. Vous devrez peut-être désactiver le streaming avec params: { streaming: false } dans la configuration du modèle.

Lorsque api: "openai-completions" est utilisé avec Ollama, OpenClaw injecte options.num_ctx par défaut afin qu’Ollama ne revienne pas silencieusement à une fenêtre de contexte de 4096. Si votre proxy ou amont rejette les champs options inconnus, désactivez ce comportement :

{
  models: {
    providers: {
      ollama: {
        baseUrl: "http://ollama-host:11434/v1",
        api: "openai-completions",
        injectNumCtxForOpenAICompat: false,
        apiKey: "ollama-local",
        models: [...]
      }
    }
  }
}

Pour les modèles découverts automatiquement, OpenClaw utilise la fenêtre de contexte indiquée par Ollama lorsqu’elle est disponible, y compris les valeurs PARAMETER num_ctx plus grandes provenant de Modelfiles personnalisés. Sinon, il revient à la fenêtre de contexte Ollama par défaut utilisée par OpenClaw.

Vous pouvez définir des valeurs par défaut contextWindow, contextTokens et maxTokens au niveau du fournisseur pour chaque modèle sous ce fournisseur Ollama, puis les remplacer par modèle si nécessaire. contextWindow correspond au budget de prompt et de Compaction d’OpenClaw. Les requêtes Ollama natives laissent options.num_ctx non défini sauf si vous configurez explicitement params.num_ctx, afin qu’Ollama puisse appliquer son propre modèle, OLLAMA_CONTEXT_LENGTH ou une valeur par défaut basée sur la VRAM. Pour plafonner ou forcer le contexte d’exécution par requête d’Ollama sans reconstruire un Modelfile, définissez params.num_ctx ; les valeurs invalides, nulles, négatives et non finies sont ignorées. L’adaptateur Ollama compatible OpenAI injecte toujours options.num_ctx par défaut à partir de params.num_ctx ou contextWindow configuré ; désactivez cela avec injectNumCtxForOpenAICompat: false si votre amont rejette options.

Les entrées de modèles Ollama natives acceptent également les options d’exécution Ollama courantes sous params, notamment temperature, top_p, top_k, min_p, num_predict, stop, repeat_penalty, num_batch, num_thread et use_mmap. OpenClaw ne transmet que les clés de requête Ollama, de sorte que les paramètres d’exécution OpenClaw comme streaming ne sont pas divulgués à Ollama. Utilisez params.think ou params.thinking pour envoyer le think Ollama de premier niveau ; false désactive la réflexion au niveau de l’API pour les modèles de réflexion de style Qwen.

{
  models: {
    providers: {
      ollama: {
        contextWindow: 32768,
        models: [
          {
            id: "llama3.3",
            contextWindow: 131072,
            maxTokens: 65536,
            params: {
              num_ctx: 32768,
              temperature: 0.7,
              top_p: 0.9,
              thinking: false,
            },
          }
        ]
      }
    }
  }
}

agents.defaults.models["ollama/<model>"].params.num_ctx par modèle fonctionne aussi. Si les deux sont configurés, l’entrée de modèle de fournisseur explicite l’emporte sur la valeur par défaut de l’agent.

Pour les modèles Ollama natifs, OpenClaw transmet le contrôle de la réflexion comme Ollama l’attend : think de premier niveau, et non options.think. Les modèles découverts automatiquement dont la réponse /api/show inclut la capacité thinking exposent /think low, /think medium, /think high et /think max ; les modèles sans réflexion n’exposent que /think off.

openclaw agent --model ollama/gemma4 --thinking off
openclaw agent --model ollama/gemma4 --thinking low

Vous pouvez également définir une valeur par défaut de modèle :

{
  agents: {
    defaults: {
      models: {
        "ollama/gemma4": {
          thinking: "low",
        },
      },
    },
  },
}

params.think ou params.thinking par modèle peut désactiver ou forcer la réflexion de l’API Ollama pour un modèle configuré spécifique. OpenClaw préserve ces paramètres de modèle explicites lorsque l’exécution active n’a que la valeur par défaut implicite off ; les commandes d’exécution non désactivées comme /think medium remplacent toujours l’exécution active.

OpenClaw traite par défaut les modèles dont les noms contiennent deepseek-r1, reasoning ou think comme capables de raisonnement.

ollama pull deepseek-r1:32b

Aucune configuration supplémentaire n’est nécessaire. OpenClaw les marque automatiquement.

Ollama est gratuit et s’exécute localement, donc tous les coûts des modèles sont définis à 0 $. Cela s’applique aux modèles découverts automatiquement comme aux modèles définis manuellement.

Le Plugin Ollama intégré enregistre un fournisseur d’intégration de mémoire pour la recherche en mémoire. Il utilise l’URL de base Ollama et la clé API configurées, appelle le point de terminaison Ollama actuel /api/embed et regroupe plusieurs fragments de mémoire dans une seule requête input lorsque c’est possible.

Les intégrations au moment de la requête utilisent des préfixes de récupération pour les modèles qui les exigent ou les recommandent, notamment nomic-embed-text, qwen3-embedding et mxbai-embed-large. Les lots de documents de mémoire restent bruts afin que les index existants ne nécessitent pas de migration de format.

Pour sélectionner Ollama comme fournisseur d’intégration de recherche en mémoire :

{
  agents: {
    defaults: {
      memorySearch: {
        provider: "ollama",
        remote: {
          // Default for Ollama. Raise on larger hosts if reindexing is too slow.
          nonBatchConcurrency: 1,
        },
      },
    },
  },
}

Pour un hôte d’intégration distant, limitez l’authentification à cet hôte :

{
  agents: {
    defaults: {
      memorySearch: {
        provider: "ollama",
        model: "nomic-embed-text",
        remote: {
          baseUrl: "http://gpu-box.local:11434",
          apiKey: "ollama-local",
          nonBatchConcurrency: 2,
        },
      },
    },
  },
}

L’intégration Ollama d’OpenClaw utilise par défaut l’API Ollama native (/api/chat), qui prend entièrement en charge simultanément le streaming et l’appel d’outils. Aucune configuration particulière n’est nécessaire.

Pour les requêtes /api/chat natives, OpenClaw transmet aussi directement à Ollama le contrôle de la réflexion : /think off et openclaw agent --thinking off envoient think: false au niveau supérieur, sauf si une valeur explicite params.think/params.thinking est configurée pour le modèle, tandis que /think low|medium|high envoient la chaîne d’effort think correspondante au niveau supérieur. /think max correspond à l’effort natif le plus élevé d’Ollama, think: "high".

Sous WSL2 avec NVIDIA/CUDA, l’installateur Linux officiel d’Ollama crée une unité systemd ollama.service avec Restart=always. Si ce service démarre automatiquement et charge un modèle utilisant le GPU pendant le démarrage de WSL2, Ollama peut verrouiller la mémoire de l’hôte pendant le chargement du modèle. La récupération de mémoire Hyper-V ne peut pas toujours récupérer ces pages verrouillées, Windows peut donc arrêter la VM WSL2, systemd relance Ollama, et la boucle se répète.

Indices courants :

• redémarrages ou arrêts répétés de WSL2 depuis Windows
• forte utilisation du CPU dans app.slice ou ollama.service peu après le démarrage de WSL2
• SIGTERM provenant de systemd plutôt que d’un événement OOM-killer Linux

OpenClaw journalise un avertissement au démarrage lorsqu’il détecte WSL2, ollama.service activé avec Restart=always, et des marqueurs CUDA visibles.

Atténuation :

sudo systemctl disable ollama

Ajoutez ceci à %USERPROFILE%\.wslconfig côté Windows, puis exécutez wsl --shutdown :

[experimental]
autoMemoryReclaim=disabled

Définissez un délai keep-alive plus court dans l’environnement du service Ollama, ou démarrez Ollama manuellement uniquement lorsque vous en avez besoin :

export OLLAMA_KEEP_ALIVE=5m
ollama serve

Consultez ollama/ollama#11317.

Assurez-vous qu’Ollama est en cours d’exécution, que vous avez défini OLLAMA_API_KEY (ou un profil d’authentification), et que vous n’avez pas défini d’entrée explicite models.providers.ollama :

ollama serve

Vérifiez que l’API est accessible :

curl http://localhost:11434/api/tags

Si votre modèle n’est pas répertorié, téléchargez-le localement ou définissez-le explicitement dans models.providers.ollama.

ollama list  # See what's installed
ollama pull gemma4
ollama pull gpt-oss:20b
ollama pull llama3.3     # Or another model

Vérifiez qu’Ollama s’exécute sur le bon port :

# Check if Ollama is running
ps aux | grep ollama

# Or restart Ollama
ollama serve

Vérifiez depuis la même machine et le même runtime que ceux qui exécutent le Gateway :

openclaw gateway status --deep
curl http://ollama-host:11434/api/tags

Causes courantes :

• baseUrl pointe vers localhost, mais le Gateway s’exécute dans Docker ou sur un autre hôte.
• L’URL utilise /v1, ce qui sélectionne le comportement compatible OpenAI au lieu du comportement Ollama natif.
• L’hôte distant nécessite des modifications de pare-feu ou d’écoute LAN côté Ollama.
• Le modèle est présent sur le démon de votre ordinateur portable, mais pas sur le démon distant.

Cela signifie généralement que le fournisseur utilise le mode compatible OpenAI ou que le modèle ne peut pas gérer les schémas d’outils.

Préférez le mode Ollama natif :

{
  models: {
    providers: {
      ollama: {
        baseUrl: "http://ollama-host:11434",
        api: "ollama",
      },
    },
  },
}

Si un petit modèle local échoue encore sur les schémas d’outils, définissez compat.supportsTools: false sur cette entrée de modèle et refaites un test.

Les réponses Kimi/GLM hébergées qui sont longues et composées de séries de symboles non linguistiques sont traitées comme une sortie de fournisseur échouée plutôt que comme une réponse d’assistant réussie. Cela permet aux mécanismes normaux de nouvelle tentative, de repli ou de gestion d’erreur de prendre le relais sans persister le texte corrompu dans la session.

Si cela se produit de manière répétée, capturez le nom brut du modèle, le fichier de session actuel, et indiquez si l’exécution a utilisé Cloud + Local ou Cloud only, puis essayez une nouvelle session et un modèle de repli :

openclaw infer model run --model ollama/kimi-k2.5:cloud --prompt "Reply with exactly: ok" --json
openclaw models set ollama/gemma4

Les grands modèles locaux peuvent nécessiter un long premier chargement avant que le streaming commence. Gardez le délai d’expiration limité au fournisseur Ollama et, facultativement, demandez à Ollama de garder le modèle chargé entre les tours :

{
  models: {
    providers: {
      ollama: {
        timeoutSeconds: 300,
        models: [
          {
            id: "gemma4:26b",
            name: "gemma4:26b",
            params: { keep_alive: "15m" },
          },
        ],
      },
    },
  },
}

Si l’hôte lui-même met du temps à accepter les connexions, timeoutSeconds prolonge aussi le délai d’expiration de connexion Undici protégé pour ce fournisseur.

De nombreux modèles Ollama annoncent des contextes plus grands que ce que votre matériel peut exécuter confortablement. Ollama natif utilise le contexte par défaut du runtime Ollama, sauf si vous définissez params.num_ctx. Limitez à la fois le budget d’OpenClaw et le contexte de requête d’Ollama lorsque vous voulez une latence prévisible avant le premier token :

{
  models: {
    providers: {
      ollama: {
        contextWindow: 32768,
        maxTokens: 8192,
        models: [
          {
            id: "qwen3.5:9b",
            name: "qwen3.5:9b",
            params: { num_ctx: 32768, thinking: false },
          },
        ],
      },
    },
  },
}

Réduisez d’abord contextWindow si OpenClaw envoie trop de prompt. Réduisez params.num_ctx si Ollama charge un contexte de runtime trop grand pour la machine. Réduisez maxTokens si la génération dure trop longtemps.