English简体中文繁體中文日本語EspañolPortuguês (BR)한국어DeutschFrançaisالعربيةItalianoTiếng ViệtNederlandsTürkçeУкраїнськаBahasa IndonesiaPolskiفارسیไทย

Testing

Testen: live-testsuites

Voor snelstart, QA-runners, unit-/integratiesuites en Docker-flows, zie Testing. Deze pagina behandelt de live (netwerk-aanrakende) test suites: modelmatrix, CLI-backends, ACP en live-tests voor mediaproviders, plus credentialafhandeling.

Live: lokale profiel-smoke-opdrachten

Source ~/.profile vóór ad-hoc live-controles zodat providersleutels en lokale tool paden overeenkomen met je shell:

source ~/.profile

Veilige media-smoke:

pnpm openclaw infer tts convert --local --json \
  --text "OpenClaw live smoke." \
  --output /tmp/openclaw-live-smoke.mp3

Veilige voice-call-gereedheids-smoke:

pnpm openclaw voicecall setup --json
pnpm openclaw voicecall smoke --to "+15555550123"

voicecall smoke is een dry run tenzij --yes ook aanwezig is. Gebruik --yes alleen wanneer je bewust een echte notificatieoproep wilt plaatsen. Voor Twilio, Telnyx en Plivo vereist een geslaagde gereedheidscontrole een openbare webhook-URL; local-only loopback-/privé-fallbacks worden bewust geweigerd.

Live: Android-node-capabilitysweep

  • Test: src/gateway/android-node.capabilities.live.test.ts
  • Script: pnpm android:test:integration
  • Doel: elke opdracht die momenteel wordt geadverteerd door een verbonden Android-node aanroepen en opdrachtcontractgedrag controleren.
  • Scope:
    • Vooraf geconditioneerde/handmatige setup (de suite installeert/start/koppelt de app niet).
    • Opdracht-voor-opdracht gateway-node.invoke-validatie voor de geselecteerde Android-node.
  • Vereiste voorafgaande setup:
    • Android-app al verbonden en gekoppeld aan de Gateway.
    • App op de voorgrond gehouden.
    • Machtigingen/capture-toestemming verleend voor capability’s waarvan je verwacht dat ze slagen.
  • Optionele target-overrides:
    • OPENCLAW_ANDROID_NODE_ID of OPENCLAW_ANDROID_NODE_NAME.
    • OPENCLAW_ANDROID_GATEWAY_URL / OPENCLAW_ANDROID_GATEWAY_TOKEN / OPENCLAW_ANDROID_GATEWAY_PASSWORD.
  • Volledige Android-setupdetails: Android-app

Live: model-smoke (profielsleutels)

Live-tests zijn opgesplitst in twee lagen zodat we fouten kunnen isoleren:

  • "Direct model" vertelt ons of de provider/het model überhaupt kan antwoorden met de opgegeven sleutel.
  • "Gateway smoke" vertelt ons of de volledige gateway+agent-pijplijn werkt voor dat model (sessies, geschiedenis, tools, sandboxbeleid, enz.).

Laag 1: Directe modelaanvulling (geen gateway)

  • Test: src/agents/models.profiles.live.test.ts
  • Doel:
    • Ontdekte modellen opsommen
    • getApiKeyForModel gebruiken om modellen te selecteren waarvoor je credentials hebt
    • Een kleine aanvulling per model uitvoeren (en gerichte regressies waar nodig)
  • Inschakelen:
    • pnpm test:live (of OPENCLAW_LIVE_TEST=1 als je Vitest rechtstreeks aanroept)
  • Stel OPENCLAW_LIVE_MODELS=modern in (of all, alias voor modern) om deze suite echt uit te voeren; anders wordt deze overgeslagen om pnpm test:live gericht te houden op gateway-smoke
  • Modellen selecteren:
    • OPENCLAW_LIVE_MODELS=modern om de moderne allowlist uit te voeren (Opus/Sonnet 4.6+, GPT-5.2 + Codex, Gemini 3, DeepSeek V4, GLM 4.7, MiniMax M2.7, Grok 4.3)
    • OPENCLAW_LIVE_MODELS=all is een alias voor de moderne allowlist
    • of OPENCLAW_LIVE_MODELS="openai/gpt-5.5,openai-codex/gpt-5.5,anthropic/claude-opus-4-6,..." (allowlist met komma’s)
    • Modern/all-sweeps gebruiken standaard een beheerde high-signal limiet; stel OPENCLAW_LIVE_MAX_MODELS=0 in voor een uitputtende moderne sweep of een positief getal voor een kleinere limiet.
    • Uitputtende sweeps gebruiken OPENCLAW_LIVE_TEST_TIMEOUT_MS voor de timeout van de hele direct-model-test. Standaard: 60 minuten.
    • Direct-model-probes draaien standaard met 20-voudige paralleliteit; stel OPENCLAW_LIVE_MODEL_CONCURRENCY in om dit te overschrijven.
  • Providers selecteren:
    • OPENCLAW_LIVE_PROVIDERS="google,google-antigravity,google-gemini-cli" (allowlist met komma’s)
  • Waar sleutels vandaan komen:
    • Standaard: profielstore en env-fallbacks
    • Stel OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1 in om alleen de profielstore af te dwingen
  • Waarom dit bestaat:
    • Scheidt "provider-API is kapot / sleutel is ongeldig" van "gateway-agentpijplijn is kapot"
    • Bevat kleine, geïsoleerde regressies (voorbeeld: OpenAI Responses/Codex Responses reasoning replay + tool-call-flows)

Laag 2: Gateway + dev-agent-smoke (wat "@openclaw" daadwerkelijk doet)

  • Test: src/gateway/gateway-models.profiles.live.test.ts
  • Doel:
    • Een in-process gateway starten
    • Een agent:dev:*-sessie maken/patchen (model-override per run)
    • Modellen-met-sleutels doorlopen en controleren:
      • "betekenisvolle" respons (geen tools)
      • een echte toolaanroep werkt (read-probe)
      • optionele extra toolprobes (exec+read-probe)
      • OpenAI-regressiepaden (alleen tool-call → follow-up) blijven werken
  • Probedetails (zodat je fouten snel kunt uitleggen):
    • read-probe: de test schrijft een nonce-bestand in de workspace en vraagt de agent om het te readen en de nonce terug te echoën.
    • exec+read-probe: de test vraagt de agent om met exec een nonce naar een tijdelijk bestand te schrijven en het daarna terug te readen.
    • image-probe: de test voegt een gegenereerde PNG toe (kat + gerandomiseerde code) en verwacht dat het model cat <CODE> teruggeeft.
    • Implementatiereferentie: src/gateway/gateway-models.profiles.live.test.ts en src/gateway/live-image-probe.ts.
  • Inschakelen:
    • pnpm test:live (of OPENCLAW_LIVE_TEST=1 als je Vitest rechtstreeks aanroept)
  • Modellen selecteren:
    • Standaard: moderne allowlist (Opus/Sonnet 4.6+, GPT-5.2 + Codex, Gemini 3, DeepSeek V4, GLM 4.7, MiniMax M2.7, Grok 4.3)
    • OPENCLAW_LIVE_GATEWAY_MODELS=all is een alias voor de moderne allowlist
    • Of stel OPENCLAW_LIVE_GATEWAY_MODELS="provider/model" in (of kommalijst) om te beperken
    • Modern/all-gateway-sweeps gebruiken standaard een beheerde high-signal limiet; stel OPENCLAW_LIVE_GATEWAY_MAX_MODELS=0 in voor een uitputtende moderne sweep of een positief getal voor een kleinere limiet.
  • Providers selecteren (vermijd "alles van OpenRouter"):
    • OPENCLAW_LIVE_GATEWAY_PROVIDERS="google,google-antigravity,google-gemini-cli,openai,anthropic,zai,minimax" (allowlist met komma’s)
  • Tool- en image-probes staan altijd aan in deze live-test:
    • read-probe + exec+read-probe (toolstress)
    • image-probe draait wanneer het model ondersteuning voor image-input adverteert
    • Flow (hoog niveau):
      • Test genereert een kleine PNG met "CAT" + willekeurige code (src/gateway/live-image-probe.ts)
      • Verstuurt deze via agent attachments: [{ mimeType: "image/png", content: "<base64>" }]
      • Gateway parseert attachments naar images[] (src/gateway/server-methods/agent.ts + src/gateway/chat-attachments.ts)
      • Embedded agent stuurt een multimodaal gebruikersbericht door naar het model
      • Assertie: antwoord bevat cat + de code (OCR-tolerantie: kleine fouten toegestaan)

Live: CLI-backend-smoke (Claude, Codex, Gemini of andere lokale CLI’s)

  • Test: src/gateway/gateway-cli-backend.live.test.ts
  • Doel: de Gateway + agent-pijplijn valideren met een lokale CLI-backend, zonder je standaardconfig aan te raken.
  • Backend-specifieke smoke-standaarden staan bij de cli-backend.ts-definitie van de eigenaarsextensie.
  • Inschakelen:
    • pnpm test:live (of OPENCLAW_LIVE_TEST=1 als je Vitest rechtstreeks aanroept)
    • OPENCLAW_LIVE_CLI_BACKEND=1
  • Standaarden:
    • Standaardprovider/model: claude-cli/claude-sonnet-4-6
    • Opdracht-/args-/image-gedrag komt uit de Plugin-metadata van de eigenaar-CLI-backend.
  • Overrides (optioneel):
    • OPENCLAW_LIVE_CLI_BACKEND_MODEL="codex-cli/gpt-5.5"
    • OPENCLAW_LIVE_CLI_BACKEND_COMMAND="/full/path/to/codex"
    • OPENCLAW_LIVE_CLI_BACKEND_ARGS='["exec","--json","--color","never","--sandbox","read-only","--skip-git-repo-check"]'
    • OPENCLAW_LIVE_CLI_BACKEND_IMAGE_PROBE=1 om een echte image-attachment te sturen (paden worden in de prompt geïnjecteerd). Docker-recepten zetten dit standaard uit tenzij expliciet gevraagd.
    • OPENCLAW_LIVE_CLI_BACKEND_IMAGE_ARG="--image" om image-bestandspaden als CLI-args door te geven in plaats van promptinjectie.
    • OPENCLAW_LIVE_CLI_BACKEND_IMAGE_MODE="repeat" (of "list") om te bepalen hoe image-args worden doorgegeven wanneer IMAGE_ARG is ingesteld.
    • OPENCLAW_LIVE_CLI_BACKEND_RESUME_PROBE=1 om een tweede beurt te sturen en de resume-flow te valideren.
    • OPENCLAW_LIVE_CLI_BACKEND_MODEL_SWITCH_PROBE=1 om je aan te melden voor de Claude Sonnet -> Opus same-session-continuity-probe wanneer het geselecteerde model een switch-target ondersteunt. Docker-recepten zetten dit standaard uit voor geaggregeerde betrouwbaarheid.
    • OPENCLAW_LIVE_CLI_BACKEND_MCP_PROBE=1 om je aan te melden voor de MCP/tool-loopback-probe. Docker-recepten zetten dit standaard uit tenzij expliciet gevraagd.

Voorbeeld:

OPENCLAW_LIVE_CLI_BACKEND=1 \
  OPENCLAW_LIVE_CLI_BACKEND_MODEL="codex-cli/gpt-5.5" \
  pnpm test:live src/gateway/gateway-cli-backend.live.test.ts

Goedkope Gemini MCP-config-smoke:

OPENCLAW_LIVE_TEST=1 \
  pnpm test:live src/agents/cli-runner/bundle-mcp.gemini.live.test.ts

Dit vraagt Gemini niet om een respons te genereren. Het schrijft dezelfde systeem instellingen die OpenClaw aan Gemini geeft en voert daarna gemini --debug mcp list uit om te bewijzen dat een opgeslagen transport: "streamable-http"-server wordt genormaliseerd naar Gemini’s HTTP MCP vorm en verbinding kan maken met een lokale streamable-HTTP MCP-server.

Docker-recept:

pnpm test:docker:live-cli-backend

Docker-recepten voor één provider:

pnpm test:docker:live-cli-backend:claude
pnpm test:docker:live-cli-backend:claude-subscription
pnpm test:docker:live-cli-backend:codex
pnpm test:docker:live-cli-backend:gemini

Opmerkingen:

  • De Docker-runner staat op scripts/test-live-cli-backend-docker.sh.
  • Deze voert de live CLI-backend-smoke uit binnen de repo-Docker-image als de niet-root node-gebruiker.
  • Deze lost CLI-smoke-metadata op uit de eigenaarsextensie en installeert daarna het overeenkomende Linux CLI-pakket (@anthropic-ai/claude-code, @openai/codex of @google/gemini-cli) in een gecachte schrijfbare prefix op OPENCLAW_DOCKER_CLI_TOOLS_DIR (standaard: ~/.cache/openclaw/docker-cli-tools).
  • pnpm test:docker:live-cli-backend:claude-subscription vereist draagbare Claude Code subscription OAuth via ofwel ~/.claude/.credentials.json met claudeAiOauth.subscriptionType of CLAUDE_CODE_OAUTH_TOKEN van claude setup-token. Het bewijst eerst directe claude -p in Docker en voert daarna twee Gateway CLI-backend-beurten uit zonder Anthropic API-key-env-vars te behouden. Deze subscription-lane schakelt de Claude MCP/tool- en image-probes standaard uit omdat Claude momenteel third-party app-gebruik routeert via extra-gebruiksfacturering in plaats van normale subscription-planlimieten.
  • De live CLI-backend-smoke oefent nu dezelfde end-to-end-flow uit voor Claude, Codex en Gemini: tekstbeurt, image-classificatiebeurt en daarna MCP-cron-toolaanroep geverifieerd via de gateway-CLI.
  • Claude’s standaard-smoke patcht ook de sessie van Sonnet naar Opus en verifieert dat de hervatte sessie nog steeds een eerdere notitie onthoudt.

Live: APNs HTTP/2-proxybereikbaarheid

  • Test: src/infra/push-apns-http2.live.test.ts
  • Doel: tunnelen via een lokale HTTP CONNECT-proxy naar Apple’s sandbox-APNs-endpoint, het APNs HTTP/2-validatieverzoek sturen en controleren dat Apple’s echte 403 InvalidProviderToken-respons terugkomt via het proxypad.
  • Inschakelen:
    • OPENCLAW_LIVE_TEST=1 OPENCLAW_LIVE_APNS_REACHABILITY=1 pnpm test:live src/infra/push-apns-http2.live.test.ts
  • Optionele timeout:
    • OPENCLAW_LIVE_APNS_TIMEOUT_MS=30000

Live: ACP-bind-smoke (/acp spawn ... --bind here)

  • Test: src/gateway/gateway-acp-bind.live.test.ts
  • Doel: valideer de echte ACP-gespreksbindstroom met een live ACP-agent:
    • stuur /acp spawn <agent> --bind here
    • bind een synthetisch message-channel-gesprek ter plekke
    • stuur een normale follow-up in datzelfde gesprek
    • verifieer dat de follow-up terechtkomt in het transcript van de gebonden ACP-sessie
  • Inschakelen:
    • pnpm test:live src/gateway/gateway-acp-bind.live.test.ts
    • OPENCLAW_LIVE_ACP_BIND=1
  • Standaardwaarden:
    • ACP-agenten in Docker: claude,codex,gemini
    • ACP-agent voor directe pnpm test:live ...: claude
    • Synthetisch kanaal: gesprekscontext in Slack DM-stijl
    • ACP-backend: acpx
  • Overrides:
    • OPENCLAW_LIVE_ACP_BIND_AGENT=claude
    • OPENCLAW_LIVE_ACP_BIND_AGENT=codex
    • OPENCLAW_LIVE_ACP_BIND_AGENT=droid
    • OPENCLAW_LIVE_ACP_BIND_AGENT=gemini
    • OPENCLAW_LIVE_ACP_BIND_AGENT=opencode
    • OPENCLAW_LIVE_ACP_BIND_AGENTS=claude,codex,gemini
    • OPENCLAW_LIVE_ACP_BIND_AGENT_COMMAND='npx -y @agentclientprotocol/claude-agent-acp@<version>'
    • OPENCLAW_LIVE_ACP_BIND_CODEX_MODEL=gpt-5.5
    • OPENCLAW_LIVE_ACP_BIND_OPENCODE_MODEL=opencode/kimi-k2.6
    • OPENCLAW_LIVE_ACP_BIND_REQUIRE_TRANSCRIPT=1
    • OPENCLAW_LIVE_ACP_BIND_REQUIRE_CRON=1
    • OPENCLAW_LIVE_ACP_BIND_PARENT_MODEL=openai/gpt-5.5
  • Opmerkingen:
    • Deze lane gebruikt het gateway-chat.send-oppervlak met synthetische originating-route-velden die alleen voor admins zijn, zodat tests message-channel-context kunnen koppelen zonder te doen alsof er extern wordt geleverd.
    • Wanneer OPENCLAW_LIVE_ACP_BIND_AGENT_COMMAND niet is ingesteld, gebruikt de test het ingebouwde agentregister van de ingebedde acpx-Plugin voor de geselecteerde ACP-harnessagent.
    • Het maken van bound-session cron MCP is standaard best-effort, omdat externe ACP-harnesses MCP-aanroepen kunnen annuleren nadat het bind-/image-bewijs is geslaagd; stel OPENCLAW_LIVE_ACP_BIND_REQUIRE_CRON=1 in om die post-bind Cron-probe strikt te maken.

Voorbeeld:

OPENCLAW_LIVE_ACP_BIND=1 \
  OPENCLAW_LIVE_ACP_BIND_AGENT=claude \
  pnpm test:live src/gateway/gateway-acp-bind.live.test.ts

Docker-recept:

pnpm test:docker:live-acp-bind

Docker-recepten voor één agent:

pnpm test:docker:live-acp-bind:claude
pnpm test:docker:live-acp-bind:codex
pnpm test:docker:live-acp-bind:droid
pnpm test:docker:live-acp-bind:gemini
pnpm test:docker:live-acp-bind:opencode

Docker-opmerkingen:

  • De Docker-runner staat op scripts/test-live-acp-bind-docker.sh.
  • Standaard voert deze de ACP-bindrooktest achtereenvolgens uit tegen de geaggregeerde live CLI-agenten: claude, codex en daarna gemini.
  • Gebruik OPENCLAW_LIVE_ACP_BIND_AGENTS=claude, OPENCLAW_LIVE_ACP_BIND_AGENTS=codex, OPENCLAW_LIVE_ACP_BIND_AGENTS=droid, OPENCLAW_LIVE_ACP_BIND_AGENTS=gemini of OPENCLAW_LIVE_ACP_BIND_AGENTS=opencode om de matrix te beperken.
  • De runner sourcet ~/.profile, zet het overeenkomende CLI-authmateriaal klaar in de container en installeert daarna de gevraagde live CLI (@anthropic-ai/claude-code, @openai/codex, Factory Droid via https://app.factory.ai/cli, @google/gemini-cli of opencode-ai) als die ontbreekt. De ACP-backend zelf is het ingebedde acpx/runtime-pakket uit de officiële acpx-Plugin.
  • De Droid Docker-variant zet ~/.factory klaar voor instellingen, geeft FACTORY_API_KEY door en vereist die API-sleutel omdat lokale Factory OAuth-/keyring-auth niet overdraagbaar is naar de container. Deze gebruikt ACPX' ingebouwde registervermelding droid exec --output-format acp.
  • De OpenCode Docker-variant is een strikte regressielane voor één agent. Deze schrijft een tijdelijk OPENCODE_CONFIG_CONTENT-standaardmodel uit OPENCLAW_LIVE_ACP_BIND_OPENCODE_MODEL (standaard opencode/kimi-k2.6) na het sourcen van ~/.profile, en pnpm test:docker:live-acp-bind:opencode vereist een gebonden assistenttranscript in plaats van de generieke post-bind-skip te accepteren.
  • Directe acpx CLI-aanroepen zijn alleen een handmatig/workaround-pad om gedrag buiten de Gateway te vergelijken. De Docker ACP-bindrooktest oefent OpenClaw's ingebedde acpx-runtimebackend uit.

Live: Codex app-server-harnessrooktest

  • Doel: valideer de Plugin-eigen Codex-harness via de normale gateway- agent-methode:
    • laad de gebundelde codex-Plugin
    • selecteer OPENCLAW_AGENT_RUNTIME=codex
    • stuur een eerste gateway-agentturn naar openai/gpt-5.5 met de Codex-harness geforceerd
    • stuur een tweede turn naar dezelfde OpenClaw-sessie en verifieer dat de app-server- thread kan hervatten
    • voer /codex status en /codex models uit via hetzelfde gateway-commandopad
    • voer optioneel twee door Guardian beoordeelde geëscaleerde shell-probes uit: één onschuldige opdracht die moet worden goedgekeurd en één nep-secret-upload die moet worden geweigerd zodat de agent terugvraagt
  • Test: src/gateway/gateway-codex-harness.live.test.ts
  • Inschakelen: OPENCLAW_LIVE_CODEX_HARNESS=1
  • Standaardmodel: openai/gpt-5.5
  • Optionele image-probe: OPENCLAW_LIVE_CODEX_HARNESS_IMAGE_PROBE=1
  • Optionele MCP-/toolprobe: OPENCLAW_LIVE_CODEX_HARNESS_MCP_PROBE=1
  • Optionele Guardian-probe: OPENCLAW_LIVE_CODEX_HARNESS_GUARDIAN_PROBE=1
  • De rooktest gebruikt agentRuntime.id: "codex" zodat een defecte Codex-harness niet kan slagen door stilzwijgend terug te vallen op PI.
  • Auth: Codex app-server-auth vanuit de lokale login voor het Codex-abonnement. Docker- rooktests kunnen ook OPENAI_API_KEY leveren voor niet-Codex-probes waar van toepassing, plus optioneel gekopieerde ~/.codex/auth.json en ~/.codex/config.toml.

Lokaal recept:

source ~/.profile
OPENCLAW_LIVE_CODEX_HARNESS=1 \
  OPENCLAW_LIVE_CODEX_HARNESS_IMAGE_PROBE=1 \
  OPENCLAW_LIVE_CODEX_HARNESS_MCP_PROBE=1 \
  OPENCLAW_LIVE_CODEX_HARNESS_GUARDIAN_PROBE=1 \
  OPENCLAW_LIVE_CODEX_HARNESS_MODEL=openai/gpt-5.5 \
  pnpm test:live -- src/gateway/gateway-codex-harness.live.test.ts

Docker-recept:

source ~/.profile
pnpm test:docker:live-codex-harness

Docker-opmerkingen:

  • De Docker-runner staat op scripts/test-live-codex-harness-docker.sh.
  • Deze sourcet de gemounte ~/.profile, geeft OPENAI_API_KEY door, kopieert Codex CLI- authbestanden wanneer aanwezig, installeert @openai/codex in een beschrijfbare gemounte npm- prefix, zet de broncodeboom klaar en voert daarna alleen de Codex-harness-live-test uit.
  • Docker schakelt standaard de image-, MCP-/tool- en Guardian-probes in. Stel OPENCLAW_LIVE_CODEX_HARNESS_IMAGE_PROBE=0 of OPENCLAW_LIVE_CODEX_HARNESS_MCP_PROBE=0 of OPENCLAW_LIVE_CODEX_HARNESS_GUARDIAN_PROBE=0 in wanneer je een beperktere debug- run nodig hebt.
  • Docker gebruikt dezelfde expliciete Codex-runtimeconfiguratie, zodat legacy-aliassen of PI- fallback een Codex-harnessregressie niet kunnen verbergen.

Aanbevolen live-recepten

Smalle, expliciete allowlists zijn het snelst en het minst flaky:

  • Eén model, direct (geen gateway):

    • OPENCLAW_LIVE_MODELS="openai/gpt-5.5" pnpm test:live src/agents/models.profiles.live.test.ts

  • Eén model, gateway-rooktest:

    • OPENCLAW_LIVE_GATEWAY_MODELS="openai/gpt-5.5" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts

  • Toolaanroep over meerdere providers:

    • OPENCLAW_LIVE_GATEWAY_MODELS="openai/gpt-5.5,openai-codex/gpt-5.5,anthropic/claude-opus-4-6,google/gemini-3-flash-preview,deepseek/deepseek-v4-flash,zai/glm-5.1,minimax/MiniMax-M2.7" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts

  • Google-focus (Gemini API-sleutel + Antigravity):

    • Gemini (API-sleutel): OPENCLAW_LIVE_GATEWAY_MODELS="google/gemini-3-flash-preview" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts
    • Antigravity (OAuth): OPENCLAW_LIVE_GATEWAY_MODELS="google-antigravity/claude-opus-4-6-thinking,google-antigravity/gemini-3-pro-high" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts

  • Google adaptive thinking-rooktest:

    • Als lokale sleutels in het shellprofiel staan: source ~/.profile
    • Gemini 3 dynamische standaard: pnpm openclaw qa manual --provider-mode live-frontier --model google/gemini-3.1-pro-preview --alt-model google/gemini-3.1-pro-preview --message '/think adaptive Reply exactly: GEMINI_ADAPTIVE_OK' --timeout-ms 180000
    • Gemini 2.5 dynamisch budget: pnpm openclaw qa manual --provider-mode live-frontier --model google/gemini-2.5-flash --alt-model google/gemini-2.5-flash --message '/think adaptive Reply exactly: GEMINI25_ADAPTIVE_OK' --timeout-ms 180000

Opmerkingen:

  • google/... gebruikt de Gemini API (API-sleutel).
  • google-antigravity/... gebruikt de Antigravity OAuth-bridge (Cloud Code Assist-achtige agentendpoint).
  • google-gemini-cli/... gebruikt de lokale Gemini CLI op je machine (aparte auth + toolingeigenaardigheden).
  • Gemini API versus Gemini CLI:
    • API: OpenClaw roept Google's gehoste Gemini API aan via HTTP (API-sleutel / profielauth); dit is wat de meeste gebruikers bedoelen met "Gemini".
    • CLI: OpenClaw roept een lokale gemini-binary aan via de shell; die heeft eigen auth en kan anders reageren (streaming-/toolondersteuning/versiescheefstand).

Live: modelmatrix (wat we afdekken)

Er is geen vaste "CI-modellijst" (live is opt-in), maar dit zijn de aanbevolen modellen om regelmatig af te dekken op een ontwikkelmachine met sleutels.

Moderne rooktestset (toolaanroep + image)

Dit is de run met "gangbare modellen" waarvan we verwachten dat die blijft werken:

  • OpenAI (niet-Codex): openai/gpt-5.5
  • OpenAI Codex OAuth: openai-codex/gpt-5.5
  • Anthropic: anthropic/claude-opus-4-6 (of anthropic/claude-sonnet-4-6)
  • Google (Gemini API): google/gemini-3.1-pro-preview en google/gemini-3-flash-preview (vermijd oudere Gemini 2.x-modellen)
  • Google (Antigravity): google-antigravity/claude-opus-4-6-thinking en google-antigravity/gemini-3-flash
  • DeepSeek: deepseek/deepseek-v4-flash en deepseek/deepseek-v4-pro
  • Z.AI (GLM): zai/glm-5.1
  • MiniMax: minimax/MiniMax-M2.7

Voer de gateway-rooktest uit met tools + image: OPENCLAW_LIVE_GATEWAY_MODELS="openai/gpt-5.5,openai-codex/gpt-5.5,anthropic/claude-opus-4-6,google/gemini-3.1-pro-preview,google/gemini-3-flash-preview,google-antigravity/claude-opus-4-6-thinking,google-antigravity/gemini-3-flash,deepseek/deepseek-v4-flash,zai/glm-5.1,minimax/MiniMax-M2.7" pnpm test:live src/gateway/gateway-models.profiles.live.test.ts

Baseline: toolaanroep (Read + optionele Exec)

Kies ten minste één per providerfamilie:

  • OpenAI: openai/gpt-5.5
  • Anthropic: anthropic/claude-opus-4-6 (of anthropic/claude-sonnet-4-6)
  • Google: google/gemini-3-flash-preview (of google/gemini-3.1-pro-preview)
  • DeepSeek: deepseek/deepseek-v4-flash
  • Z.AI (GLM): zai/glm-5.1
  • MiniMax: minimax/MiniMax-M2.7

Optionele extra dekking (prettig om te hebben):

  • xAI: xai/grok-4.3 (of nieuwste beschikbare)
  • Mistral: mistral/… (kies één model met "tools"-mogelijkheden dat je hebt ingeschakeld)
  • Cerebras: cerebras/… (als je toegang hebt)
  • LM Studio: lmstudio/… (lokaal; toolaanroep hangt af van API-modus)

Vision: image verzenden (bijlage → multimodaal bericht)

Neem ten minste één model met image-ondersteuning op in OPENCLAW_LIVE_GATEWAY_MODELS (Claude/Gemini/OpenAI-varianten met vision-ondersteuning, enz.) om de image-probe uit te oefenen.

Aggregators / alternatieve gateways

Als je sleutels hebt ingeschakeld, ondersteunen we ook testen via:

  • OpenRouter: openrouter/... (honderden modellen; gebruik openclaw models scan om kandidaten met tool- en image-ondersteuning te vinden)
  • OpenCode: opencode/... voor Zen en opencode-go/... voor Go (auth via OPENCODE_API_KEY / OPENCODE_ZEN_API_KEY)

Meer providers die je kunt opnemen in de live-matrix (als je credentials/configuratie hebt):

  • Ingebouwd: openai, openai-codex, anthropic, google, google-vertex, google-antigravity, google-gemini-cli, zai, openrouter, opencode, opencode-go, xai, groq, cerebras, mistral, github-copilot
  • Via models.providers (aangepaste endpoints): minimax (cloud/API), plus elke OpenAI-/Anthropic-compatibele proxy (LM Studio, vLLM, LiteLLM, enz.)

Credentials (nooit committen)

Live-tests ontdekken credentials op dezelfde manier als de CLI dat doet. Praktische gevolgen:

  • Als de CLI werkt, zouden live-tests dezelfde sleutels moeten vinden.

  • Als een live-test "no creds" meldt, debug dan op dezelfde manier als je openclaw models list / modelselectie zou debuggen.

  • Auth-profielen per agent: ~/.openclaw/agents/<agentId>/agent/auth-profiles.json (dit is wat "profielsleutels" betekent in de livetests)

  • Configuratie: ~/.openclaw/openclaw.json (of OPENCLAW_CONFIG_PATH)

  • Verouderde statusmap: ~/.openclaw/credentials/ (wordt gekopieerd naar de voorbereide live-thuismap wanneer aanwezig, maar niet naar de hoofdopslag voor profielsleutels)

  • Live lokale runs kopiëren standaard de actieve configuratie, auth-profiles.json-bestanden per agent, verouderde credentials/ en ondersteunde externe CLI-authmappen naar een tijdelijke test-thuismap; voorbereide live-thuismappen slaan workspace/ en sandboxes/ over, en agents.*.workspace / agentDir-padoverschrijvingen worden verwijderd zodat probes uit je echte host-werkruimte blijven.

Als je wilt vertrouwen op omgevingssleutels (bijv. geëxporteerd in je ~/.profile), voer lokale tests uit na source ~/.profile, of gebruik de Docker-runners hieronder (die kunnen ~/.profile in de container mounten).

Deepgram live (audiotranscriptie)

  • Test: extensions/deepgram/audio.live.test.ts
  • Inschakelen: DEEPGRAM_API_KEY=... DEEPGRAM_LIVE_TEST=1 pnpm test:live extensions/deepgram/audio.live.test.ts

BytePlus-codeplan live

  • Test: extensions/byteplus/live.test.ts
  • Inschakelen: BYTEPLUS_API_KEY=... BYTEPLUS_LIVE_TEST=1 pnpm test:live extensions/byteplus/live.test.ts
  • Optionele modeloverschrijving: BYTEPLUS_CODING_MODEL=ark-code-latest

ComfyUI-workflowmedia live

  • Test: extensions/comfy/comfy.live.test.ts
  • Inschakelen: OPENCLAW_LIVE_TEST=1 COMFY_LIVE_TEST=1 pnpm test:live -- extensions/comfy/comfy.live.test.ts
  • Scope:
    • Oefent de meegeleverde comfy-paden voor afbeeldingen, video en music_generate
    • Slaat elke mogelijkheid over tenzij plugins.entries.comfy.config.<capability> is geconfigureerd
    • Nuttig na wijzigingen aan comfy-workflowinzending, polling, downloads of pluginregistratie

Afbeeldingsgeneratie live

  • Test: test/image-generation.runtime.live.test.ts
  • Opdracht: pnpm test:live test/image-generation.runtime.live.test.ts
  • Harness: pnpm test:live:media image
  • Scope:
    • Somt elke geregistreerde providerplugin voor afbeeldingsgeneratie op
    • Laadt ontbrekende provideromgevingsvariabelen uit je login-shell (~/.profile) voordat er wordt geprobed
    • Gebruikt standaard live/omgevings-API-sleutels vóór opgeslagen auth-profielen, zodat verouderde testsleutels in auth-profiles.json echte shellreferenties niet maskeren
    • Slaat providers over zonder bruikbare auth/profiel/model
    • Voert elke geconfigureerde provider uit via de gedeelde runtime voor afbeeldingsgeneratie:
      • <provider>:generate
      • <provider>:edit wanneer de provider bewerkingsondersteuning declareert
  • Huidige meegeleverde providers die worden gedekt:
    • deepinfra
    • fal
    • google
    • minimax
    • openai
    • openrouter
    • vydra
    • xai
  • Optionele beperking:
    • OPENCLAW_LIVE_IMAGE_GENERATION_PROVIDERS="openai,google,openrouter,xai"
    • OPENCLAW_LIVE_IMAGE_GENERATION_PROVIDERS="deepinfra"
    • OPENCLAW_LIVE_IMAGE_GENERATION_MODELS="openai/gpt-image-2,google/gemini-3.1-flash-image-preview,openrouter/google/gemini-3.1-flash-image-preview,xai/grok-imagine-image"
    • OPENCLAW_LIVE_IMAGE_GENERATION_CASES="google:flash-generate,google:pro-edit,openrouter:generate,xai:default-generate,xai:default-edit"
  • Optioneel auth-gedrag:
    • OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1 om auth via de profielopslag af te dwingen en alleen-omgeving-overschrijvingen te negeren

Voeg voor het geleverde CLI-pad een infer-smoke toe nadat de provider/runtime-livetest slaagt:

OPENCLAW_LIVE_TEST=1 OPENCLAW_LIVE_INFER_CLI_TEST=1 pnpm test:live -- test/image-generation.infer-cli.live.test.ts
openclaw infer image providers --json
openclaw infer image generate \
  --model google/gemini-3.1-flash-image-preview \
  --prompt "Minimal flat test image: one blue square on a white background, no text." \
  --output ./openclaw-infer-image-smoke.png \
  --json

Dit dekt CLI-argumentparsing, configuratie/default-agent-resolutie, activering van meegeleverde plugins, de gedeelde runtime voor afbeeldingsgeneratie en de live provideraanvraag. Plugin-afhankelijkheden worden verwacht aanwezig te zijn vóór het laden van de runtime.

Muziekgeneratie live

  • Test: extensions/music-generation-providers.live.test.ts
  • Inschakelen: OPENCLAW_LIVE_TEST=1 pnpm test:live -- extensions/music-generation-providers.live.test.ts
  • Harness: pnpm test:live:media music
  • Scope:
    • Oefent het gedeelde meegeleverde providerpad voor muziekgeneratie
    • Dekt momenteel Google en MiniMax
    • Laadt provideromgevingsvariabelen uit je login-shell (~/.profile) voordat er wordt geprobed
    • Gebruikt standaard live/omgevings-API-sleutels vóór opgeslagen auth-profielen, zodat verouderde testsleutels in auth-profiles.json echte shellreferenties niet maskeren
    • Slaat providers over zonder bruikbare auth/profiel/model
    • Voert beide gedeclareerde runtimemodi uit wanneer beschikbaar:
      • generate met invoer die alleen uit een prompt bestaat
      • edit wanneer de provider capabilities.edit.enabled declareert
    • Huidige dekking van de gedeelde lane:
      • google: generate, edit
      • minimax: generate
      • comfy: afzonderlijk Comfy-livebestand, niet deze gedeelde sweep
  • Optionele beperking:
    • OPENCLAW_LIVE_MUSIC_GENERATION_PROVIDERS="google,minimax"
    • OPENCLAW_LIVE_MUSIC_GENERATION_MODELS="google/lyria-3-clip-preview,minimax/music-2.6"
  • Optioneel auth-gedrag:
    • OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1 om auth via de profielopslag af te dwingen en alleen-omgeving-overschrijvingen te negeren

Videogeneratie live

  • Test: extensions/video-generation-providers.live.test.ts
  • Inschakelen: OPENCLAW_LIVE_TEST=1 pnpm test:live -- extensions/video-generation-providers.live.test.ts
  • Harness: pnpm test:live:media video
  • Scope:
    • Oefent het gedeelde meegeleverde providerpad voor videogeneratie
    • Gebruikt standaard het release-veilige smokepad: niet-FAL-providers, één tekst-naar-video-aanvraag per provider, een kreeftprompt van één seconde en een bewerkingslimiet per provider uit OPENCLAW_LIVE_VIDEO_GENERATION_TIMEOUT_MS (standaard 180000)
    • Slaat FAL standaard over omdat wachtrijlatentie aan providerzijde de releasetijd kan domineren; geef --video-providers fal of OPENCLAW_LIVE_VIDEO_GENERATION_PROVIDERS="fal" door om deze expliciet uit te voeren
    • Laadt provideromgevingsvariabelen uit je login-shell (~/.profile) voordat er wordt geprobed
    • Gebruikt standaard live/omgevings-API-sleutels vóór opgeslagen auth-profielen, zodat verouderde testsleutels in auth-profiles.json echte shellreferenties niet maskeren
    • Slaat providers over zonder bruikbare auth/profiel/model
    • Voert standaard alleen generate uit
    • Stel OPENCLAW_LIVE_VIDEO_GENERATION_FULL_MODES=1 in om ook gedeclareerde transformatiemodi uit te voeren wanneer beschikbaar:
      • imageToVideo wanneer de provider capabilities.imageToVideo.enabled declareert en de geselecteerde provider/het geselecteerde model in de gedeelde sweep lokale afbeeldingsinvoer met buffer accepteert
      • videoToVideo wanneer de provider capabilities.videoToVideo.enabled declareert en de geselecteerde provider/het geselecteerde model in de gedeelde sweep lokale video-invoer met buffer accepteert
    • Huidige gedeclareerde maar overgeslagen imageToVideo-providers in de gedeelde sweep:
      • vydra omdat meegeleverde veo3 alleen tekst ondersteunt en meegeleverde kling een externe afbeeldings-URL vereist
    • Provider-specifieke Vydra-dekking:
      • OPENCLAW_LIVE_TEST=1 OPENCLAW_LIVE_VYDRA_VIDEO=1 pnpm test:live -- extensions/vydra/vydra.live.test.ts
      • dat bestand voert veo3 tekst-naar-video uit plus een kling-lane die standaard een externe afbeeldings-URL-fixture gebruikt
    • Huidige live videoToVideo-dekking:
      • runway alleen wanneer het geselecteerde model runway/gen4_aleph is
    • Huidige gedeclareerde maar overgeslagen videoToVideo-providers in de gedeelde sweep:
      • alibaba, qwen, xai omdat die paden momenteel externe http(s) / MP4-referentie-URL's vereisen
      • google omdat de huidige gedeelde Gemini/Veo-lane lokale invoer met buffer gebruikt en dat pad niet wordt geaccepteerd in de gedeelde sweep
      • openai omdat de huidige gedeelde lane geen garanties heeft voor org-specifieke toegang tot video-inpaint/remix
  • Optionele beperking:
    • OPENCLAW_LIVE_VIDEO_GENERATION_PROVIDERS="deepinfra,google,openai,runway"
    • OPENCLAW_LIVE_VIDEO_GENERATION_MODELS="google/veo-3.1-fast-generate-preview,openai/sora-2,runway/gen4_aleph"
    • OPENCLAW_LIVE_VIDEO_GENERATION_SKIP_PROVIDERS="" om elke provider in de standaardsweep op te nemen, inclusief FAL
    • OPENCLAW_LIVE_VIDEO_GENERATION_TIMEOUT_MS=60000 om de bewerkingslimiet per provider te verlagen voor een agressieve smokerun
  • Optioneel auth-gedrag:
    • OPENCLAW_LIVE_REQUIRE_PROFILE_KEYS=1 om auth via de profielopslag af te dwingen en alleen-omgeving-overschrijvingen te negeren

Media-liveharness

  • Opdracht: pnpm test:live:media
  • Doel:
    • Voert de gedeelde live suites voor afbeeldingen, muziek en video uit via één repo-native entrypoint
    • Laadt ontbrekende provideromgevingsvariabelen automatisch uit ~/.profile
    • Beperkt elke suite standaard automatisch tot providers die momenteel bruikbare auth hebben
    • Hergebruikt scripts/test-live.mjs, zodat Heartbeat- en stillemodusgedrag consistent blijven
  • Voorbeelden:
    • pnpm test:live:media
    • pnpm test:live:media image video --providers openai,google,minimax
    • pnpm test:live:media video --video-providers openai,runway --all-providers
    • pnpm test:live:media music --quiet

Gerelateerd

  • Testen - unit-, integratie-, QA- en Docker-suites