Áudio e notas de voz

# O que funciona

• Compreensão de mídia (áudio): Se a compreensão de áudio estiver habilitada (ou for detectada automaticamente), o OpenClaw:
  1. Localiza o primeiro anexo de áudio (caminho local ou URL) e o baixa, se necessário.
  2. Aplica maxBytes antes de enviar para cada entrada de modelo.
  3. Executa a primeira entrada de modelo qualificada na ordem (provedor ou CLI).
  4. Se ela falhar ou for ignorada (tamanho/tempo limite), tenta a próxima entrada.
  5. Em caso de sucesso, substitui Body por um bloco [Audio] e define {{Transcript}}.
• Análise de comandos: Quando a transcrição é concluída com sucesso, CommandBody/RawBody são definidos como a transcrição, para que comandos de barra continuem funcionando.
• Registro detalhado: Em --verbose, registramos quando a transcrição é executada e quando ela substitui o corpo.

# Detecção automática (padrão)

Se você não configurar modelos e tools.media.audio.enabled não estiver definido como false, o OpenClaw detecta automaticamente nesta ordem e para na primeira opção funcional:

1. Modelo de resposta ativo quando seu provedor oferece suporte à compreensão de áudio.
2. CLIs locais (se instaladas)
   • sherpa-onnx-offline (requer SHERPA_ONNX_MODEL_DIR com encoder/decoder/joiner/tokens)
   • whisper-cli (do whisper-cpp; usa WHISPER_CPP_MODEL ou o modelo tiny incluído)
   • whisper (CLI em Python; baixa modelos automaticamente)
3. Gemini CLI (gemini) usando read_many_files
4. Autenticação do provedor
   • Entradas configuradas em models.providers.* que oferecem suporte a áudio são tentadas primeiro
   • Ordem de fallback incluída: OpenAI → Groq → xAI → Deepgram → Google → SenseAudio → ElevenLabs → Mistral

Para desabilitar a detecção automática, defina tools.media.audio.enabled: false. Para personalizar, defina tools.media.audio.models. Observação: A detecção de binários é de melhor esforço no macOS/Linux/Windows; garanta que a CLI esteja no PATH (expandimos ~) ou defina um modelo de CLI explícito com o caminho completo do comando.

# Exemplos de configuração

# Fallback de provedor + CLI (OpenAI + Whisper CLI)

{
  tools: {
    media: {
      audio: {
        enabled: true,
        maxBytes: 20971520,
        models: [
          { provider: "openai", model: "gpt-4o-mini-transcribe" },
          {
            type: "cli",
            command: "whisper",
            args: ["--model", "base", "{{MediaPath}}"],
            timeoutSeconds: 45,
          },
        ],
      },
    },
  },
}

# Somente provedor com controle por escopo

{
  tools: {
    media: {
      audio: {
        enabled: true,
        scope: {
          default: "allow",
          rules: [{ action: "deny", match: { chatType: "group" } }],
        },
        models: [{ provider: "openai", model: "gpt-4o-mini-transcribe" }],
      },
    },
  },
}

# Somente provedor (Deepgram)

{
  tools: {
    media: {
      audio: {
        enabled: true,
        models: [{ provider: "deepgram", model: "nova-3" }],
      },
    },
  },
}

# Somente provedor (Mistral Voxtral)

{
  tools: {
    media: {
      audio: {
        enabled: true,
        models: [{ provider: "mistral", model: "voxtral-mini-latest" }],
      },
    },
  },
}

# Somente provedor (SenseAudio)

{
  tools: {
    media: {
      audio: {
        enabled: true,
        models: [{ provider: "senseaudio", model: "senseaudio-asr-pro-1.5-260319" }],
      },
    },
  },
}

# Enviar a transcrição para o chat (opt-in)

{
  tools: {
    media: {
      audio: {
        enabled: true,
        echoTranscript: true, // default is false
        echoFormat: '📝 "{transcript}"', // optional, supports {transcript}
        models: [{ provider: "openai", model: "gpt-4o-mini-transcribe" }],
      },
    },
  },
}

# Observações e limites

• A autenticação do provedor segue a ordem padrão de autenticação de modelos (perfis de autenticação, variáveis de ambiente, models.providers.*.apiKey).
• Detalhes de configuração do Groq: Groq.
• Deepgram usa DEEPGRAM_API_KEY quando provider: "deepgram" é usado.
• Detalhes de configuração do Deepgram: Deepgram (transcrição de áudio).
• Detalhes de configuração do Mistral: Mistral.
• SenseAudio usa SENSEAUDIO_API_KEY quando provider: "senseaudio" é usado.
• Detalhes de configuração do SenseAudio: SenseAudio.
• Provedores de áudio podem substituir baseUrl, headers e providerOptions via tools.media.audio.
• O limite de tamanho padrão é 20 MB (tools.media.audio.maxBytes). Áudio acima do limite é ignorado para esse modelo e a próxima entrada é tentada.
• Arquivos de áudio minúsculos/vazios com menos de 1024 bytes são ignorados antes da transcrição por provedor/CLI.
• O maxChars padrão para áudio não é definido (transcrição completa). Defina tools.media.audio.maxChars ou maxChars por entrada para cortar a saída.
• O padrão automático da OpenAI é gpt-4o-mini-transcribe; defina model: "gpt-4o-transcribe" para maior precisão.
• Use tools.media.audio.attachments para processar várias mensagens de voz (mode: "all" + maxAttachments).
• A transcrição fica disponível para templates como {{Transcript}}.
• tools.media.audio.echoTranscript fica desativado por padrão; habilite para enviar a confirmação da transcrição de volta ao chat de origem antes do processamento pelo agente.
• tools.media.audio.echoFormat personaliza o texto de eco (placeholder: {transcript}).
• O stdout da CLI é limitado (5 MB); mantenha a saída da CLI concisa.
• Os args da CLI devem usar {{MediaPath}} para o caminho do arquivo de áudio local. Execute openclaw doctor --fix para migrar placeholders {input} obsoletos de configurações antigas de audio.transcription.command.

# Suporte a ambiente de proxy

A transcrição de áudio baseada em provedor respeita variáveis de ambiente padrão de proxy de saída:

• HTTPS_PROXY
• HTTP_PROXY
• ALL_PROXY
• https_proxy
• http_proxy
• all_proxy

Se nenhuma variável de ambiente de proxy estiver definida, é usada saída direta. Se a configuração de proxy estiver malformada, o OpenClaw registra um aviso e volta para a busca direta.

# Detecção de menções em grupos

Quando requireMention: true é definido para um chat em grupo, o OpenClaw agora transcreve áudio antes de verificar menções. Isso permite que mensagens de voz sejam processadas mesmo quando contêm menções.

Como funciona:

1. Se uma mensagem de voz não tiver corpo de texto e o grupo exigir menções, o OpenClaw executa uma transcrição de "preflight".
2. A transcrição é verificada em busca de padrões de menção (por exemplo, @BotName, gatilhos por emoji).
3. Se uma menção for encontrada, a mensagem segue pelo pipeline completo de resposta.
4. A transcrição é usada para detecção de menções, para que mensagens de voz possam passar pelo gate de menção.

Comportamento de fallback:

• Se a transcrição falhar durante o preflight (tempo limite, erro de API etc.), a mensagem será processada com base na detecção de menções apenas por texto.
• Isso garante que mensagens mistas (texto + áudio) nunca sejam descartadas incorretamente.

Opt-out por grupo/tópico do Telegram:

• Defina channels.telegram.groups.<chatId>.disableAudioPreflight: true para ignorar verificações de menção na transcrição de preflight para esse grupo.
• Defina channels.telegram.groups.<chatId>.topics.<threadId>.disableAudioPreflight para substituir por tópico (true para ignorar, false para forçar a habilitação).
• O padrão é false (preflight habilitado quando as condições com gate de menção correspondem).

Exemplo: Um usuário envia uma mensagem de voz dizendo "Ei @Claude, como está o tempo?" em um grupo do Telegram com requireMention: true. A mensagem de voz é transcrita, a menção é detectada e o agente responde.

# Pontos de atenção

• Regras de escopo usam a primeira correspondência como vencedora. chatType é normalizado para direct, group ou room.
• Garanta que sua CLI saia com 0 e imprima texto simples; JSON precisa ser ajustado via jq -r .text.
• Para parakeet-mlx, se você passar --output-dir, o OpenClaw lê <output-dir>/<media-basename>.txt quando --output-format é txt (ou omitido); formatos de saída não txt voltam para análise de stdout.
• Mantenha tempos limite razoáveis (timeoutSeconds, padrão de 60s) para evitar bloquear a fila de respostas.
• A transcrição de preflight processa apenas o primeiro anexo de áudio para detecção de menções. Áudios adicionais são processados durante a fase principal de compreensão de mídia.

# Relacionados

• Compreensão de mídia
• Modo de conversa
• Ativação por voz