Pular para o conteúdo principal

Modelo de IA & BYOK

A página Modelo de IA é onde você decide qual IA alimenta seu assistente — para cada capacidade, não apenas para chat. Abra-a a partir do seu assistente no admin → menu à esquerda → Modelo de IA.

O AI SmartTalk escolhe padrões sensatos durante a integração, então a maioria dos assistentes funciona muito bem sem nunca abrir esta página. Venha aqui quando você quiser soberania de dados da UE, um modelo específico ou conectar sua própria chave de provedor.

A página do Modelo de IA — cartões de modo e seleção de modelo por capacidade

Escolha um modo​

Na parte superior da página, você escolhe um modo que define modelos sensatos em toda a plataforma:

ModoO que fazMelhor para
SoberanoModelos 100% da UE hospedados na França (Mistral, Qwen, Llama). Seus dados nunca saem da Europa.Uso sensível ao GDPR, soberania de dados
OpenAIModelos GPT em todas as capacidades.Máxima capacidade, você está bem com processamento nos EUA
PersonalizadoMistura modelos de qualquer provedor, capacidade por capacidade — e traz sua própria chave de API (BYOK).Controle total, otimização de custos

Você pode sempre ajustar capacidades individuais abaixo dos cartões de modo.

Personalize cada capacidade​

No modo Personalizado, cada capacidade tem seu próprio seletor:

  • Chat (LLM) — gera as respostas que seus clientes leem.
  • Base de Conhecimento — transforma seus documentos em conhecimento pesquisável (embeddings).
  • Fala para Texto — transcreve mensagens de voz.
  • Texto para Fala — dá uma voz ao seu assistente.
  • Visão — entende imagens que os clientes enviam.

Cada um mostra o nome do modelo, seu provedor, um selo EU para modelos soberanos e um custo de crédito. Escolha o que se adapta às suas necessidades — misture soberano e proprietário livremente.

Traga Sua Própria Chave (BYOK)​

O BYOK permite que você execute uma capacidade através da sua própria chave de provedor de IA em vez dos modelos hospedados pelo AI SmartTalk. Chamadas roteadas através da sua chave são cobradas diretamente pelo seu provedor — elas consomem zero créditos do AI SmartTalk.

Provedores suportados​

  • OpenAI — GPT-4o, GPT-4o mini, e mais
  • Anthropic — Claude
  • Mistral
  • APIs Generativas da Scaleway
  • Ollama — seus próprios modelos auto-hospedados
  • Qualquer endpoint compatível com OpenAI — vLLM, OpenRouter, Together.ai, Groq, Fireworks…

Fala para Texto e Texto para Fala estão atualmente disponíveis com OpenAI (ou qualquer endpoint compatível com OpenAI). Embeddings e visão são suportados por OpenAI, Mistral e Scaleway.

Conecte sua chave​

Usando sua própria chave de API para uma capacidade, cobrada pelo seu provedor a 0 créditos de plataforma

  1. Abra a página Modelo de IA e selecione o modo Personalizado.
  2. Na capacidade que você deseja (por exemplo, Chat), clique em "Usar minha própria chave de API".
  3. Escolha seu provedor, cole sua chave de API e escolha o modelo — modelos recomendados são sugeridos, ou insira um ID de modelo exato.
  4. Salve. O AI SmartTalk verifica a conexão, então roteia essa capacidade através da sua chave. A capacidade mostra um selo SUA CHAVE.

Você pode fazer isso para uma capacidade ou todas elas, e misturar com modelos da plataforma para o restante.

Gerencie suas chaves​

  • Suas chaves são salvas no nível da organização e compartilhadas entre todos os chatbots na sua organização — insira uma chave uma vez, reutilize-a em todos os lugares.
  • Clique em "Gerenciar chaves" para adicionar uma chave, registrar mais modelos sob ela, renomear ou excluí-la.
  • Use Testar conexão para confirmar que uma chave funciona — nenhum token é consumido.
  • Para parar de usar sua chave para uma capacidade, remova-a (o × ao lado do modelo) — essa capacidade reverte automaticamente para o modelo da plataforma.

O que acontece com a cobrança​

Capacidades roteadas através da sua chave aparecem em suas análises de uso marcadas como BYOK com 0 créditos. Capacidades ainda nos modelos da plataforma são cobradas normalmente — BYOK é por capacidade, então usar seu próprio modelo de chat não torna seus embeddings ou visão gratuitos.

Retornando a um preset​

Selecionar o modo Soberano ou OpenAI limpa qualquer roteamento BYOK ativo primeiro, para que a promessa do preset se mantenha (por exemplo, Soberano permanece 100% da UE). Suas chaves salvas são mantidas — elas apenas não estão mais roteando tráfego até que você as reative no modo Personalizado.

Soberania de dados​

O modo Soberano (e qualquer modelo soberano escolhido no modo Personalizado) mantém o processamento dentro da UE, em infraestrutura na França — sem transferências de dados para os EUA. O BYOK é opt-in por capacidade, então você mantém total controle sobre onde cada tipo de chamada vai. Veja Conformidade & Hospedagem para detalhes.

Relacionados​

Pronto para elevar sua
experiência do usuário?

Implemente assistentes de IA que encantam os clientes e escalem com seu negócio.

Conforme o GDPR