Modelo de IA y BYOK
La página de Modelo de IA es donde decides qué IA potencia tu asistente — para cada capacidad, no solo para chat. Ábrela desde tu asistente en el admin → menú de la izquierda → Modelo de IA.
AI SmartTalk elige valores predeterminados sensatos durante la incorporación, por lo que la mayoría de los asistentes funcionan muy bien sin abrir nunca esta página. Ven aquí cuando quieras soberanía de datos de la UE, un modelo específico o conectar tu propia clave de proveedor.
Elige un modo
En la parte superior de la página, eliges un modo que establece modelos sensatos en general:
| Modo | Qué hace | Mejor para |
|---|---|---|
| Soberano | Modelos 100% de la UE alojados en Francia (Mistral, Qwen, Llama). Tus datos nunca salen de Europa. | Uso sensible a GDPR, soberanía de datos |
| OpenAI | Modelos GPT en cada capacidad. | Máxima capacidad, estás bien con el procesamiento en EE. UU. |
| Personalizado | Mezcla modelos de cualquier proveedor, capacidad por capacidad — y trae tu propia clave API (BYOK). | Control total, optimización de costos |
Siempre puedes ajustar capacidades individuales debajo de las tarjetas de modo.
Personaliza cada capacidad
En modo Personalizado, cada capacidad tiene su propio selector:
- Chat (LLM) — genera las respuestas que leen tus clientes.
- Base de Conocimientos — convierte tus documentos en conocimiento buscable (embeddings).
- Conversión de Voz a Texto — transcribe mensajes de voz.
- Conversión de Texto a Voz — le da voz a tu asistente.
- Visión — entiende imágenes que envían los clientes.
Cada uno muestra el nombre del modelo, su proveedor, una insignia de UE para modelos soberanos y un costo en créditos. Elige el que se ajuste a tus necesidades — mezcla soberanos y propietarios libremente.
Trae Tu Propia Clave (BYOK)
BYOK te permite ejecutar una capacidad a través de tu propia clave de proveedor de IA en lugar de los modelos alojados de AI SmartTalk. Las llamadas enrutadas a través de tu clave son facturadas directamente por tu proveedor — no consumen créditos de AI SmartTalk.
Proveedores soportados
- OpenAI — GPT-4o, GPT-4o mini, y más
- Anthropic — Claude
- Mistral
- Scaleway APIs Generativas
- Ollama — tus propios modelos autoalojados
- Cualquier endpoint compatible con OpenAI — vLLM, OpenRouter, Together.ai, Groq, Fireworks…
La Conversión de Voz a Texto y la Conversión de Texto a Voz están actualmente disponibles con OpenAI (o cualquier endpoint compatible con OpenAI). Los embeddings y la visión son soportados por OpenAI, Mistral y Scaleway.
Conecta tu clave
- Abre la página de Modelo de IA y selecciona el modo Personalizado.
- En la capacidad que deseas (por ejemplo, Chat), haz clic en "Usar mi propia clave API".
- Elige tu proveedor, pega tu clave API y selecciona el modelo — se sugieren modelos recomendados, o ingresa un id de modelo exacto.
- Guarda. AI SmartTalk verifica la conexión, luego enruta esa capacidad a través de tu clave. La capacidad muestra una insignia de TU CLAVE.
Puedes hacer esto para una capacidad o para todas ellas, y mezclar con modelos de la plataforma para el resto.
Gestiona tus claves
- Tus claves se guardan a nivel de organización y se comparten entre cada chatbot en tu organización — ingresa una clave una vez, reutilízala en todas partes.
- Haz clic en "Gestionar claves" para agregar una clave, registrar más modelos bajo ella, renombrarla o eliminarla.
- Usa Probar conexión para confirmar que una clave funciona — no se consumen tokens.
- Para dejar de usar tu clave para una capacidad, elimínala (la × junto al modelo) — esa capacidad vuelve automáticamente al modelo de la plataforma.
Qué sucede con la facturación
Las capacidades enrutadas a través de tu clave aparecen en tus análisis de uso marcadas como BYOK con 0 créditos. Las capacidades que aún están en modelos de la plataforma se facturan normalmente — BYOK es por capacidad, por lo que usar tu propio modelo de chat no hace que tus embeddings o visión sean gratuitos.
Volver a un preset
Seleccionar el modo Soberano o OpenAI borra cualquier enrutamiento BYOK activo primero, por lo que la promesa del preset se mantiene (por ejemplo, Soberano se mantiene 100% UE). Tus claves guardadas se mantienen — simplemente ya no están enrutando tráfico hasta que las vuelvas a habilitar en modo Personalizado.
Soberanía de datos
El modo soberano (y cualquier modelo soberano elegido en modo Personalizado) mantiene el procesamiento dentro de la UE, en infraestructura en Francia — sin transferencias de datos a EE. UU. BYOK es optativo por capacidad, por lo que mantienes el control total de a dónde va cada tipo de llamada. Consulta Cumplimiento y Alojamiento para más detalles.
Relacionados
- Resumen de configuración — el mapa de cada superficie de personalización
- Base de Conocimientos — los documentos y fuentes de las que se nutre tu asistente
- Capacidades de IA — cómo funciona la pipeline de IA en múltiples capas