AI Model & BYOK
Stránka AI Model je místem, kde se rozhodujete, který AI pohání vašeho asistenta — pro každou schopnost, nejen pro chat. Otevřete ji ze svého asistenta v admin → levé menu → AI Model.
AI SmartTalk vybírá rozumné výchozí hodnoty během onboarding procesu, takže většina asistentů funguje skvěle, aniž byste tuto stránku někdy otevřeli. Přijďte sem, když chcete suverénnost dat EU, konkrétní model nebo připojit svůj vlastní klíč poskytovatele.
Vyberte režim
V horní části stránky si vyberete režim, který nastavuje rozumné modely napříč všemi schopnostmi:
| Režim | Co dělá | Nejlepší pro |
|---|---|---|
| Suverénní | 100% EU modely hostované ve Francii (Mistral, Qwen, Llama). Vaše data nikdy neopouštějí Evropu. | Použití citlivé na GDPR, suverénnost dat |
| OpenAI | GPT modely napříč každou schopností. | Maximální schopnost, pokud vám nevadí zpracování v USA |
| Vlastní | Míchejte modely od jakéhokoli poskytovatele, schopnost po schopnosti — a přiveďte svůj vlastní API klíč (BYOK). | Plná kontrola, optimalizace nákladů |
Můžete vždy jemně doladit jednotlivé schopnosti pod kartami režimů.
Přizpůsobte každou schopnost
V režimu Vlastní má každá schopnost svůj vlastní výběr:
- Chat (LLM) — generuje odpovědi, které čtou vaši zákazníci.
- Znalostní báze — převádí vaše dokumenty na vyhledávatelnou znalost (embeddingy).
- Převod řeči na text — přepisuje hlasové zprávy.
- Převod textu na řeč — dává vašemu asistentovi hlas.
- Vize — rozumí obrázkům, které zákazníci posílají.
Každá zobrazuje název modelu, jeho poskytovatele, odznak EU pro suverénní modely a náklady na kredit. Vyberte ten, který vyhovuje vašim potřebám — míchejte suverénní a proprietární modely volně.
Přiveďte svůj vlastní klíč (BYOK)
BYOK vám umožňuje provozovat schopnost prostřednictvím vašeho vlastního klíče poskytovatele AI namísto hostovaných modelů AI SmartTalk. Volání směrovaná prostřednictvím vašeho klíče jsou účtována přímo vaš ím poskytovatelem — nevyužívají žádné kredity AI SmartTalk.
Podporovaní poskytovatelé
- OpenAI — GPT-4o, GPT-4o mini a další
- Anthropic — Claude
- Mistral
- Scaleway Generative APIs
- Ollama — vaše vlastní samohostované modely
- Jakýkoli OpenAI-kompatibilní koncový bod — vLLM, OpenRouter, Together.ai, Groq, Fireworks…
Převod řeči na text a převod textu na řeč jsou aktuálně dostupné s OpenAI (nebo jakýmkoli OpenAI-kompatibilním koncovým bodem). Embeddingy a vize jsou podporovány OpenAI, Mistral a Scaleway.
Připojte svůj klíč
- Otevřete stránku AI Model a vyberte režim Vlastní.
- U schopnosti, kterou chcete (např. Chat), klikněte na "Použít svůj vlastní API klíč".
- Vyberte svého poskytovatele, vložte svůj API klíč a vyberte model — doporučené modely jsou navrženy, nebo zadejte přesné ID modelu.
- Uložte. AI SmartTalk ověří připojení, poté směruje tuto schopnost prostřednictvím vašeho klíče. Schopnost zobrazuje odznak VÁŠ KLÍČ.
Toto můžete udělat pro jednu schopnost nebo pro všechny, a míchat s modely platformy pro zbytek.
Spravujte své klíče
- Vaše klíče jsou uloženy na úrovni organizace a sdíleny napříč každým chatbotem ve vaší organizaci — zadejte klíč jednou, znovu jej použijte kdekoli.
- Klikněte na "Spravovat klíče", abyste přidali klíč, zaregistrovali více modelů pod ním, přejmenovali nebo jej smazali.
- Použijte Otestovat připojení, abyste potvrdili, že klíč funguje — žádné tokeny nejsou spotřebovány.
- Chcete-li přestat používat svůj klíč pro schopnost, odstraňte jej (× vedle modelu) — tato schopnost se automaticky vrátí k modelu platformy.
Co se stane s účtováním
Schopnosti směrované prostřednictvím vašeho klíče se objevují ve vaší analytice použití označené BYOK s 0 kredity. Schopnosti stále na modelech platformy jsou účtovány normálně — BYOK je na každou schopnost, takže použití vašeho vlastního chat modelu neznamená, že vaše embeddingy nebo vize jsou zdarma.
Přepnutí zpět na přednastavené
Výběr režimu Suverénní nebo OpenAI nejprve vymaže jakékoli aktivní směrování BYOK, takže slib přednastavení platí (např. Suverénní zůstává 100% EU). Vaše uložené klíče jsou uchovány — pouze již nesměrují provoz, dokud je znovu neaktivujete v režimu Vlastní.
Suverénnost dat
Režim suverénní (a jakýkoli suverénní model vybraný v režimu Vlastní) udržuje zpracování uvnitř EU, na infrastruktuře ve Francii — žádné přenosy dat do USA. BYOK je opt-in pro každou schopnost, takže máte plnou kontrolu nad tím, kam každého typu volání směřuje. Podívejte se na Compliance & Hosting pro podrobnosti.
Související
- Přehled konfigurace — mapa každého povrchu přizpůsobení
- Znalostní báze — dokumenty a zdroje, ze kterých váš asistent čerpá
- AI Schopnosti — jak funguje vícestupňový AI pipeline