AI Model & BYOK
Stránka AI Model je miesto, kde sa rozhodnete, ktorý AI poháňa vášho asistenta — pre každú schopnosť, nielen pre chat. Otvorte ju zo svojho asistenta v admin → ľavé menu → AI Model.
AI SmartTalk vyberá rozumné predvolené nastavenia počas onboardingu, takže väčšina asistentov funguje skvele bez toho, aby ste túto stránku niekedy otvorili. Príďte sem, keď chcete suverenitu údajov EÚ, konkrétny model alebo pripojiť svoj vlastný kľúč poskytovateľa.
Vyberte režim
Na vrchu stránky vyberiete režim, ktorý nastaví rozumné modely vo všetkých oblastiach:
| Režim | Čo robí | Najlepšie pre |
|---|---|---|
| Suverénny | 100% modely EÚ hostené vo Francúzsku (Mistral, Qwen, Llama). Vaše údaje nikdy neopustia Európu. | Použitie citlivé na GDPR, suverenita údajov |
| OpenAI | GPT modely pre každú schopnosť. | Maximálna schopnosť, ak vám nevadí spracovanie v USA |
| Vlastný | Mixujte modely od akéhokoľvek poskytovateľa, schopnosť po schopnosti — a pripojte svoj vlastný API kľúč (BYOK). | Plná kontrola, optimalizácia nákladov |
Vždy môžete jemne doladiť jednotlivé schopnosti pod kartami režimu.
Prispôsobte každú schopnosť
V režime Vlastný má každá schopnosť svoj vlastný výber:
- Chat (LLM) — generuje odpovede, ktoré čítajú vaši zákazníci.
- Znalostná báza — premieňa vaše dokumenty na vyhľadávateľné znalosti (embeddingy).
- Reč na text — transkribuje hlasové správy.
- Text na reč — dáva vášmu asistentovi hlas.
- Vízia — rozumie obrázkom, ktoré posielajú zákazníci.
Každá zobrazuje názov modelu, jeho poskytovateľa, EU odznak pre suverénne modely a náklady na kredit. Vyberte ten, ktorý vyhovuje vašim potrebám — mixujte suverénne a proprietárne voľne.
Prines si svoj vlastný kľúč (BYOK)
BYOK vám umožňuje spustiť schopnosť cez váš vlastný kľúč poskytovateľa AI namiesto modelov hostených AI SmartTalk. Hovory smerované cez váš kľúč sú účtované priamo vaším poskytovateľom — nevyžadujú žiadne kredity AI SmartTalk.
Podporovaní poskytovatelia
- OpenAI — GPT-4o, GPT-4o mini a ďalšie
- Anthropic — Claude
- Mistral
- Scaleway Generative APIs
- Ollama — vaše vlastné samohostené modely
- Akýkoľvek OpenAI-kompatibilný koncový bod — vLLM, OpenRouter, Together.ai, Groq, Fireworks…
Reč na text a text na reč sú momentálne dostupné s OpenAI (alebo akýmkoľvek OpenAI-kompatibilným koncovým bodom). Embeddingy a vízia sú podporované OpenAI, Mistral a Scaleway.
Pripojte svoj kľúč
- Otvorte stránku AI Model a vyberte režim Vlastný.
- Na schopnosti, ktorú chcete (napr. Chat), kliknite na "Použiť svoj vlastný API kľúč".
- Vyberte svojho poskytovateľa, vložte svoj API kľúč a vyberte model — odporúčané modely sú navrhnuté, alebo zadajte presný identifikátor modelu.
- Uložte. AI SmartTalk overí pripojenie a potom smeruje túto schopnosť cez váš kľúč. Schopnosť zobrazuje odznak VÁŠ KĽÚČ.
Toto môžete urobiť pre jednu schopnosť alebo pre všetky, a mixovať s modelmi platformy pre zvyšok.
Spravujte svoje kľúče
- Vaše kľúče sú uložené na úrovni organizácie a zdieľané medzi každým chatbotom vo vašej organizácii — zadajte kľúč raz, použite ho všade.
- Kliknite na "Spravovať kľúče", aby ste pridali kľúč, zaregistrovali ďalšie modely pod ním, premenovali alebo odstránili.
- Použite Testovať pripojenie, aby ste potvrdili, že kľúč funguje — žiadne tokeny nie sú spotrebované.
- Ak chcete prestať používať svoj kľúč pre schopnosť, odstráňte ho (symbol × vedľa modelu) — táto schopnosť sa automaticky vráti k modelu platformy.
Čo sa stane s fakturáciou
Schopnosti smerované cez váš kľúč sa objavia vo vašej analytike používania označené ako BYOK s 0 kreditmi. Schopnosti, ktoré sú stále na modeloch platformy, sú účtované normálne — BYOK je na schopnosť, takže používanie vášho vlastného chat modelu neznamená, že vaše embeddingy alebo vízia sú zadarmo.
Prechod späť na prednastavené
Výber režimu Suverénny alebo OpenAI najprv vymaže akékoľvek aktívne smerovanie BYOK, takže sľub prednastavenia platí (napr. Suverénny zostáva 100% EÚ). Vaše uložené kľúče sú uchované — len už nesmerujú prevádzku, kým ich znova neaktivujete v režime Vlastný.
Suverenita údajov
Suverénny režim (a akýkoľvek suverénny model vybraný v režime Vlastný) udržuje spracovanie v rámci EÚ, na infraštruktúre vo Francúzsku — žiadne prenosy údajov do USA. BYOK je voliteľný pre každú schopnosť, takže zostávate plne pod kontrolou, kam každá typ hovoru smeruje. Pozrite sa na Compliance & Hosting pre podrobnosti.
Súvisiace
- Prehľad konfigurácie — mapa každého prispôsobenia
- Znalostná báza — dokumenty a zdroje, z ktorých váš asistent čerpá
- AI schopnosti — ako funguje viacvrstvový AI pipeline