AI Model & BYOK
Stran AI Model je kraj, kjer se odločite, kateri AI poganja vašega asistenta — za vsako zmožnost, ne le za klepet. Odprite jo iz vašega asistenta v admin → levi meni → AI Model.
AI SmartTalk izbere smiselne privzete nastavitve med uvajanjem, tako da večina asistentov deluje odlično, ne da bi kdaj odprli to stran. Pridite sem, ko želite suverenost podatkov EU, določen model ali vstaviti svoj ključ ponudnika.
Izberite način
Na vrhu strani izberete način, ki nastavi smiselne modele na splošno:
| Način | Kaj počne | Najboljši za |
|---|---|---|
| Suveren | 100% modeli EU, gostovani v Franciji (Mistral, Qwen, Llama). Vaši podatki nikoli ne zapustijo Evrope. | Uporaba, občutljiva na GDPR, suverenost podatkov |
| OpenAI | GPT modeli za vsako zmožnost. | Maksimalna zmožnost, če vam ustreza obdelava v ZDA |
| Prilagojeno | Mešajte modele katerega koli ponudnika, zmožnost po zmožnosti — in prinesite svoj API ključ (BYOK). | Poln nadzor, optimizacija stroškov |
Vedno lahko natančno prilagodite posamezne zmožnosti pod karticami načinov.
Prilagodite vsako zmožnost
V načinu Prilagojeno ima vsaka zmožnost svoj selektor:
- Klepet (LLM) — generira odgovore, ki jih berejo vaši kupci.
- Baza znanja — spremeni vaše dokumente v iskalno znanje (vdelave).
- Govori v besedilo — transkribira glasovna sporočila.
- Besedilo v govor — vašemu asistentu daje glas.
- Vizija — razume slike, ki jih pošiljajo kupci.
Vsaka prikazuje ime modela, njegovega ponudnika, oznako EU za suverene modele in strošek kreditov. Izberite tistega, ki ustreza vašim potrebam — prosto mešajte suverene in lastniške modele.
Prinesite svoj ključ (BYOK)
BYOK vam omogoča, da izvajate zmožnost preko vašega lastnega ključa AI ponudnika namesto modelov, gostovanih pri AI SmartTalk. Klici, usmerjeni preko vašega ključa, so zaračunani neposredno vašemu ponudniku — ne porabijo nobenih kreditov AI SmartTalk.
Podprti ponudniki
- OpenAI — GPT-4o, GPT-4o mini in več
- Anthropic — Claude
- Mistral
- Scaleway Generative APIs
- Ollama — vaši lastni samostojno gostovani modeli
- Katerikoli OpenAI-compatibilen končni točki — vLLM, OpenRouter, Together.ai, Groq, Fireworks…
Govori v besedilo in besedilo v govor sta trenutno na voljo z OpenAI (ali katerimkoli OpenAI-compatibilnim končnim točkom). Vdelave in vizija sta podprti z OpenAI, Mistral in Scaleway.
Povežite svoj ključ
- Odprite stran AI Model in izberite način Prilagojeno.
- Na zmožnosti, ki jo želite (npr. Klepet), kliknite "Uporabite svoj API ključ".
- Izberite svojega ponudnika, prilepite svoj API ključ in izberite model — priporočeni modeli so predlagani, ali vnesite natančno identifikacijsko številko modela.
- Shrani. AI SmartTalk preveri povezavo, nato usmeri to zmožnost preko vašega ključa. Zmožnost prikazuje oznako VAŠ KLJUČ.
To lahko storite za eno zmožnost ali vse njih, in mešate z modeli platforme za preostale.
Upravljanje vaših klju čev
- Vaši ključi so shranjeni na organizacijski ravni in deljeni med vsakim chatbotom v vaši organizaciji — vnesite ključ enkrat, ponovno ga uporabite povsod.
- Kliknite "Upravljanje ključev", da dodate ključ, registrirate več modelov pod njim, preimenujete ali izbrišete.
- Uporabite Preizkus povezave, da potrdite, da ključ deluje — nobeni žetoni niso porabljeni.
- Da prenehate uporabljati svoj ključ za zmožnost, ga odstranite (oznaka × poleg modela) — ta zmožnost se samodejno vrne na model platforme.
Kaj se zgodi z obračunavanjem
Zmožnosti, usmerjene preko vašega ključa, se pojavijo v vaši analitiki uporabe označene kot BYOK z 0 krediti. Zmožnosti, ki so še na modelih platforme, se obračunavajo normalno — BYOK je na zmožnost, zato uporaba vašega lastnega modela za klepet ne pomeni, da so vaše vdelave ali vizija brezplačne.
Preklapljanje nazaj na prednastavljeno
Izbira načina Suveren ali OpenAI najprej izbriše vse aktivne usmeritve BYOK, tako da obljuba prednastavitve ostane (npr. Suveren ostane 100% EU). Vaši shranjeni ključi so ohranjeni — le da ne usmerjajo prometa, dokler jih ne omogočite ponovno v načinu Prilagojeno.
Suverenost podatkov
Suveren način (in kateri koli suveren model izbran v načinu Prilagojeno) ohranja obdelavo znotraj EU, na infrastrukturi v Franciji — brez prenosa podatkov v ZDA. BYOK je opt-in za vsako zmožnost, tako da imate popoln nadzor nad tem, kam gre vsak tip klica. Oglejte si Usklajenost & Gostovanje za podrobnosti.
Sorodno
- Pregled konfiguracije — zemljevid vsake površine za prilagajanje
- Baza znanja — dokumenti in viri, iz katerih vaš asistent črpa
- AI Zmožnosti — kako deluje večplastni AI pipeline