AI Model & BYOK
Stranica AI Model je mjesto gdje odlučujete koji AI pokreće vašeg asistenta — za svaku sposobnost, ne samo za chat. Otvorite je iz vašeg asistenta u admin → lijevi izbornik → AI Model.
AI SmartTalk odabire razumna zadanih postavki tijekom uvođenja, tako da većina asistenata radi odlično bez otvaranja ove stranice. Dođite ovdje kada želite EU suverenitet podataka, određeni model ili kada želite unijeti ključ svog vlastitog pružatelja.
Odaberite način
Na vrhu stranice odabirete način koji postavlja razumna rješenja u cijelom sustavu:
| Način | Što radi | Najbolje za |
|---|---|---|
| Suvereni | 100% EU modeli hostani u Francuskoj (Mistral, Qwen, Llama). Vaši podaci nikada ne napuštaju Europu. | Korištenje osjetljivo na GDPR, suverenitet podataka |
| OpenAI | GPT modeli za svaku sposobnost. | Maksimalna sposobnost, u redu vam je s obradom u SAD-u |
| Prilagođeni | Miješajte modele bilo kojeg pružatelja, sposobnost po sposobnost — i unesite svoj vlastiti API ključ (BYOK). | Potpuna kontrola, optimizacija troškova |
Uvijek mo žete fino prilagoditi pojedinačne sposobnosti ispod kartica načina.
Prilagodite svaku sposobnost
U Prilagođenom načinu, svaka sposobnost ima svoj vlastiti odabir:
- Chat (LLM) — generira odgovore koje vaši kupci čitaju.
- Baza znanja — pretvara vaše dokumente u pretraživu bazu znanja (ugrađivanje).
- Govoru u tekst — transkribira glasovne poruke.
- Tekst u govor — daje vašem asistentu glas.
- Vizija — razumije slike koje kupci šalju.
Svaka prikazuje naziv modela, njegovog pružatelja, oznaku EU za suverene modele i trošak kredita. Odaberite onaj koji odgovara vašim potrebama — slobodno miješajte suverene i vlasničke modele.
Donosite svoj vlastiti ključ (BYOK)
BYOK vam omogućuje da pokrenete sposobnost putem vašeg vlastitog AI pružatelja ključa umjesto AI SmartTalk-ovih hostanih modela. Pozivi usmjereni putem vašeg ključa su naplaćeni izravno od vašeg pružatelja — ne troše nikakve AI SmartTalk kredite.
Podržani pružatelji
- OpenAI — GPT-4o, GPT-4o mini i više
- Anthropic — Claude
- Mistral
- Scaleway Generative APIs
- Ollama — vaši vlastiti samostalno hostani modeli
- Bilo koji OpenAI-kompatibilni endpoint — vLLM, OpenRouter, Together.ai, Groq, Fireworks…
Govor u tekst i tekst u govor trenutno su dostupni s OpenAI (ili bilo kojim OpenAI-kompatibilnim endpointom). Ugrađivanje i vizija podržani su od strane OpenAI, Mistral i Scaleway.
Povežite svoj ključ
- Otvorite stranicu AI Model i odaberite Prilagođeni način.
- Na sposobnosti koju želite (npr. Chat), kliknite "Koristi svoj vlastiti API ključ".
- Odaberite svog pružatelja, zalijepite svoj API ključ i odaberite model — preporučeni modeli su predloženi, ili unesite točan ID modela.
- Spremite. AI SmartTalk provjerava vezu, a zatim usmjerava tu sposobnost putem vašeg ključa. Sposobnost prikazuje oznaku VAŠ KLJUČ.
Možete to učiniti za jednu sposobnost ili sve njih, i miješati s platformskim modelima za ostale.
Upravljanje vašim ključevima
- Vaši ključevi se spremaju na razini organizacije i dijele se među svim chatbotovima u vašoj organizaciji — unesite ključ jednom, ponovo ga koristite svugdje.
- Kliknite "Upravljanje ključevima" za dodavanje ključa, registraciju više modela pod njim, preimenovanje ili brisanje.
- Koristite Testiraj vezu za potvrdu da ključ radi — ne troše se tokeni.
- Da biste prestali koristiti svoj ključ za sposobnost, uklonite ga (oznaka × pored modela) — ta sposobnost se automatski vraća na platformski model.
Što se događa s naplatom
Sposobnosti usmjerene putem vašeg ključa pojavljuju se u vašoj analitici korištenja označene kao BYOK s 0 kredita. Sposobnosti koje su još na platformskim modelima naplaćuju se normalno — BYOK je po sposobnosti, tako da korištenje vašeg vlastitog chat modela ne čini vaše ugrađivanje ili viziju besplatnima.
Prebacivanje natrag na unaprijed postavljeni
Odabir Suvereni ili OpenAI načina prvo briše bilo kakvo aktivno BYOK usmjeravanje, tako da obećanje unaprijed postavljenog ostaje (npr. Suvereni ostaje 100% EU). Vaši spremljeni ključevi se čuvaju — samo više ne usmjeravaju promet dok ih ponovo ne omogućite u Prilagođenom načinu.
Suverenitet podataka
Suvereni način (i bilo koji suvereni model odabran u Prilagođenom načinu) zadržava obradu unutar EU, na infrastrukturi u Francuskoj — bez prijenosa podataka u SAD. BYOK je opcijski po sposobnosti, tako da ostajete u punoj kontroli nad tim kamo svaki tip poziva ide. Pogledajte Usklađenost & Hosting za detalje.
Povezano
- Pregled konfiguracije — mapa svake površine prilagodbe
- Baza znanja — dokumenti i izvori iz kojih vaš asistent crpi
- AI Sposobnosti — kako funkcionira višeslojni AI pipeline