Model AI & BYOK
Pagina Model AI este locul unde decizi ce AI îți alimentează asistentul — pentru fiecare capacitate, nu doar pentru chat. O poți deschide din asistentul tău în admin → meniul din stânga → Model AI.
AI SmartTalk alege valori implicite sensibile în timpul onboard-ului, astfel încât majoritatea asistenților funcționează excelent fără a deschide vreodată această pagină. Vino aici când dorești suveranitate a datelor UE, un model specific sau să introduci cheia propriului furnizor.
Alege un mod
În partea de sus a paginii alegi un mod care stabilește modele sensibile pe întreaga linie:
| Mod | Ce face | Cel mai bine pentru |
|---|---|---|
| Suveran | Modele 100% UE găzduite în Franța (Mistral, Qwen, Llama). Datele tale nu părăsesc niciodată Europa. | Utilizare sensibilă la GDPR, suveranitate a datelor |
| OpenAI | Modele GPT pentru fiecare capacitate. | Capacitate maximă, ești de acord cu procesarea în SUA |
| Personalizat | Combină modele de la orice furnizor, capacitate cu capacitate — și adu-ți propria cheie API (BYOK). | Control total, optimizare a costurilor |
Poți întotdeauna să ajustezi capacitățile individuale sub cardurile de moduri.
Personalizează fiecare capacitate
În modul Personalizat, fiecare capacitate are propriul selector:
- Chat (LLM) — generează răspunsurile pe care le citesc clienții tăi.
- Bază de cunoștințe — transformă documentele tale în cunoștințe căutabile (embeddings).
- Vorbește în text — transcrie mesajele vocale.
- Text în vorbire — oferă asistentului tău o voce.
- Viziune — înțelege imaginile trimise de clienți.
Fiecare arată numele modelului, furnizorul său, un badge UE pentru modelele suverane și un cost de credit. Alege-l pe cel care se potrivește nevoilor tale — combină liber modelele suverane și cele proprietare.
Aducerea propriei chei (BYOK)
BYOK îți permite să rulezi o capacitate prin cheia proprie a furnizorului tău AI în loc de modelele găzduite de AI SmartTalk. Apelurile rute prin cheia ta sunt facturate direct de furnizorul tău — nu consumă credite AI SmartTalk.
Furnizori suportați
- OpenAI — GPT-4o, GPT-4o mini și altele
- Anthropic — Claude
- Mistral
- Scaleway Generative APIs
- Ollama — modelele tale auto-găzduite
- Orice endpoint compatibil OpenAI — vLLM, OpenRouter, Together.ai, Groq, Fireworks…
Vorbește în text și Text în vorbire sunt disponibile în prezent cu OpenAI (sau orice endpoint compatibil OpenAI). Embeddings și viziunea sunt suportate de OpenAI, Mistral și Scaleway.
Conectează-ți cheia
- Deschide pagina Model AI și selectează modul Personalizat.
- Pe capacitatea dorită (de exemplu, Chat), apasă "Folosesc propria cheie API".
- Alege-ți furnizorul, lipește cheia ta API și alege modelul — modelele recomandate sunt sugerate sau introdu un ID exact al modelului.
- Salvează. AI SmartTalk verifică conexiunea, apoi rutează acea capacitate prin cheia ta. Capacitatea arată un badge CHEIA TA.
Poți face acest lucru pentru o capacitate sau pentru toate, și combina cu modelele platformei pentru restul.
Gestionează-ți cheile
- Cheile tale sunt salvate la nivelul organizației și sunt partajate între fiecare chatbot din organizația ta — introdu o cheie o dată, reutilizeaz-o peste tot.
- Apasă "Gestionează cheile" pentru a adăuga o cheie, a înregistra mai multe modele sub ea, a redenumi sau a o șterge.
- Folosește Testează conexiunea pentru a confirma că o cheie funcționează — nu se consumă token-uri.
- Pentru a opri utilizarea cheii tale pentru o capacitate, elimin-o (× lângă model) — acea capacitate revine automat la modelul platformei.
Ce se întâmplă cu facturarea
Capacitățile rute prin cheia ta apar în analizele tale de utilizare marcate BYOK cu 0 credite. Capacitățile care sunt încă pe modelele platformei sunt facturate normal — BYOK este pe capacitate, așa că utilizarea propriului model de chat nu face nu ca embeddings sau viziunea să fie gratuite.
Revenirea la un preset
Selectarea modului Suveran sau OpenAI șterge orice rutare BYOK activă mai întâi, astfel încât promisiunea presetului să se mențină (de exemplu, Suveran rămâne 100% UE). Cheile tale salvate sunt păstrate — doar că nu mai rutează trafic până când nu le reactivi în modul Personalizat.
Suveranitatea datelor
Modul suveran (și orice model suveran ales în modul Personalizat) păstrează procesarea în interiorul UE, pe infrastructura din Franța — fără transferuri de date în SUA. BYOK este opțional pe capacitate, astfel încât să rămâi în control total asupra locului unde merge fiecare tip de apel. Vezi Conformitate & Găzduire pentru detalii.
Relaționat
- Prezentare generală a configurației — harta fiecărei suprafețe de personalizare
- Bază de cunoștințe — documentele și sursele din care se bazează asistentul tău
- Capacități AI — cum funcționează pipeline-ul AI multi-strat