AI Model & BYOK
AI Model puslapis yra vieta, kurioje nusprendžiate, kuris AI varo jūsų asistentą — kiekvienai galimybei, o ne tik pokalbiui. Atidarykite jį iš savo asistento admin → kairėje meniu → AI Model.
AI SmartTalk pasirenka protingus numatytuosius nustatymus įvedimo metu, todėl dauguma asistentų veikia puikiai, niekada neatidarius šio puslapio. Ateikite čia, kai norite ES duomenų suvereniteto, konkretaus modelio arba prijungti savo paslaugų teikėjo raktą.
Pasirinkite režimą
Puslapio viršuje pasirinkite režimą, kuris nustato protingus modelius visose srityse:
| Režimas | Ką jis daro | Geriausiai tinka |
|---|---|---|
| Suvereni | 100% ES modeliai, talpinami Prancūzijoje (Mistral, Qwen, Llama). Jūsų duomenys niekada neišeina iš Europos. | GDPR jautriam naudojimui, duomenų suverenitetui |
| OpenAI | GPT modeliai visoms galimybėms. | Maksimaliai galimybei, jei jums tinka JAV apdorojimas |
| Custom | Sumaišykite modelius iš bet kurio paslaugų teikėjo, galimybė po galimybės — ir atneškite savo API raktą (BYOK). | Pilnas kontrolės, kaštų optimizavimas |
Visada galite patobulinti individualias galimybes po režimų kortelėmis.
Pridėkite individualias galimybes
Custom režime kiekviena galimybė turi savo pasirinkimo mygtuką:
- Chat (LLM) — generuoja atsakymus, kuriuos skaito jūsų klientai.
- Knowledge Base — paverčia jūsų dokumentus paieškos žiniomis (embedding).
- Speech-to-Text — transkribuoja balso žinutes.
- Text-to-Speech — suteikia jūsų asistentui balsą.
- Vision — supranta nuotraukas, kurias siunčia klientai.
Kiekvienas rodo modelio pavadinimą, jo teikėją, ES ženklelį suvereniems modeliams ir kredito kainą. Pasirinkite tą, kuris atitinka jūsų poreikius — laisvai maišykite suverenius ir komercinius modelius.
Atneškite savo raktą (BYOK)
BYOK leidžia jums vykdyti galimybę per savo AI paslaugų teikėjo raktą vietoj AI SmartTalk talpinamų modelių. Skambučiai, nukreipti per jūsų raktą, yra apmokestinami tiesiogiai jūsų teikėjo — jie sunaudoja nulinį AI SmartTalk kreditą.
Palaikomi teikėjai
- OpenAI — GPT-4o, GPT-4o mini ir daugiau
- Anthropic — Claude
- Mistral
- Scaleway Generatyvios API
- Ollama — jūsų patys talpinami modeliai
- Bet kuris OpenAI suderinamas galas — vLLM, OpenRouter, Together.ai, Groq, Fireworks…
Speech-to-Text ir Text-to-Speech šiuo metu yra prieinami su OpenAI (arba bet kuriuo OpenAI suderinamu galu). Embedding ir vizija yra palaikomi OpenAI, Mistral ir Scaleway.
Prijunkite savo raktą
- Atidarykite AI Model puslapį ir pasirinkite Custom režimą.
- Pasirinkite norimą galimybę (pvz., Chat), spustelėkite "Naudoti savo API raktą".
- Pasirinkite savo teikėją, įklijuokite savo API raktą ir pasirinkite modelį — rekomenduojami modeliai bus pasiūlyti, arba įveskite tikslią modelio ID.
- Išsaugokite. AI SmartTalk patikrina ryšį, tada nukreipia tą galimybę per jūsų raktą. Galimybė rodo JŪSŲ RAKTAS ženklelį.
Tai galite padaryti vienai galimybei arba visoms, ir laisvai maišyti su platformos modeliais likusioms.
Tvarkykite savo raktus
- Jūsų raktai yra išsaugoti organizacijos lygyje ir bendrinami per kiekvieną chatbot jūsų organizacijoje — įveskite raktą vieną kartą, naudokite jį visur.
- Spustelėkite "Tvarkyti raktus", kad pridėtumėte raktą, užregistruotumėte daugiau modelių po juo, pervadintumėte arba ištrintumėte.
- Naudokite Testuoti ryšį, kad patvirtintumėte, jog raktas veikia — jokie tokenai nesunaudojami.
- Norėdami nustoti naudoti savo raktą galimybei, pašalinkite jį (žymėjimas × šalia modelio) — ta galimybė automatiškai grįžta prie platformos modelio.
Kas atsitinka su apmokėjimu
Galimybės, nukreiptos per jūsų raktą, pasirodo jūsų naudojimo analizėje pažymėtos BYOK su 0 kreditais. Galimybės, vis dar naudojančios platformos modelius, yra apmokestinamos įprastai — BYOK yra pagal galimybę, todėl naudojant savo pokalbių modelį, jūsų embedding ar vizija ne tampa nemokama.
Grįžimas prie numatytojo
Pasirinkus Suvereni arba OpenAI režimą, pirmiausia išvalomi visi aktyvūs BYOK nukreipimai, kad numatytojo pažadas išliktų (pvz., Suvereni lieka 100% ES). Išsaugoti raktai yra išlaikomi — jie tiesiog nebevykdo srauto, kol vėl neįgalinsite jų Custom režime.
Duomenų suverenitetas
Suvereni režimas (ir bet kuris suvereni modelis, pasirinktas Custom režime) palaiko apdorojimą ES, Prancūzijos infrastruktūroje — jokie JAV duomenų perdavimai. BYOK yra pasirinktinai pagal galimybę, todėl jūs išliksite visiškai kontroliuojantys, kur kiekvieno tipo skambutis eina. Daugiau informacijos rasite Compliance & Hosting.
Susiję
- Konfigūracijos apžvalga — kiekvieno pritaikymo paviršiaus žemėlapis
- Knowledge Base — dokumentai ir šaltiniai, iš kurių jūsų asistentas gauna informaciją
- AI Capabilities — kaip veikia daugiasluoksnė AI pipeline