AI Mudel & BYOK
AI Mudeli leht on koht, kus otsustate, milline AI toetab teie assistenti — iga võimekuse jaoks, mitte ainult vestluseks. Avage see oma assistendist admin → vasak menüü → AI Mudel.
AI SmartTalk valib onboarding'i ajal mõistlikud vaikeseaded, nii et enamik assistente töötab suurepäraselt ilma selle lehe avamiseta. Tulge siia, kui soovite EL andmete suveräänsust, konkreetset mudelit või oma teenusepakkuja võtit.
Valige režiim
Lehe ülaosas valite režiimi, mis seab mõistlikud mudelid kogu ulatuses:
| Režiim | Mida see teeb | Parim |
|---|---|---|
| Suveräänne | 100% EL mudelid, mis on majutatud Prantsusmaal (Mistral, Qwen, Llama). Teie andmed ei lahku kunagi Euroopast. | GDPR-iga tundlik kasutus, andmete suveräänsus |
| OpenAI | GPT mudelid igas võimekuses. | Maksimaalne võimekus, kui olete rahul USA töötlemisega |
| Kohandatud | Segage mudeleid igalt teenusepakkujalt, võimekuse kaupa — ja tooge oma API võti (BYOK). | Täielik kontroll, kulude optimeerimine |
Saate alati täpsustada üksikute võimekuste seadeid režiimikaartide all.
Kohandage iga võimekust
Kohandatud režiimis on igal võimekusel oma valik:
- Vestlus (LLM) — genereerib vastuseid, mida teie kliendid loevad.
- Teadmistebaas — muudab teie dokumendid otsitavaks teadmiseks (embeddings).
- Kõne-täheks — transkribeerib häälsõnumid.
- Tekst-kõneks — annab teie assistendile hääle.
- Nägemine — mõistab pilte, mida kliendid saadavad.
Igaühel on näidatud mudeli nimi, selle teenusepakkuja, EL märk suveräänsete mudelite jaoks ja krediidi hind. Valige see, mis sobib teie vajadustega — segage suveräänseid ja patenteeritud mudeleid vabalt.
Tooge oma võti (BYOK)
BYOK võimaldab teil kasutada võimekust oma AI teenusepakkuja võtme kaudu, mitte AI SmartTalk'i majutatud mudelite kaudu. Teie võtme kaudu suunatud kõned arvestatakse otse teie teenusepakkujalt — need ei tarbi ühtegi AI SmartTalk krediiti.
Toetatud teenusepakkujad
- OpenAI — GPT-4o, GPT-4o mini ja rohkem
- Anthropic — Claude
- Mistral
- Scaleway Generatiivsed API-d
- Ollama — teie enda isemajutatud mudelid
- Iga OpenAI ühilduv lõpp-punkt — vLLM, OpenRouter, Together.ai, Groq, Fireworks…
Kõne-täheks ja tekst-kõneks on praegu saadaval OpenAI (või iga OpenAI ühilduva lõpp-punkti) kaudu. Embeddings ja nägemine on toetatud OpenAI, Mistral ja Scaleway poolt.
Ühendage oma võti
- Avage AI Mudeli leht ja valige Kohandatud režiim.
- Valige soovitud võimekus (nt Vestlus), klõpsake "Kasutage oma API võtit".
- Valige oma teenusepakkuja, kleepige oma API võti ja valige mudel — soovitatud mudelid on ettepanekud või sisestage täpne mudeli ID.
- Salvestage. AI SmartTalk kontrollib ühendust ja suunab seejärel selle võimekuse teie võtme kaudu. Võimekus näitab TEIE VÕTI märki.
Saate seda teha ühe või kõigi võimekuste jaoks ning segada platvormi mudeleid ülejäänud jaoks.
Halda oma võtmeid
- Teie võtmed salvestatakse organisatsiooni tasemel ja jagatakse iga vestlusroboti vahel teie organisatsioonis — sisestage võti üks kord, kasutage seda igal pool uuesti.
- Klõpsake "Halda võtmeid", et lisada võti, registreerida rohkem mudeleid selle all, ümber nimetada või kustutada.
- Kasutage Testi ühendust, et kinnitada, et võti töötab — mingeid token'e ei tarbita.
- Kui soovite lõpetada oma võtme kasutamise võimekuse jaoks, eemaldage see (mudeli kõrval olev ×) — see võimekus naaseb automaatselt platvormi mudelile.
Mis juhtub arveldusega
Teie võtme kaudu suunatud võimekused ilmuvad teie kasutusanalüüsides märgitud BYOK ja 0 krediiti. Platvormi mudelitel olevad võimekused arveldatakse tavaliselt — BYOK on iga võimekuse kohta, seega ei tee oma vestlusmudeli kasutamine teie embeddings või nägemise tasuta.
Tagasi eelneva seadistuse juurde
Suveräänse või OpenAI režiimi valimine tühistab kõik aktiivsed BYOK suunamised esmalt, et eelneva lubadus kehtiks (nt Suveräänne jääb 100% EL). Teie salvestatud võtmed jäävad alles — need ei suuna lihtsalt liiklust, kuni te need uuesti aktiveerite Kohandatud režiimis.
Andmete suveräänsus
Suveräänne režiim (ja iga suveräänne mudel, mis on valitud Kohandatud režiimis) hoiab töötlemise EL-is, Prantsusmaal asuval infrastruktuuril — ei toimu USA andmeülekandeid. BYOK on iga võimekuse jaoks opt-in, nii et te jääte täielikult kontrolli alla, kuhu iga tüüpi kõne läheb. Lisainformatsiooni saamiseks vaadake Täitmine & Majutamine.
Seotud
- Konfiguratsiooni ülevaade — iga kohandamisala kaart
- Teadmistebaas — dokumendid ja allikad, millest teie assistent lähtub
- AI Võimekused — kuidas mitmekihiline AI torujuhe töötab