AI Model & BYOK
AI Model lapa ir vieta, kur jūs izlemjat, kurš AI nodrošina jūsu asistentu — katrai spējai, ne tikai tērzēšanai. Atveriet to no sava asistenta admin → kreisajā izvēlnē → AI Model.
AI SmartTalk izvēlas saprātīgus noklusējumus uzsākšanas laikā, tāpēc lielākā daļa asistentu darbojas lieliski, pat nekad neatverot šo lapu. Nāciet šeit, kad vēlaties ES datu suverenitāti, konkrētu modeli vai pievienot savu pakalpojumu sniedzēja atslēgu.
Izvēlieties režīmu
Lapā augšpusē jūs izvēlaties režīmu, kas nosaka saprātīgus modeļus visās jomās:
| Režīms | Ko tas dara | Labāk piemērots |
|---|---|---|
| Suverēns | 100% ES modeļi, kas tiek mitināti Francijā (Mistral, Qwen, Llama). Jūsu dati nekad nepamet Eiropu. | GDPR jutīga lietošana, datu suverenitāte |
| OpenAI | GPT modeļi visās spējās. | Maksimāla spēja, ja jums nav iebildumu pret ASV apstrādi |
| Pielāgots | Apvienojiet modeļus no jebkura pakalpojumu sniedzēja, spēja pēc spējas — un pievienojiet savu API atslēgu (BYOK). | Pilnīga kontrole, izmaksu optimizācija |
Jūs vienmēr varat precizēt individuālās spējas zem režīmu kartēm.
Pielāgojiet katru spēju
Pielāgotajā režīmā katrai spējai ir savs selektors:
- Tērzēšana (LLM) — ģenerē atbildes, ko lasa jūsu klienti.
- Zināšanu bāze — pārvērš jūsu dokumentus meklējamos zināšanās (iemesli).
- Runas uz tekstu — transkribē balss ziņojumus.
- Teksts uz runu — piešķir jūsu asistentam balsi.
- Vīzija — saprot attēlus, ko sūta klienti.
Katrs rāda modeļa nosaukumu, tā pakalpojumu sniedzēju, ES uzlīmi suverēniem modeļiem un kredītu izmaksas. Izvēlieties to, kas atbilst jūsu vajadzībām — brīvi apvienojiet suverēnus un privātus modeļus.
Pievienojiet savu atslēgu (BYOK)
BYOK ļauj jums izmantot spēju caur jūsu paša AI pakalpojumu sniedzēja atslēgu tā vietā, lai izmantotu AI SmartTalk mitinātos modeļus. Zvani, kas tiek novirzīti caur jūsu atslēgu, tiek norakstīti tieši no jūsu pakalpojumu sniedzēja — tie nepatērē nevienu AI SmartTalk kredītu.
Atbalstītie pakalpojumu sniedzēji
- OpenAI — GPT-4o, GPT-4o mini un citi
- Anthropic — Claude
- Mistral
- Scaleway Generatīvie API
- Ollama — jūsu paša pašmitinātie modeļi
- Jebkurš OpenAI saderīgs galapunkts — vLLM, OpenRouter, Together.ai, Groq, Fireworks…
Runas uz tekstu un teksts uz runu pašlaik ir pieejami ar OpenAI (vai jebkuru OpenAI saderīgu galapunktu). Iemesli un vīzija tiek atbalstīti ar OpenAI, Mistral un Scaleway.
Savienojiet savu atslēgu
- Atveriet AI Model lapu un izvēlieties Pielāgots režīmu.
- Uz spējas, kuru vēlaties (piemēram, Tērzēšana), noklikšķiniet uz "Izmantot savu API atslēgu".
- Izvēlieties savu pakalpojumu sniedzēju, ielīmējiet savu API atslēgu un izvēlieties modeli — tiek ieteikti ieteicamie modeļi vai ievadiet precīzu modeļa ID.
- Saglabājiet. AI SmartTalk pārbauda savienojumu, p ēc tam novirza šo spēju caur jūsu atslēgu. Spēja rāda JŪSU ATSLĒGA uzlīmi.
Jūs varat to izdarīt vienai spējai vai visām, un apvienot ar platformas modeļiem pārējām.
Pārvaldiet savas atslēgas
- Jūsu atslēgas tiek saglabātas organizācijas līmenī un tiek koplietotas visiem čatbotiem jūsu organizācijā — ievadiet atslēgu vienreiz, izmantojiet to visur.
- Noklikšķiniet uz "Pārvaldīt atslēgas", lai pievienotu atslēgu, reģistrētu vairāk modeļu zem tās, pārdēvētu vai dzēstu to.
- Izmantojiet Pārbaudīt savienojumu, lai apstiprinātu, ka atslēga darbojas — nav patērēti nekādi žetoni.
- Lai pārtrauktu jūsu atslēgas izmantošanu kādai spējai, noņemiet to ( × blakus modelim) — tā spēja automātiski atgriežas pie platformas modeļa.
Kas notiek ar norēķiniem
Spējas, kas novirzītas caur jūsu atslēgu, parādās jūsu lietošanas analīzē ar atzīmi BYOK un 0 kredītiem. Spējas, kas joprojām izmanto platformas modeļus, tiek norēķinātas parasti — BYOK ir katrai spējai, tāpēc jūsu paša tērzēšanas modeļa izmantošana nepadara jūsu iemeslus vai vīziju bezmaksas.
Atgriešanās pie iepriekš iestatīta
Izvēloties Suverēnu vai OpenAI režīmu, vispirms tiek notīrīta jebkura aktīva BYOK novirzīšana, tāpēc iepriekš iestatījuma solījums tiek ievērots (piemēram, Suverēns paliek 100% ES). Jūsu saglabātās atslēgas tiek saglabātas — tās vienkārši vairs nenovirza satiksmi, līdz jūs tās atkārtoti aktivizējat Pielāgotajā režīmā.
Datu suverenitāte
Suverēns režīms (un jebkurš suverēns modelis, kas izvēlēts Pielāgotajā režīmā) saglabā apstrādi ES, uz infrastruktūras Francijā — nav ASV datu pārsūtīšanas. BYOK ir opt-in katrai spējai, tāpēc jūs pilnībā kontrolējat, kur katra zvana veids tiek novirzīts. Skatiet Atbilstība un mitināšana sīkākai informācijai.
Saistītie
- Konfigurācijas pārskats — katras pielāgošanas virsmas karte
- Zināšanu bāze — dokumenti un avoti, no kuriem jūsu asistents gūst informāciju
- AI Spējas — kā darbojas daudzslāņu AI cauruļvads