BYOK ir klāt — Pievienojiet savu API atslēgu AI SmartTalk
Jūs jautājāt, mēs piegādājām. Viens no visvairāk pieprasītajiem funkcionalitātes uzlabojumiem no mūsu kopienas ir klāt: Pievienojiet savu atslēgu (BYOK). Tagad jūs varat savienot savu AI pakalpojumu sniedzēja atslēgu ar AI SmartTalk un novirzīt jebkuru iespēju caur to — norēķini tieši ar jūsu pakalpojumu sniedzēju, ar nulles AI SmartTalk kredītiem šajos zvanu gadījumos.
Steidzaties? Pilna iestatīšanas rokasgrāmata atrodama AI modeļa un BYOK ceļvedī — pakalpojumu sniedzēji, iespēju novirzīšana, atslēgu pārvaldība un norēķini.
Ko dara BYOK
Līdz šim katrs AI zvans tika veikts, izmantojot modeļus, kurus mēs hostējam, un tika norēķināts AI SmartTalk kredītos. Tas joprojām ir visvienkāršākais ceļš — saprātīgi noklusējumi, suverēni ES modeļi, nekas nav jākonfigurē. Bet, ja jums jau ir pakalpojumu sniedzēja kredīti, sarunātas apjoma cenas vai pašizvietots modelis, jūs vēlējāties tos izmantot. Tagad jūs varat.
BYOK ļauj jums savienot savu atslēgu un izlemt, pēc iespējas, vai zvans tiek veikts uz mūsu platformas modeļiem vai uz jūsu gala punkta:
- Čats (LLM)
- Iegulšanas (zināšanu bāzes meklēšana)
- Runas uz tekstu
- Teksts uz runu
- Vīzija (attēlu izpratne)
Katrs no tiem ir neatkarīgs. Saglabājiet mūsu suverēnos ES modeļus tam, kas jums ir svarīgs, un pievienojiet savu atslēgu pārējiem.
Kuri pakalpojumu sniedzēji ir atbalstīti
Pievienojiet atslēgu no jebkura no šiem — vai norādiet uz savu gala punktu:
- OpenAI — GPT-4o, GPT-4o mini un citi
- Anthropic — Claude
- Mistral
- Scaleway ģeneratīvie API
- Ollama — jūsu pašu pašizvietotie modeļi
- Jebkurš OpenAI saderīgs gala punkts — vLLM, OpenRouter, Together.ai, Groq, Fireworks un citi
Kāpēc tas ir svarīgi
- Pilna izmaksu kontrole — jūsu atslēga, jūsu rēķins. Zvani, kas novirzīti caur jūsu pakalpojumu sniedzēju, neietekmē jūsu AI SmartTalk kredītus.
- Nav piesaistes — brīvi kombinējiet. Izmantojiet suverēnu ES modeli čatam un savu atslēgu vīzijai, vai jebkuru kombināciju, kas jums patīk.
- Iestatiet vienreiz, izmantojiet visur — atslēgas tiek saglabātas organizācijas līmenī un tiek koplietotas visiem čatbotiem, ko jūs vadāt. Aktīvā modeļa maiņa kādai iespējai prasa vienu klikšķi.
- Vēl joprojām GDPR draudzīgs — saglabājiet savus datus uz ES hostētiem suverēniem modeļiem, kur vien nepieciešams; BYOK ir opt-in, pēc iespējas.
Kā to iestatīt
- Atveriet jebkuru asistentu admin un dodieties uz AI modeļa lapu.
- Izvēlieties Pielāgots režīmu.
- Jebkurai iespējai (čats, iegulšanas, balss, vīzija) noklikšķiniet uz "Izmantot savu API atslēgu", izvēlieties savu pakalpojumu sniedzēju, ielīmējiet savu atslēgu un izvēlieties modeli.
- Pārvaldiet visas savas saglabātās atslēgas jebkurā laikā no "Pārvaldīt atslēgas" — tās tiek koplietotas visā jūsu organizācijā.
Tas ir viss. No šī brīža iespējas, kuras jūs novirzījāt caur savu atslēgu, tiek norēķinātas ar jūsu pakalpojumu sniedzēju, un jūs redzēsiet tās atzīmētas kā BYOK ar 0 kredītiem jūsu lietošanas analītikā.
Pilna rokasgrāmata: AI modeļa un BYOK ceļvedis →
Turpiniet sūtīt pieprasījumus
BYOK tika izstrādāts, jo jūs to lūdzāt. Ja ir kaut kas, kas jums nepieciešams nākamais, pastāstiet mums — ceļa karte tiek veidota kopā ar mūsu kopienu.
→ Iestatiet to tagad ar AI modeļa un BYOK ceļvedi. Plašākai informācijai skatiet AI iespējas.