BYOK yra čia — Atneškite savo API raktą į AI SmartTalk
Jūs prašėte, mes įvykdėme. Viena iš labiausiai pageidaujamų funkcijų iš mūsų bendruomenės yra gyva: Atneškite savo raktą (BYOK). Dabar galite prijungti savo AI tiekėjo raktą prie AI SmartTalk ir nukreipti bet kurią galimybę per jį — apmokama tiesiogiai jūsų tiekėjo, su nuliniais AI SmartTalk kreditais naudojamais šiems skambučiams.
Skubate? Pilnas nustatymo vadovas yra AI Model & BYOK vadove — tiekėjai, galimybių nukreipimas, raktų valdymas ir apmokėjimas.
Ką daro BYOK
Iki šiol kiekvienas AI skambutis vyko naudojant modelius, kuriuos mes talpiname, ir buvo apmokamas AI SmartTalk kreditais. Tai vis dar yra paprasčiausias kelias — protingi numatyti nustatymai, suverenių ES modeliai, nieko nereikia konfigūruoti. Bet jei jau turite tiekėjo kreditų, sutartų apimties kainų arba savarankiškai talpinamą modelį, norėjote juos naudoti. Dabar galite.
BYOK leidžia jums prijungti savo raktą ir nuspręsti, pagal galimybę, ar skambutis vyksta mūsų platformos modeliuose, ar jūsų galinėje dalyje:
- Chat (LLM)
- Embeddings (žinių bazės paieška)
- Speech-to-Text
- Text-to-Speech
- Vision (vaizdų supratimas)
Kiekvienas iš jų yra nepriklausomas. Išlaikykite mūsų suverenius ES modelius tam, kas jums svarbu, ir atneškite savo raktą likusiai daliai.
Kurie tiekėjai yra palaikomi
Atneškite raktą iš bet kurio iš šių — arba nurodykite savo galinę dalį:
- OpenAI — GPT-4o, GPT-4o mini ir daugiau
- Anthropic — Claude
- Mistral
- Scaleway Generatyvios API
- Ollama — jūsų savarankiškai talpinami modeliai
- Bet kuris OpenAI suderinamas galinis taškas — vLLM, OpenRouter, Together.ai, Groq, Fireworks ir kiti
Kodėl tai svarbu
- Pilnas kainų kontrolė — jūsų raktas, jūsų sąskaita. Skambučiai, nukreipti per jūsų tiekėją, nepaliečia jūsų AI SmartTalk kreditų.
- Nėra užrakto — laisvai derinkite ir derinkite. Naudokite suverenių ES modelį pokalbiams ir savo raktą vizijai, arba bet kokią kombinaciją, kuri jums patinka.
- Nustatykite vieną kartą, naudokite visur — raktai išsaugomi organizacijos lygyje ir dalijami per kiekvieną chatbot, kurį valdomas. Aktyvaus modelio keitimas galimybei užtrunka vieną paspaudimą.
- Vis dar draugiškas GDPR — laikykite savo duomenis ES talpinamuose suvereniuose modeliuose, kur tik reikia; BYOK yra pasirinktinė, pagal galimybę.
Kaip tai nustatyti
- Atidarykite bet kurį asistentą admin ir eikite į AI Model puslapį.
- Pasirinkite Pasirinktinis režimą.
- Bet kuriai galimybei (pokalbiai, embeddings, balsas, vizija) spustelėkite "Naudoti savo API raktą", pasirinkite savo tiekėją, įklijuokite savo raktą ir pasirinkite modelį.
- Valdykite visus savo išsaugotus raktus bet kada iš "Valdyti raktus" — jie dalijami visoje jūsų organizacijoje.
Tai viskas. Nuo tos akimirkos galimybės, kurias nukreipėte per savo raktą, bus apmokamos jūsų tiekėjo, ir jūs matysite jas pažymėtas kaip BYOK su 0 kreditų jūsų naudojimo analitikoje.
Pilnas vadovas: AI Model & BYOK vadovas →
Laikykite užklausas
BYOK buvo išleistas, nes jūs to prašėte. Jei yra kažkas, ko jums reikia toliau, praneškite mums — kelrodis sudaromas kartu su mūsų bendruomene.
→ Nustatykite tai dabar su AI Model & BYOK vadovu. Didesniam vaizdui žiūrėkite AI Galimybes.