BYOK je tu — Prinesite svoj API ključ v AI SmartTalk

Vprašali ste, mi smo dostavili. Ena izmed najbolj zahtevanih funkcij naše skupnosti je zdaj na voljo: Prinesite svoj ključ (BYOK). Zdaj lahko povežete svoj ključ AI ponudnika z AI SmartTalk in usmerite katero koli zmogljivost skozi njega — obračunano neposredno pri vašem ponudniku, z nič AI SmartTalk kreditov porabljenih za te klice.

Ste v naglici? Celoten postopek nastavitve je opisan v vodniku za AI Model & BYOK — ponudniki, usmerjanje po zmogljivosti, upravljanje ključev in obračun.

Kaj BYOK počne

Do sedaj je vsak AI klic potekal na modelih, ki jih gostimo, in bil obračunan v AI SmartTalk kreditih. To je še vedno najpreprostejša pot — smiselne privzete nastavitve, suvereni EU modeli, ničesar ni treba konfigurirati. Toda če že imate kredite ponudnika, dogovorjeno ceno na količino ali samostojni model, ste jih želeli uporabiti. Zdaj lahko.

BYOK vam omogoča, da povežete svoj ključ in se odločite, po zmogljivosti, ali klic poteka na naših platformskih modelih ali na vašem končnem točki:

• Chat (LLM)
• Embeddings (iskanje po bazi znanja)
• Speech-to-Text
• Text-to-Speech
• Vision (razumevanje slik)

Vsaka od njih je neodvisna. Ohranite naše suverene EU modele za tisto, kar vam je pomembno, in prinesite svoj ključ za ostalo.

Kateri ponudniki so podprti

Prinesite ključ iz kateregakoli od teh — ali usmerite na svojo končno točko:

• OpenAI — GPT-4o, GPT-4o mini in še več
• Anthropic — Claude
• Mistral
• Scaleway Generativni API-ji
• Ollama — vaši lastni samostojni modeli
• Katera koli OpenAI-ustrezen končni točki — vLLM, OpenRouter, Together.ai, Groq, Fireworks in drugi

Zakaj je to pomembno

• Polna kontrola stroškov — vaš ključ, vaš račun. Klici, usmerjeni preko vašega ponudnika, ne vplivajo na vaše AI SmartTalk kredite.
• Brez zaklepanja — prosto mešajte in ujemajte. Uporabite suveren EU model za klepet in svoj ključ za vizijo, ali katero koli kombinacijo, ki vam ustreza.
• Nastavite enkrat, uporabljajte povsod — ključi so shranjeni na ravni organizacije in deljeni med vsakim chatbotom, ki ga upravljate. Preklop aktivnega modela za zmogljivost zahteva en klik.
• Še vedno prijazno do GDPR — obdržite svoje podatke na EU-gostovanih suverenih modelih, kjer koli jih potrebujete; BYOK je na voljo po izbiri, po zmogljivosti.

Kako to nastaviti

1. Odprite katerega koli asistenta v admin in pojdite na stran AI Model.
2. Izberite način Custom.
3. Na katerikoli zmogljivosti (klepet, embeddings, glas, vizija) kliknite "Uporabite svoj API ključ", izberite svojega ponudnika, prilepite svoj ključ in izberite model.
4. Upravljajte vse svoje shranjene ključe kadarkoli iz "Upravljanje ključev" — ti so deljeni po celotni organizaciji.

To je to. Od tega trenutka naprej so zmogljivosti, ki ste jih usmerili skozi svoj ključ, obračunane pri vašem ponudniku, in videli jih boste označene kot BYOK z 0 krediti v vaši analitiki uporabe.

Celoten postopek: AI Model & BYOK vodnik →

Nadaljujte z zahtevami

BYOK je bil uveden, ker ste to zahtevali. Če potrebujete še kaj, nam povejte — načrt je zgrajen skupaj z našo skupnostjo.

→ Nastavite ga zdaj z AI Model & BYOK vodnikom. Za širšo sliko si oglejte AI Zmogljivosti.