BYOK je ovdje — Ponesite svoj vlastiti API ključ u AI SmartTalk

Pitali ste, mi smo isporučili. Jedna od najtraženijih značajki iz naše zajednice je sada dostupna: Ponesite svoj ključ (BYOK). Sada možete povezati svoj vlastiti ključ AI pružatelja s AI SmartTalk i usmjeriti bilo koju mogućnost kroz njega — naplaćeno izravno od vašeg pružatelja, s nula AI SmartTalk kredita potrošenih na te pozive.

U žurbi? Cjeloviti vodič za postavljanje nalazi se u AI Model & BYOK vodiču — pružatelji, usmjeravanje po mogućnostima, upravljanje ključevima i naplata.

Što BYOK radi

Do sada su svi AI pozivi radili na modelima koje hostamo i naplaćivani su u AI SmartTalk kreditima. To je još uvijek najjednostavniji put — razumna zadanost, suvereni EU modeli, ništa za konfigurirati. No, ako već imate kredite pružatelja, pregovarane cijene po volumenu ili samostalno hostani model, željeli ste ih koristiti. Sada možete.

BYOK vam omogućuje da povežete svoj vlastiti ključ i odlučite, po mogućnosti, hoće li poziv raditi na našim platformskim modelima ili na vašem kraju:

• Chat (LLM)
• Embeddings (pretraživanje baze znanja)
• Speech-to-Text
• Text-to-Speech
• Vision (razumijevanje slika)

Svaka od njih je neovisna. Zadržite naše suverene EU modele za ono što vam je važno, a donesite svoj vlastiti ključ za ostalo.

Koji su pružatelji podržani

Ponesite ključ od bilo kojeg od ovih — ili usmjerite na svoj vlastiti kraj:

• OpenAI — GPT-4o, GPT-4o mini i više
• Anthropic — Claude
• Mistral
• Scaleway Generativni API-ji
• Ollama — vaši vlastiti samostalno hostani modeli
• Bilo koji OpenAI-kompatibilan kraj — vLLM, OpenRouter, Together.ai, Groq, Fireworks i drugi

Zašto je to važno

• Potpuna kontrola troškova — vaš ključ, vaš račun. Pozivi usmjereni kroz vašeg pružatelja ne dodiruju vaše AI SmartTalk kredite.
• Bez zaključavanja — slobodno kombinirajte. Koristite suvereni EU model za chat i svoj vlastiti ključ za viziju, ili bilo koju kombinaciju koju želite.
• Postavite jednom, koristite svugdje — ključevi se spremaju na razini organizacije i dijele se među svim chatbotovima koje pokrećete. Promjena aktivnog modela za mogućnost zahtijeva jedan klik.
• I dalje prijateljski prema GDPR-u — zadržite svoje podatke na EU-hostanim suverenim modelima gdje god trebate; BYOK je opcionalan, po mogućnosti.

Kako ga postaviti

1. Otvorite bilo kojeg asistenta u admin i idite na stranicu AI Model.
2. Odaberite način Custom.
3. Na bilo kojoj mogućnosti (chat, embeddings, glas, vizija), kliknite "Koristite svoj vlastiti API ključ", odaberite svog pružatelja, zalijepite svoj ključ i odaberite model.
4. Upravljajte svim svojim spremljenim ključevima u bilo kojem trenutku iz "Upravljanje ključevima" — oni su dijeljeni kroz cijelu vašu organizaciju.

To je to. Od tog trenutka, mogućnosti koje ste usmjerili kroz svoj ključ naplaćuju se od vašeg pružatelja, a vidjet ćete ih označene kao BYOK s 0 kredita u vašoj analitici korištenja.

Cjeloviti vodič: AI Model & BYOK vodič →

Nastavite slati zahtjeve

BYOK je isporučen jer ste to tražili. Ako postoji nešto što trebate sljedeće, javite nam — putokaz se gradi s našom zajednicom.

→ Postavite ga sada uz AI Model & BYOK vodič. Za širu sliku, pogledajte AI Mogućnosti.