BYOK е тук — Донесете своя собствен API ключ в AI SmartTalk

Вие питахте, ние доставихме. Една от най-заявяваните функции от нашата общност е налична: Донесете своя собствен ключ (BYOK). Сега можете да свържете своя собствен ключ от AI доставчик към AI SmartTalk и да маршрутизирате всяка способност през него — таксувано директно от вашия доставчик, с нула кредити за AI SmartTalk изразходвани за тези повиквания.

Нямате време? Пълният наръчник за настройка е наличен в Наръчника за AI модел и BYOK — доставчици, маршрутизиране по способност, управление на ключове и таксуване.

Какво прави BYOK

Досега всяко AI повикване се извършваше на моделите, които хостваме, и се таксуваше в кредити за AI SmartTalk. Това все още е най-простият път — разумни настройки по подразбиране, суверенни EU модели, нищо за конфигуриране. Но ако вече имате кредити от доставчик, договорени обемни цени или самостоятелно хостван модел, искате да ги използвате. Сега можете.

BYOK ви позволява да свържете своя собствен ключ и да решите, по способност, дали повикването да се извършва на нашите платформени модели или на вашия крайна точка:

• Чат (LLM)
• Вграждания (търсене в база знания)
• Говор до текст
• Текст до говор
• Визия (разбиране на изображения)

Всеки от тях е независим. Запазете нашите суверенни EU модели за това, което е важно за вас, и донесете своя собствен ключ за останалото.

Кои доставчици са поддържани

Донесете ключ от който и да е от тези — или насочете към вашата собствена крайна точка:

• OpenAI — GPT-4o, GPT-4o mini и др.
• Anthropic — Claude
• Mistral
• Scaleway Генеративни API
• Ollama — вашите собствени самостоятелно хоствани модели
• Всяка съвместима с OpenAI крайна точка — vLLM, OpenRouter, Together.ai, Groq, Fireworks и други

Защо е важно

• Пълен контрол над разходите — вашият ключ, вашата сметка. Повикванията, маршрутизирани през вашия доставчик, не засягат вашите кредити за AI SmartTalk.
• Без заключване — смесвайте и съчетавайте свободно. Използвайте суверенен EU модел за чат и вашия собствен ключ за визия, или всяка комбинация, която желаете.
• Настройте веднъж, използвайте навсякъде — ключовете се запазват на ниво организация и се споделят между всеки чатбот, който управлявате. Смяната на активния модел за способност отнема само едно кликване.
• Все още съвместим с GDPR — запазете данните си на хоствани в ЕС суверенни модели, където е необходимо; BYOK е по избор, по способност.

Как да го настроите

1. Отворете всеки асистент в администрацията и отидете на страницата AI Модел.
2. Изберете режима Персонализиран.
3. На всяка способност (чат, вграждания, глас, визия), кликнете "Използвайте моя собствен API ключ", изберете вашия доставчик, поставете вашия ключ и изберете модела.
4. Управлявайте всички ваши запазени ключове по всяко време от "Управление на ключове" — те се споделят в цялата ви организация.

Това е всичко. От този момент нататък, способностите, които маршрутизирахте през вашия ключ, се таксуват от вашия доставчик, и ще ги видите обозначени като BYOK с 0 кредита в анализа на използването ви.

Пълен наръчник: Наръчник за AI модел и BYOK →

Продължавайте да изпращате заявки

BYOK беше разработен, защото вие го поискахте. Ако има нещо, от което се нуждаете следващо, кажете ни — пътната карта е изградена с нашата общност.

→ Настройте го сега с Наръчника за AI модел и BYOK. За по-широката картина, вижте AI способности.