AI Модел и BYOK
Страницата AI Модел е мястото, където решавате кой AI захранва вашия асистент — за всяка функционалност, а не само за чат. Отворете я от вашия асистент в администрацията → ляво меню → AI Модел.
AI SmartTalk избира разумни по подразбиране настройки по време на внедряване, така че повечето асистенти работят отлично, без да е необходимо да отваряте тази страница. Посетете я, когато искате суверенитет на данните в ЕС, конкретен модел или да свържете вашия собствен ключ на доставчик.
Изберете режим
В горната част на страницата избирате режим, който задава разумни модели в цялост:
| Режим | Какво прави | Най-добре за |
|---|---|---|
| Суверенен | 100% модели на ЕС, хоствани във Франция (Mistral, Qwen, Llama). Вашите данни никога не напускат Европа. | Използване, чувствително към GDPR, суверенитет на данните |
| OpenAI | Модели GPT за всяка функционалност. | Максимална функционалност, ако не ви притеснява обработката в САЩ |
| Персонализиран | Смесете модели от всеки доставчик, функционалност по функционалност — и донесете вашия собствен API ключ (BYOK). | Пълен контрол, оптимизация на разходите |
Винаги можете да прецизирате индивидуалните функционалности под картите на режимите.
Персонализирайте всяка функционалност
В режим Персонализиран, всяка функционалност има свой собствен селектор:
- Чат (LLM) — генерира отговорите, които вашите клиенти четат.
- База от знания — превръща вашите документи в търсима информация (вграждания).
- Говор-до-Текст — транскрибира гласови съобщения.
- Текст-до-Говор — дава на вашия асистент глас.
- Визия — разбира изображения, които клиентите изпращат.
Всеки показва името на модела, неговия доставчик, значка EU за суверенни модели и цена за кредити. Изберете този, който отговаря на вашите нужди — смесвайте суверенни и собствени модели свободно.
Донесете Вашия Собствен Ключ (BYOK)
BYOK ви позволява да изпълнявате функционалност чрез вашия собствен ключ на AI доставчик вместо хостваните модели на AI SmartTalk. Обажданията, маршрутизирани през вашия ключ, се таксуват директно от вашия доставчик — те не консумират кредити на AI SmartTalk.
Поддържани доставчици
- OpenAI — GPT-4o, GPT-4o mini и други
- Anthropic — Claude
- Mistral
- Scaleway Генеративни API
- Ollama — вашите собствени самостоятелно хоствани модели
- Всеки OpenAI-съвместим крайна точка — vLLM, OpenRouter, Together.ai, Groq, Fireworks…
Говор-до-Текст и Текст-до-Говор в момента са налични с OpenAI (или всяка OpenAI-съвместима крайна точка). Вгражданията и визията се поддържат от OpenAI, Mistral и Scaleway.
Свържете вашия ключ
- Отворете страницата AI Модел и изберете режим Персонализиран.
- На функционалността, която искате (например Чат), кликнете "Използвайте моя собствен API ключ".
- Изберете вашия доставчик, поставете вашия API ключ и изберете модела — предлаганите модели са предложени, или въведете точно идентификатор на модела.
- Запазете. AI SmartTalk проверява връзката, след което маршрутизира тази функционалност през вашия ключ. Функционалността показва значка ВАШИЯТ КЛЮЧ.
Можете да направите това за една функционалност или за всички тях и да смесвате с платформени модели за останалите.
Управление на вашите ключове
- Вашите ключове се запазват на ниво на организацията и се споделят между всички чатботове във вашата организация — въведете ключ веднъж, използвайте го навсякъде.
- Кликнете "Управление на ключове", за да добавите ключ, регистрирате повече модели под него, преименувате или изтривате.
- Използвайте Тест на връзката, за да потвърдите, че ключът работи — не се консумират токени.
- За да спрете да използвате вашия ключ за функционалност, премахнете го (иконата × до модела) — тази функционалност автоматично се връща към платформения модел.
Какво се случва с таксуването
Функционалностите, маршрутизирани през вашия ключ, се появяват в анализа на използването, маркирани като BYOK с 0 кредита. Функционалностите, които все още са на платформени модели, се таксуват нормално — BYOK е на функционалност, така че използването на вашия собствен чат модел не прави вашите вграждания или визия безплатни.
Връщане към предварително зададен режим
Изборът на режим Суверенен или OpenAI първо изчиства всяко активно маршрутизиране на BYOK, така че обещанието на предварителния режим да се запази (например Суверенен остава 100% ЕС). Вашите запазени ключове се запазват — те просто вече не маршрутизират трафик, докато не ги активирате отново в режим Персонализиран.
Суверенитет на данните
Режимът Суверенен (и всеки с уверенен модел, избран в режим Персонализиран) поддържа обработката в рамките на ЕС, на инфраструктура във Франция — без трансфери на данни в САЩ. BYOK е опция за всяка функционалност, така че вие оставате в пълен контрол на къде отива всеки тип обаждане. Вижте Съответствие и хостинг за подробности.
Свързани
- Преглед на конфигурацията — картата на всяка повърхност за персонализиране
- База от знания — документите и източниците, от които вашият асистент черпи
- AI Функционалности — как работи многостепенната AI система