AI Modell & BYOK
D'AI Modell Säit ass wou Dir decidéiert wéi eng AI Äre Assistenz steiert — fir all Fäegkeet, net just fir Chat. Öffnen et vun Ärem Assistenz am admin → lénks Menü → AI Modell.
AI SmartTalk wielt vernünfteg Standard während der Onboarding, sou déi meescht Assistente funktionnéieren super ouni dës Säit jeemools ze öffnen. Kommt hei wann Dir EU Date souveränitéit, e spezifesch Modell, oder Äre eigene Provider Schlëssel wëllt.
Wielt e Modus
Uewen op der Säit wielt Dir e Modus deen vernünfteg Modeller iwwerall setzt:
| Modus | Wat et mécht | Bescht fir |
|---|---|---|
| Souverän | 100% EU Modeller gehost a Frankräich (Mistral, Qwen, Llama). Är Date verloossen ni Europa. | GDPR-sensibel Notzung, Date souveränitéit |
| OpenAI | GPT Modeller iwwer all Fäegkeet. | Maximum Fäegkeet, Dir sidd gutt mat US Veraarbechtung |
| Custom | Mësch Modeller vun all Provider, Fäegkeet fir Fäegkeet — an bréngt Äre eigene API Schlëssel (BYOK). | Voll Kontroll, Käschteoptimiséierung |
Dir kënnt ëmmer individuell Fäegkeeten ënnert den Modus Kaarte feine-tune.
Personaliséiert all Fäegkeet
Am Custom Modus huet all Fäegkeet säin eegen Selector:
- Chat (LLM) — generéiert d'Äntwerten déi Är Clienten liesen.
- Wëssensbasis — mécht Är Dokumenter sichtbar Wëssen (embeddings).
- Spriech-zu-Text — transkribéiert Stëmmemessage.
- Text-zu-Spriech — gëtt Ärem Assistenz eng Stëmm.
- Visioun — verstitt Biller déi Clienten schécken.
Jidderee weist den Modellnumm, säin Provider, e EU Badge fir souverän Modeller, an e Kredittkäschte. Wielt déi déi Äre Besoinen entsprécht — Mësch souverän an proprietär fräi.
Bréngt Äre eigene Schlëssel (BYOK)
BYOK erlaabt Iech eng Fäegkeet duerch Äre eigene AI Provider Schlëssel ze lafen an net duerch d'gehost Modeller vun AI SmartTalk. Uruff déi duerch Äre Schlëssel geleet ginn sinn direkt vun Ärem Provider berechent — si verbrauchen null AI SmartTalk Kreditter.
Ënnerstëtzt Provider
- OpenAI — GPT-4o, GPT-4o mini, an méi
- Anthropic — Claude
- Mistral
- Scaleway Generativ APIs
- Ollama — Är eegen selwer gehost Modeller
- All OpenAI-kompatibel Endpoint — vLLM, OpenRouter, Together.ai, Groq, Fireworks…
Spriech-zu-Text an Text-zu-Spriech sinn aktuell verfügbar mat OpenAI (oder all OpenAI-kompatibel Endpoint). Embeddings an Visioun sinn ënnerstëtzt vun OpenAI, Mistral an Scaleway.
Verbënnt Äre Schlëssel
- Öffnen d'AI Modell Säit an wielt Custom Modus.
- Op der Fäegkeet déi Dir wëllt (z.B. Chat), klickt "Benotz mäi eigene API Schlëssel".
- Wielt Ären Provider, paste Äre API Schlëssel, an wielt den Modell — empfohlene Modeller ginn ugeroden, oder gitt eng genau Modell ID an.
- Späicheren. AI SmartTalk veriféiert d'Verbinding, da leet dës Fäegkeet duerch Äre Schlëssel. D'Fäegkeet weist e YOUR KEY Badge.
Dir kënnt dëst fir eng Fäegkeet oder all vun hinnen maachen, an Mësch mat Plattform Modeller fir de Rescht.
Verwalte Är Schlësselen
- Är Schlësselen sinn am Organisatiounsniveau gespäichert an iwwer all Chatbots an Ärer Organisatioun deelen — gitt een Schlëssel eng Kéier an, benotzt et iwwerall.
- Klickt "Manage keys" fir e Schlëssel derbäizefügen, méi Modeller ënner him ze registréieren, ëmbenennen, oder läschen.
- Benotzt Test connection fir ze bestëmmen ob e Schlëssel funktionéiert — keng Token ginn verbraucht.
- Fir ze stoppen Äre Schlëssel fir eng Fäegkeet ze benotzen, läscht et (d'× nees zum Modell) — dës Fäegkeet revertéiert automatesch op den Plattform Modell.
Wat geschitt mat der Rechnungsstellung
Fäegkeeten déi duerch Äre Schlëssel geleet ginn, erschéngen an Ärer Notzung Analytics markéiert BYOK mat 0 Kreditter. Fäegkeeten déi nach op Plattform Modeller sinn, ginn normal berechent — BYOK ass pro Fäegkeet, sou datt d'Benotzung vun Ärem eigene Chat Modell net d'Embeddings oder Visioun gratis mécht.
Zréck op e Preset
D'Wiel vun Souverän oder OpenAI Modus läscht all aktiv BYOK Routing als éischt, sou datt d'Versprechung vum Preset hält (z.B. Souverän bleift 100% EU). Är gespäichert Schlësselen ginn behalen — si sinn just net méi Traffic leeden bis Dir se erëm aktivéiert am Custom Modus.
Date souveränitéit
Souverän Modus (an all souverän Modell gewielt am Custom Modus) hält d'Veraarbechtung an der EU, op Infrastruktur a Frankräich — keng US Date Transfers. BYOK ass opt-in pro Fäegkeet, sou datt Dir voll Kontroll iwwer wou all Zort Uruff geet. Kuckt Compliance & Hosting fir Detailer.
Verwandt
- Konfiguratioun Iwwerbléck — d'Karte vun all Anpassungsfläch
- Wëssensbasis — d'Dokumenter an Quellen déi Äre Assistenz benotzt
- AI Fäegkeeten — wéi de multi-layer AI Pipeline funktionéiert