KI-Modell & BYOK

Die KI-Modell-Seite ist der Ort, an dem Sie entscheiden, welche KI Ihren Assistenten antreibt — für jede Fähigkeit, nicht nur für den Chat. Öffnen Sie sie von Ihrem Assistenten im admin → linkes Menü → KI-Modell.

AI SmartTalk wählt während der Einarbeitung sinnvolle Standardwerte, sodass die meisten Assistenten großartig funktionieren, ohne dass diese Seite jemals geöffnet wird. Kommen Sie hierher, wenn Sie EU-Datensouveränität, ein bestimmtes Modell oder Ihren eigenen Anbieter-Schlüssel einfügen möchten.

Wählen Sie einen Modus

Oben auf der Seite wählen Sie einen Modus, der sinnvolle Modelle für alle Bereiche festlegt:

Modus	Was er tut	Am besten geeignet für
Souverän	100% EU-Modelle, die in Frankreich gehostet werden (Mistral, Qwen, Llama). Ihre Daten verlassen niemals Europa.	GDPR-sensible Nutzung, Datensouveränität
OpenAI	GPT-Modelle für jede Fähigkeit.	Maximale Fähigkeit, Sie sind mit der Verarbeitung in den USA einverstanden
Benutzerdefiniert	Mischen Sie Modelle von jedem Anbieter, Fähigkeit für Fähigkeit — und bringen Sie Ihren eigenen API-Schlüssel (BYOK) mit.	Volle Kontrolle, Kostenoptimierung

Sie können immer einzelne Fähigkeiten unter den Moduskarten weiter anpassen.

Passen Sie jede Fähigkeit an

Im Benutzerdefiniert-Modus hat jede Fähigkeit ihren eigenen Selektor:

• Chat (LLM) — generiert die Antworten, die Ihre Kunden lesen.
• Wissensdatenbank — verwandelt Ihre Dokumente in durchsuchbares Wissen (Embeddings).
• Spracherkennung — transkribiert Sprachnachrichten.
• Text-to-Speech — verleiht Ihrem Assistenten eine Stimme.
• Vision — versteht Bilder, die Kunden senden.

Jede zeigt den Modellnamen, seinen Anbieter, ein EU-Abzeichen für souveräne Modelle und die Kosten in Credits. Wählen Sie das, das Ihren Bedürfnissen entspricht — mischen Sie souveräne und proprietäre Modelle nach Belieben.

Bringen Sie Ihren eigenen Schlüssel (BYOK)

BYOK ermöglicht es Ihnen, eine Fähigkeit über Ihren eigenen AI-Anbieter-Schlüssel auszuführen, anstatt die gehosteten Modelle von AI SmartTalk zu verwenden. Anrufe, die über Ihren Schlüssel geleitet werden, werden direkt von Ihrem Anbieter abgerechnet — sie verbrauchen null AI SmartTalk-Credits.

Unterstützte Anbieter

• OpenAI — GPT-4o, GPT-4o mini und mehr
• Anthropic — Claude
• Mistral
• Scaleway Generative APIs
• Ollama — Ihre eigenen selbst gehosteten Modelle
• Jeder OpenAI-kompatible Endpunkt — vLLM, OpenRouter, Together.ai, Groq, Fireworks…

Spracherkennung und Text-to-Speech sind derzeit mit OpenAI (oder jedem OpenAI-kompatiblen Endpunkt) verfügbar. Embeddings und Vision werden von OpenAI, Mistral und Scaleway unterstützt.

Verbinden Sie Ihren Schlüssel

1. Öffnen Sie die KI-Modell-Seite und wählen Sie den Benutzerdefiniert-Modus.
2. Klicken Sie bei der gewünschten Fähigkeit (z. B. Chat) auf „Verwenden Sie meinen eigenen API-Schlüssel“.
3. Wählen Sie Ihren Anbieter, fügen Sie Ihren API-Schlüssel ein und wählen Sie das Modell — empfohlene Modelle werden vorgeschlagen oder geben Sie eine genaue Modell-ID ein.
4. Speichern. AI SmartTalk überprüft die Verbindung und leitet diese Fähigkeit dann über Ihren Schlüssel. Die Fähigkeit zeigt ein IHREN SCHLÜSSEL-Abzeichen an.

Sie können dies für eine Fähigkeit oder für alle tun und mit Plattformmodellen für den Rest mischen.

Verwalten Sie Ihre Schlüssel

• Ihre Schlüssel werden auf Organisationsebene gespeichert und in jedem Chatbot Ihrer Organisation geteilt — geben Sie einen Schlüssel einmal ein, verwenden Sie ihn überall wieder.
• Klicken Sie auf „Schlüssel verwalten“, um einen Schlüssel hinzuzufügen, weitere Modelle darunter zu registrieren, umzubenennen oder zu löschen.
• Verwenden Sie Verbindung testen, um zu bestätigen, dass ein Schlüssel funktioniert — es werden keine Tokens verbraucht.
• Um die Verwendung Ihres Schlüssels für eine Fähigkeit zu stoppen, entfernen Sie ihn (das × neben dem Modell) — diese Fähigkeit wechselt automatisch zum Plattformmodell zurück.

Was passiert mit der Abrechnung

Fähigkeiten, die über Ihren Schlüssel geleitet werden, erscheinen in Ihrer Nutzungsanalyse als BYOK mit 0 Credits. Fähigkeiten, die weiterhin auf Plattformmodellen basieren, werden normal abgerechnet — BYOK gilt pro Fähigkeit, sodass die Verwendung Ihres eigenen Chatmodells nicht Ihre Embeddings oder Vision kostenlos macht.

Rückkehr zu einem voreingestellten Modus

Die Auswahl des Souverän- oder OpenAI-Modus löscht zuerst alle aktiven BYOK-Routen, sodass das Versprechen des Voreinstellungsmodus gilt (z. B. bleibt Souverän 100% EU). Ihre gespeicherten Schlüssel bleiben erhalten — sie leiten einfach keinen Verkehr mehr, bis Sie sie im Benutzerdefiniert-Modus wieder aktivieren.

Datensouveränität

Der souveräne Modus (und jedes souveräne Modell, das im Benutzerdefiniert-Modus ausgewählt wird) hält die Verarbeitung innerhalb der EU, auf Infrastruktur in Frankreich — keine US-Datenübertragungen. BYOK ist pro Fähigkeit optional, sodass Sie die volle Kontrolle darüber behalten, wohin jeder Anruf geht. Weitere Informationen finden Sie unter Compliance & Hosting.

Verwandt

• Konfigurationsübersicht — die Übersicht über jede Anpassungsoberfläche
• Wissensdatenbank — die Dokumente und Quellen, aus denen Ihr Assistent schöpft
• KI-Fähigkeiten — wie die mehrschichtige KI-Pipeline funktioniert