AI Modell & BYOK
A AI Modell oldal az a hely, ahol eldöntheti, hogy melyik AI működteti a segédjét — minden képesség esetében, nem csak a csevegésnél. Nyissa meg a segédjéből az admin → bal oldali menü → AI Modell.
Az AI SmartTalk ésszerű alapértelmezéseket választ az onboarding során, így a legtöbb segéd nagyszerűen működik anélkül, hogy valaha is megnyitná ezt az oldalt. Jöjjön ide, amikor EU adat szuverenitásra, egy adott modellre van szüksége, vagy amikor saját szolgáltatói kulcsát szeretné csatlakoztatni.
Válasszon egy módot
Az oldal tetején válasszon egy módot, amely ésszerű modelleket állít be az egész területen:
| Mód | Mit csinál | Legjobb |
|---|---|---|
| Szuverén | 100% EU modellek, amelyeket Franciaországban hosztolnak (Mistral, Qwen, Llama). Az adatai soha nem hagyják el Európát. | GDPR-érzékeny használat, adat szuverenitás |
| OpenAI | GPT modellek minden képességhez. | Maximális képesség, ha elfogadja az amerikai feldolgozást |
| Egyedi | Keverje a modelleket bármely szolgáltatótól, képességenként — és hozza a saját API kulcsát (BYOK). | Teljes irányítás, költségoptimalizálás |
Mindig finomhangolhatja az egyes képességeket a mód kártyák alatt.
Testreszabás minden képességhez
Egyedi módban minden képességnek saját kiválasztója van:
- Csevegés (LLM) — generálja a válaszokat, amelyeket az ügyfelei olvasnak.
- Tudásbázis — a dokumentumait kereshető tudássá alakítja (embeddingek).
- Beszédszöveg — átírja a hangüzeneteket.
- Szövegbeszéd — hangot ad a segédjének.
- Látás — megérti a képeket, amelyeket az ügyfelek küldenek.
Mindegyik mutatja a modell nevét, a szolgáltatóját, egy EU jelvényt a szuverén modellekhez, és egy hitel költséget. Válassza ki azt, amelyik megfelel az igényeinek — szabadon keverheti a szuverén és a saját modelleket.
Hozza a saját kulcsát (BYOK)
A BYOK lehetővé teszi, hogy egy képességet saját AI szolgáltatói kulcsával futtasson az AI SmartTalk hosztolt modelljei helyett. Az Ön kulcsán keresztül irányított hívásokat közvetlenül a szolgáltatója számlázza — ezek nem fogyasztanak AI SmartTalk krediteket.
Támogatott szolgáltatók
- OpenAI — GPT-4o, GPT-4o mini, és mások
- Anthropic — Claude
- Mistral
- Scaleway Generatív API-k
- Ollama — saját önállóan hosztolt modellek
- Bármely OpenAI-kompatibilis végpont — vLLM, OpenRouter, Together.ai, Groq, Fireworks…
A Beszédszöveg és a Szövegbeszéd jelenleg elérhető az OpenAI-nál (vagy bármely OpenAI-kompatibilis végpontnál). Az embeddingek és a látás támogatott az OpenAI, Mistral és Scaleway által.
Csatlakoztassa a kulcsát
- Nyissa meg az AI Modell oldalt, és válassza az Egyedi módot.
- A kívánt képességnél (pl. Csevegés) kattintson a "Saját API kulcsom használata" lehetőségre.
- Válassza ki a szolgáltatóját, illessze be az API kulcsát, és válassza ki a modellt — javasolt modellek jelennek meg, vagy adjon meg egy pontos modell azonosítót.
- Mentse el. Az AI SmartTalk ellenőrzi a kapcsolatot, majd az adott képességet az Ön kulcsán keresztül irányítja. A képesség megjeleníti a SAJÁT KULCS jelvényt.
Ezt megteheti egy képességre vagy mindegyikre, és keverheti a platform modellekkel a többihez.
Kulcsok kezelése
- A kulcsai az szervezeti szinten vannak mentve, és megosztva vannak minden chatbot között az Ön szervezetében — egy kulcsot egyszer adjon meg, és használja újra mindenhol.
- Kattintson a "Kulcsok kezelése" lehetőségre, hogy hozzáadjon egy kulcsot, további modelleket regisztráljon alá, átnevezze vagy törölje azt.
- Használja a Kapcsolat tesztelése lehetőséget, hogy megerősítse, hogy a kulcs működik — nem fogyasztanak tokeneket.
- Ha le szeretné állítani a kulcs használatát egy képességhez, távolítsa el azt (a × a modell mellett) — az adott képesség automatikusan visszatér a platform modellhez.
Mi történik a számlázással
A kulcsán keresztül irányított képességek a használati analitikájában BYOK megjelöléssel jelennek meg 0 kredittel. A platform modelleken lévő képességeket normálisan számlázzák — a BYOK képességenként működik, tehát a saját csevegési modell használata nem teszi ingyenessé az embeddingeket vagy a látást.
Visszatérés egy előre beállított módhoz
A Szuverén vagy OpenAI mód kiválasztása először törli az összes aktív BYOK irányítást, így az előre beállított ígéret érvényben marad (pl. a Szuverén 100% EU marad). A mentett kulcsai megmaradnak — csak éppen nem irányítanak forgalmat, amíg újra nem engedélyezi őket az Egyedi módban.
Adat szuverenitás
A szuverén mód (és bármely szuverén modell, amelyet az Egyedi módban választott) a feldolgozást az EU-n belül tartja, Franciaországban található infrastruktúrán — nincs amerikai adatátvitel. A BYOK képességenként választható, így teljes mértékben ellenőrzése alatt tartja, hogy az egyes hívások hova mennek. Részletekért lásd a Megfelelőség & Hosztolás oldalt.
Kapcsolódó
- Konfiguráció áttekintés — a testreszabás minden felületének térképe
- Tudásbázis — a dokumentumok és források, amelyeket a segédje használ
- AI Képességek — hogyan működik a többrétegű AI pipeline