Przejdź do głównej zawartości

BYOK jest tutaj — Przynieś własny klucz API do AI SmartTalk

· 3 min aby przeczytać
Odran HUSSON
Co-founder & CEO of AI SmartTalk

Strona modelu AI — Tryby suwerenne, OpenAI i niestandardowe, z wyborem modelu według możliwości

Poprosiłeś, dostarczyliśmy. Jedną z najbardziej oczekiwanych funkcji od naszej społeczności jest już dostępna: Przynieś własny klucz (BYOK). Możesz teraz połączyć własny klucz dostawcy AI z AI SmartTalk i kierować każdą możliwość przez niego — rozliczane bezpośrednio przez twojego dostawcę, z zerem kredytów AI SmartTalk zużytych na te połączenia.

W pośpiechu? Pełny przewodnik po konfiguracji znajduje się w przewodniku AI Model & BYOK — dostawcy, kierowanie według możliwości, zarządzanie kluczami i rozliczenia.

Co robi BYOK​

Do tej pory każde połączenie AI działało na modelach, które hostujemy i było rozliczane w kredytach AI SmartTalk. To wciąż najprostsza ścieżka — sensowne domyślne ustawienia, suwerenne modele UE, nic do skonfigurowania. Ale jeśli już masz kredyty dostawcy, negocjowane ceny wolumenowe lub model hostowany samodzielnie, chciałeś z nich skorzystać. Teraz możesz.

BYOK pozwala ci połączyć własny klucz i zdecydować, według możliwości, czy połączenie działa na naszych modelach platformy, czy na twoim punkcie końcowym:

  • Czat (LLM)
  • Osadzenia (wyszukiwanie w bazie wiedzy)
  • Mowa na tekst
  • Tekst na mowę
  • Wizja (rozumienie obrazu)

Każda z nich jest niezależna. Zachowaj nasze suwerenne modele UE dla tego, co jest dla ciebie ważne, a przynieś własny klucz dla reszty.

Którzy dostawcy są obsługiwani​

Przynieś klucz od dowolnego z tych — lub wskaź na swój własny punkt końcowy:

  • OpenAI — GPT-4o, GPT-4o mini i inne
  • Anthropic — Claude
  • Mistral
  • Scaleway Generative APIs
  • Ollama — twoje własne modele hostowane samodzielnie
  • Dowolny punkt końcowy zgodny z OpenAI — vLLM, OpenRouter, Together.ai, Groq, Fireworks i inne

Dlaczego to ma znaczenie​

  • Pełna kontrola kosztów — twój klucz, twoje rachunki. Połączenia kierowane przez twojego dostawcę nie dotykają twoich kredytów AI SmartTalk.
  • Brak uzależnienia — mieszaj i dopasowuj dowolnie. Użyj suwerennego modelu UE do czatu i własnego klucza do wizji, lub dowolnej kombinacji, którą lubisz.
  • Ustaw raz, używaj wszędzie — klucze są zapisywane na poziomie organizacji i dzielone w każdym czacie, który prowadzisz. Zmiana aktywnego modelu dla możliwości zajmuje jeden klik.
  • Wciąż przyjazne dla GDPR — trzymaj swoje dane na suwerennych modelach hostowanych w UE, gdziekolwiek potrzebujesz; BYOK jest opcjonalne, według możliwości.

Jak to skonfigurować​

  1. Otwórz dowolnego asystenta w admin i przejdź do strony AI Model.
  2. Wybierz tryb Niestandardowy.
  3. W dowolnej możliwości (czat, osadzenia, głos, wizja), kliknij "Użyj mojego własnego klucza API", wybierz swojego dostawcę, wklej swój klucz i wybierz model.
  4. Zarządzaj wszystkimi swoimi zapisanymi kluczami w dowolnym momencie z "Zarządzaj kluczami" — są one dzielone w całej twojej organizacji.

Łączenie własnego klucza API z możliwością w trybie niestandardowym

To wszystko. Od tego momentu, możliwości, które kierujesz przez swój klucz, są rozliczane przez twojego dostawcę, a w twojej analityce użycia będą oznaczone jako BYOK z 0 kredytami.

Pełny przewodnik: Przewodnik AI Model & BYOK →

Kontynuuj przesyłanie próśb​

BYOK został wprowadzony, ponieważ o to prosiłeś. Jeśli jest coś, czego potrzebujesz następnego, powiedz nam — mapa drogowa jest budowana z naszą społecznością.

→ Skonfiguruj to teraz z przewodnikiem AI Model & BYOK. Dla szerszego obrazu, zobacz Możliwości AI.

Gotowy, aby podnieść swoje
doświadczenie użytkownika?

Wdrażaj asystentów AI, którzy zachwycają klientów i rozwijają się wraz z Twoją firmą.

zgodne z RODO