AI Halucinácie: Ako zabezpečiť spoľahlivé odpovede?
· 11 minút čítania
1. Čo je AI halucinácia?
AI halucinácie nastávajú, keď konverzačný agent, ako je chatbot, generuje nesprávnu, nezrozumiteľnú alebo úplne vymyslenú odpoveď. Tieto chyby nie sú spôsobené technickou chybou, ale skôr spôsobom, akým jazykové modely spracovávajú dáta. V prípade, že v jeho databáze nie sú relevantné informácie, sa AI môže pokúsiť "uhádnuť" plauzibilnú odpoveď, aj keď je nesprávna.