AI Halucinacije: Kako zagotoviti zanesljive odgovore?
· 12 minut branja
1. Kaj je AI halucinacija?
AI halucinacije se pojavijo, ko pogovorni agent, kot je chatbot, ustvari napačen, nekonsisten ali popolnoma izmišljen odgovor. Te napake niso posledica tehnične napake, temveč načina, kako jezikovni modeli obdelujejo podatke. V odsotnosti relevantnih informacij v svoji bazi podatkov lahko AI poskuša "ugibati" verjeten odgovor, tudi če je ta napačen.