AI Halucinacije: Kako osigurati pouzdane odgovore?
· 12 минута читања
1. Šta je AI halucinacija?
AI halucinacije se javljaju kada konverzacijski agent, kao što je chatbot, generiše netačan, nejasan ili potpuno izmišljen odgovor. Ove greške nisu rezultat tehničke greške, već načina na koji jezički modeli obrađuju podatke. U odsustvu relevantnih informacija u svojoj bazi podataka, AI može pokušati da "pogodi" verovatan odgovor, čak i ako je netačan.