Jak zařídit, aby si firemní AI nevymýšlela
Největší obava firem u AI: co když si začne vymýšlet a někdo tomu uvěří. Dá se to spolehlivě ošetřit. Hlavní páka je RAG, kdy model odpovídá z vašich dat a u každé odpovědi ukáže zdroj. Tady je, jak na to.
- 01AI si vymýšlí, protože odpovídá z paměti a snaží se znít jistě, i když fakta nemá.
- 02Hlavní páka je RAG: model odpovídá jen z vašich dat, ne z toho, co se kdysi naučil.
- 03U každé odpovědi se dá ukázat zdroj, takže si fakt ověříte na dvě vteřiny.
- 04U rizikových věcí zůstává lidská kontrola a systém se nastaví tak, aby uměl říct nevím.
Aby si firemní AI nevymýšlela, musí odpovídat z vašich dat, ne z paměti. Tomu se říká RAG a je to hlavní páka, kterou halucinace dostanete pod kontrolu. K tomu citace zdrojů a lidská kontrola u rizikových věcí, a máte spolehlivý systém.
Tohle je nejčastější obava, se kterou za mnou firmy chodí. Co když AI s klidem napíše blbost a zákazník nebo zaměstnanec jí uvěří. Je to oprávněný strach a dá se s ním pracovat.
01Proč si AI vůbec vymýšlí
Jazykový model je v jádru stroj na pravděpodobné pokračování textu. Když se ho na něco zeptáte, sestaví odpověď, která zní nejpravděpodobněji, podle toho, co se kdysi naučil. Problém je, že zní stejně sebejistě, ať fakt zná, nebo ne. Když ho nezná, prostě ho dotvoří. Tomu se říká halucinace.
Holý ChatGPT navíc nemá tušení o vaší firmě. Když se ho zeptáte na váš ceník nebo postup, nemá to odkud vzít, takže si vymyslí něco, co zní rozumně. A přesně tady to ve firmě zabolí.
02Proč je to ve firmě problém
Vymyšlená odpověď v soukromém chatu nikomu neublíží. Vymyšlená odpověď zákazníkovi o vaší záruce, nebo zaměstnanci o vnitřním postupu, může stát peníze i důvěru. Firma potřebuje, aby AI odpovídala z faktů, ne z dojmů.
03Jak to řeší RAG
RAG funguje tak, že před odpovědí systém najde ve vašich datech relevantní úryvky a teprve z nich nechá model složit odpověď. Model už nemá důvod si vymýšlet, protože fakta dostane naservírovaná z vašeho katalogu, dokumentů nebo postupů.
- Odpovídá z vašich dat, ne z toho, co se kdysi naučil na internetu.
- U každé odpovědi umí ukázat, z jakého dokumentu fakt vzal.
- Když ve vašich datech odpověď není, dá se nastavit, aby řekl nevím, místo aby si vymyslel.
RAG je rozdíl mezi AI, která si tipuje, a AI, která cituje. Pro firmu je tenhle rozdíl zásadní, protože si každou odpověď ověříte u zdroje na pár vteřin.
04Citace, nevím a lidská kontrola
Spolehlivost se nestaví na jedné věci, ale na několika vrstvách. Citace zdroje u odpovědi znamená, že si fakt ověříte přímo v dokumentu. Schopnost říct nevím zabrání tomu, aby model tlačil odpověď i tam, kde data chybí. A u rizikových případů, jako jsou závazné nabídky nebo právní věci, zůstává poslední slovo na člověku.
Tohle se dá nastavit přesně podle toho, jak moc je daná oblast citlivá. U běžných dotazů necháte AI odpovídat samostatně, u rizikových ji použijete jen jako přípravu návrhu, který člověk schválí.
05Jak se to testuje
Než to pustím do ostrého provozu, projedu systém přes sadu reálných dotazů od vás a kontroluju dvě věci: jestli odpovídá správně a jestli u toho ukazuje správný zdroj. Tam, kde to plete, se doladí, čím systém čerpá a jak hledá. Spolehlivost se neslibuje, měří se na vašich datech.
Spolehlivé firemní AI nad vašimi daty stavím od základu, ideálně lokálně, ať navíc nic neodchází ven. Když řešíte, aby vám AI nevymýšlela, napište mi na tadeas@raska.eu.
FAQČasté otázky
- ?Co je to halucinace u AI?
- Halucinace je odpověď, kterou si model vymyslí, protože fakt nezná, ale snaží se znít sebejistě. Zní věrohodně, ale neopírá se o žádný skutečný zdroj.
- ?Dá se halucinacím úplně zabránit?
- Úplně na nulu to nikdo poctivě neslíbí, ale s RAGem, citacemi zdrojů a lidskou kontrolou u rizikových věcí se riziko srazí na minimum. U běžných firemních dotazů nad vlastními daty je výsledek spolehlivý.
- ?Jak poznám, že AI odpověď je správná?
- Dobře postavený systém u každé odpovědi ukáže zdroj, ze kterého fakt vzal. Ověření vás stojí pár vteřin, protože vidíte přímo dokument, odkud odpověď pochází.
- ?Funguje to i v češtině?
- Ano. RAG pracuje s vašimi českými dokumenty a moderní modely jako Qwen nebo Gemma kolem 30B zvládají češtinu na běžnou firemní práci slušně. Vždy to ale otestuju na vašich reálných dotazech.
Stavím firmám AI systémy na míru. Od návrhu po nasazení, sám. Když řešíte něco podobného, ozvěte se na tadeas@raska.eu.
