AI asistent nad firemnými dokumentmi: ako funguje a kde zlyháva

Každá firma má rovnaký problém: roky dokumentov, zmlúv a manuálov, v ktorých nikto nič nenájde. Technológia, ktorej sa odborne hovorí RAG (retrieval augmented generation), z nich spraví asistenta, ktorý odpovedá vlastnými slovami a uvedie zdroj. Ak sa postaví správne.

Ako to funguje

Dokumenty sa rozdelia na menšie časti a uložia tak, aby sa dali vyhľadávať podľa významu, nielen podľa slov. Otázka používateľa nájde relevantné pasáže a jazykový model z nich zostaví odpoveď s odkazmi na zdroj. Asistent teda nevymýšľa z hlavy, ale cituje vaše dokumenty. Je to jedna z typických úloh AI automatizácie pre firmy.

Čo ovplyvňuje náklady

Rozpočet určuje najmä množstvo a kvalita dokumentov, počet oblastí, v ktorých má asistent odpovedať, a napojenie na oprávnenia vo firme. Rozumný začiatok je pilot nad jednou oblasťou, napríklad nad zmluvami alebo technickou dokumentáciou. Prevádzka potom podľa počtu otázok stojí rádovo stovky eur mesačne za výpočtový výkon modelu.

Tri chyby, ktoré projekt pochovajú

1. 01Nasypať do systému všetko vrátane neplatných verzií smerníc. Asistent potom sebavedomo cituje dokument spred piatich rokov.
2. 02Nič nevyhodnocovať. Bez sady testovacích otázok neviete, či odpovedá správne na 60 alebo na 95 %.
3. 03Ignorovať oprávnenia. Asistent nesmie mzdovej účtovníčke prezradiť zmluvu konateľa.

Kde končí vyhľadávanie a začína konanie

Samotný asistent odpovedá na otázky. Skutočná hodnota však prichádza, keď vie aj konať. Z „nájdi mi platobné podmienky“ sa stane „priprav návrh dodatku podľa nich“, z „aký je stav objednávky“ sa stane „pošli zákazníkovi aktualizáciu“. Vtedy asistent dostáva prístup k ďalším systémom a s tým rastie dôraz na kontrolné body a oprávnenia. Rozumné je začať odpovedaním a konanie pridávať, až keď firma asistentovi dôveruje.

Kam idú vaše dáta

Najčastejšia obava nie je presnosť, ale súkromie: „Pošleme roky zmlúv do cudzieho modelu?“ Nie. Dokumenty aj vyhľadávací index zostávajú vo vašej infraštruktúre alebo v cloude v EÚ, do modelu ide len pasáž potrebná na danú odpoveď a citlivé údaje sa dajú pred odoslaním anonymizovať. Zmluva o spracúvaní osobných údajov podľa čl. 28 GDPR patrí k spolupráci od začiatku.

Dobre postavený asistent šetrí desiatky hodín hľadania mesačne a každú odpoveď doloží zdrojom. Zle postavený je drahý generátor sebavedomých nezmyslov. Rozdiel nie je v modeli, ale v dátach a meraní.