Na CPIT v Brně o tom, proč nasazení AI v právní oblasti selhávají z organizačních důvodů.
Čtyři způsoby, jak AI nasazení selhávají
Selhání souladu: Kancelář si koupí nástroj dříve, než si ujasní, jaký problém řeší. Žádný výchozí stav. Žádná definice úlohy. Žádná metrika úspěchu. Nástroj zůstane nevyužitý nebo produkuje výstupy, které nikdo neumí vyhodnotit.
Selhání procesu: Kancelář si ověří, že nástroj funguje v testu, ale nikdy z něj nevytvoří bezpečný, opakovatelný pracovní postup. Pokaždé, když ho někdo použije, improvizuje. Riziko se hromadí. Důvěra se eroduje.
Selhání interakce: Nástroj je dostupný, ale lidé jej nemohou, nechtějí nebo nemají důvod používat v běžné práci. Chytré řešení, které nikdo neotevře.
Selhání očekávání: Kancelář a její klienti od nástroje čekají různé věci. Co je pro jednu stranu měřitelnou hodnotou, druhá vnímá jako zklamání.
Tyto kategorie vycházejí z práce Kalleho Lyytinenho a Rudyho Hirschheima o selháních informačních systémů (1987), ale Fiala je naplnil pozorováními z právní praxe – situacemi, kdy si kanceláře za AI zaplatily, potvrdily, že v principu funguje, a přesto nezískaly hodnotu.
Co dělá právní práci specifickou
Právo není softwarový inženýring a náklady selhání nejsou stejné. Chyba v kontraktu stojí peníze. Chyba v interním nástroji často stojí čas. Důležitější je však: v právu musí být výstup dohledatelný. Klient musí pochopit, odkud doporučení pochází. A odpovědnost nese právník, ne nástroj.
To vše mění, jak by mělo AI být nasazeno.
„Úspory času v právu jsou vždy relativní vůči nákladu na ověření výstupu," vysvětlil Fiala. „Ušetříte třicet minut nástrojem, ale strávíte hodinu kontrolou toho, co vytvořil. Skutečná hodnota není v rychlosti modelu – je v procesu, kterému můžete věřit bez přepisu."
Tuto důvěru nezískáte od modelu. Získáte ji od organizace, která si úlohu promyslela, data připravila, postup navrhla a vybrala metriku, na kterou se všichni shodli.
Tři prvky, které to dělají skutečným
Ve své závěrečné poznámce Fiala poznatek zredukoval na tři vzájemně propojené části:
- Vhodná úloha. Konkrétní, jasně definovaná, měřitelná. Ne „zlepšit kontrolu kontraktů", ale „identifikovat klauzule o náhradě škody mimo tržní standard pro tohoto klienta v této jurisdikci."
- Ověřitelný postup. Ne „vrhni to na model a uvidíš, co se stane", ale „model běží na těchto datech, výstupy jdou do tohoto kroku kontroly, označené položky jdou touto cestou eskalace."
- Ekonomický důvod. Kancelář ví, co ji stojí tato práce ručně, co bude stát s nástrojem, a jaký je rozdíl.
Chybí-li jeden z těchto tří prvků, kancelář nemá způsob, jak zjistit, zda jí nástroj pomáhá.
Proč na tom záleží
AgiLawyer spolupracuje s advokátními kancelářemi a interními právními týmy dost dlouho na to, aby rozpoznala tyto vzory. Viděli jsme kanceláře, které si pospíchaly, kupovaly nástroje dříve, než si ujasňovaly, co chtějí automatizovat. Viděli jsme, jak technicky uspěly, ale organizačně selhaly – nástroj funguje, ale nikdo ho nepoužívá. Viděli jsme, jak měří špatné věci a zaměňují šum za signál.
Rozhovor o AI v právu se musí posunout. Není to o hledání lepšího modelu nebo rychlejšího API. Jde o budování organizací, které umí skutečně využít to, co modely už dnes umí.
To znamená začít úlohou, ne nástrojem. Začít jasným výchozím stavem, opakovatelným procesem a dohodou na tom, jak vypadá úspěch. To znamená chápat AI jako organizační rozhodnutí, ne technologické.
Konference CPIT v Brně svedla dohromady technologa, právníky a tvůrce politik, kterí se s touto otázkou potýkají. Práce je těžká. Ale struktura, kterou Fiala představil – a důkazy za ní – poskytují mapu.
