S právními podáními, na kterých se negativně podepsala halucinující umělá inteligence (AI), se už setkal nejen Ústavní soud, ale také Nejvyšší správní soud (NSS) a spolek na podporu nezávislé justice Šalamoun.
Forma bývá zdánlivě bezvadná, ovšem citace vedou k neexistujícím rozsudkům nebo se argumentace míjí s podstatou sporu. Spolek kvůli tomu vyzval advokáty, aby AI nepoužívali k automatickému psaní ústavních stížností a jiných zásadních podání. Podobné problémy zaznamenali i ve světě.
Generativní AI se v advokacii i jiných právních oborech využívá stále častěji, existují i specializované nástroje určené třeba k rešerším judikatury. V posledních dvou letech se však zároveň ve světě objevují případy, kdy AI takzvaně halucinovala, tedy si například vymyslela neexistující precedenty, ale právní profesionál to nerozpoznal a podklady využil. Příklady shromažďuje francouzský výzkumník Damien Charlotin, v databázi jich má stovky, nejvíce v USA, ale také třeba v Zimbabwe.
AI si i v Česku vymyslela rozsudky
Jediný český záznam v databázi se týká rozhodování NSS. Obdržel obsáhlá vyjádření ke kasační stížnosti, ovšem těžce uchopitelná, s mimoběžnou argumentaci, včetně "absolutně irelevantních" bodů. Hlavní problém spočíval v odkazech na starší rozsudky. Část vůbec neexistovala, případně neobsahovaly uvedené citace. "Ať již daná vyjádření psal kdokoliv či cokoliv, soud tyto ve svém souhrnu nepovažoval pro danou věc za jakkoliv přínosné, a náklady na jejich vznik proto nemohl posoudit jako důvodně vynaložené," stojí v rozhodnutí.
Vypořádat se s takovým podáním je náročné a zbytečně to prodlužuje řízení, plyne z rozhodnutí NSS. Podobně argumentoval také Ústavní soud, který uložil pořádkovou pokutu pražskému advokátovi. Při psaní stížnosti využil AI a výsledek nezkontroloval. Stížnost odkazovala na neexistující judikaturu. Uvedl soud v omyl a zbytečně komplikoval a zdržoval jeho postup, napsal v usnesení soudce Tomáš Langášek. Zdůraznil, že advokát může použít různé nástroje, ale jako profesionál přebírá za podání plnou odpovědnost. Ústavní soud ocenil následný přístup advokáta, který pokutu obratem uhradil a zaslal omluvu.
Právní sci-fi žánr
Na podobný případ nově upozornil spolek Šalamoun. V trestní věci, kterou monitoruje, prostudoval odeslanou ústavní stížnost o 91 stranách. Podle spolku je zjevné, že text tvořila generativní AI. Část citovaných nálezů neexistuje, některé citace nemají obsahovou souvislost s případem. Podle spolku takový advokátův postup poškozuje klienta, protože snižuje jeho šanci na úspěch.
"Ústavní stížnost běžně stojí vyšší desítky tisíc korun. Pokud má klient za tyto peníze dostat dokument, kde advokát nekontroluje realitu citací a spoléhá na systém, který má vrozenou tendenci halucinovat, je to nejdražší vstupenka do právního sci-fi žánru, jaká je na českém trhu k dispozici," napsal na webu spolku Václav Peričevič.
Spolek ve výzvě advokátům uvedl, že AI může být nanejvýš pomocný nástroj, nikoli autor textu, a že jakýkoli výstup musí advokát osobně ověřit. Advokátní komora by se podle spolku měla systematicky zabývat případy, kdy jsou klienti vystaveni riziku jen proto, že se jejich zástupce spolehne na "černou skříňku" bez elementární kontroly.
Jak používat AI v právu? Chyby už se staly
Komora už v roce 2023 vydala stanovisko, podle kterého advokát v souladu se zákonem a stavovskými předpisy může AI využít v souvislosti s poskytováním právních služeb. Stanovisko ovšem varuje před nepředvídatelností výstupů a zdůrazňuje odpovědnost advokáta a opatrnost při zpracovávání klientských údajů.
Navzdory excesům už si nástroje AI vydobyly v právním světě své místo. Ústavní soud nasadil AI asistenta pro vyhledávání ve své databázi. Soudcovská unie v říjnu vyzvala politiky, aby justici umožnili plné využití programů na přepis mluveného slova do textu a nových nástrojů umělé inteligence.
Ve světě už podle Charlotinovy databáze nastaly i situace, kdy výstup z halucinující umělé inteligence využil nikoliv advokát, ale soudce. I v řízení před českým Ústavním soudem si firma z Chebu stěžovala na předcházející verdikt NSS. Působí prý dojmem, "jako by jej ze zadaných informací, v požadovaných intencích a rozsahu vygenerovala umělá inteligence, bez jakékoliv následné revize". ÚS ale takovou kritiku považoval za nepřípadnou a nevhodnou, verdikt naopak pokládal za logický řádně odůvodněný.
