Umělá inteligence jako právní rádce: Skvělý sluha, ale nebezpečný pán

Umělá inteligence v oblasti práva dnes dokáže to, co ještě před pár lety znělo jako sci-fi. AI umí během sekund analyzovat stovky stran právních dokumentů, shrnout klíčové argumenty a poskytnout logicky znějící odpovědi na právní otázky. To, co by právníkovi trvalo hodiny, zvládne strojový algoritmus během okamžiku. Přesto však zatím nelze AI považovat za spolehlivého právního poradce – má totiž zásadní nedostatky, které nelze ignorovat.

Jedním z nejzávažnějších problémů AI v právním kontextu jsou tzv. halucinace – situace, kdy si model „vymýšlí“ neexistující informace. AI generuje text na základě pravděpodobnostních vzorců, nikoli skutečných znalostí či zkušeností. To může vést k uvedení neplatných zákonů, smyšlených soudních rozhodnutí nebo chybných právních závěrů, které na první pohled působí věrohodně, ale nemají žádný reálný základ.

Jeden z nejznámějších případů tohoto druhu se týká amerického právníka Stevena A. Schwartze. Ten při zastupování svého klienta ve sporu s leteckou společností podložil svou argumentaci několika judikáty, které dokonale podporovaly jeho tvrzení. Když však protistrana ani soudce tyto rozsudky nedokázali dohledat, vyšlo najevo, že je Schwartz získal prostřednictvím ChatGPT – a že AI si je jednoduše vymyslela. Tento případ jasně ukazuje, že umělá inteligence může produkovat smyšlené právní informace, aniž by to bylo na první pohled zřejmé.

Druhým problémem je nedostatek kontextu a zkušeností. AI sice může zpracovávat obrovské množství dat, ale nerozumí právnímu systému jako zkušený právník. Nechápe nuance konkrétního případu, nemá schopnost strategického myšlení ani nepředvídá praktické důsledky právního postupu. Největší přidanou hodnotou advokáta často není jen přesná odpověď na klientovu otázku, ale spíše přeformulování klientovy otázky tak, aby dávala smysl v kontextu příslušného právního řádu a aby co nejlépe odpovídala klientovým potřebám a představám. Proto AI zatím nemůže nahradit lidské odborníky, kteří právo nejen znají, ale také ho dokážou aplikovat v reálném životě.

Třetím problémem je nakládání s osobními údaji. Právní poradenství zpravidla pracuje s citlivými informacemi, jejichž únik může mít vážné důsledky. Při používání AI nástrojů hrozí riziko, že data budou neúmyslně sdílena s externími subjekty, nebo že modely uchovají části konverzací a využijí je v jiných odpovědích. To vyvolává otázky ohledně ochrany soukromí a souladu s právními předpisy, jako je zákon o zpracování osobních údajů nebo obecné nařízení o ochraně osobních údajů (GDPR).

Umělá inteligence má v oblasti práva značný potenciál, ale zatím je k němu zapotřebí přistupovat spíše jako k podpůrnému nástroji než ke kvalifikovanému právnímu poradenství. Může být skvělým pomocníkem při jednoduché rešerši nebo automatizaci rutinních úkolů, ale při klíčových rozhodnutích je nutná lidská kontrola. Spoléhat se na AI jako na nezpochybnitelný zdroj právní rady by mohlo vést k závažným chybám – a v právu platí, že chyby mohou být drahé.

V praxi není jednoduché pohlídat si všechny důležité právní povinnosti a skryté nástrahy. Pokud se chcete soustředit na uměleckou tvorbu a právní záležitosti nechat na expertech, neváhejte se obrátit na advokátní kancelář PLICKA & PARTNERS, kde se otázkami práva duševního vlastnictví zabýváme již mnoho let. Rádi vám poradíme s přípravou smluvní dokumentace, registrací ochranné známky nebo Vás zastoupíme v soudním řízení.

Dále by Vás mohlo zajímat: Testování ChatGPT: Jak si poradí s českým právem?