Pro a proti – Nestranný robot (2019)

Přidal: Premek |

Duben 30, 2019

Evropa zatím váhá s vpuštěním umělé inteligence do soudnictví, přitom ve Spojených státech už roboti pomáhají soudcům při rozhodování o vině a trestu. O tom, jestli může být robot nestranný a neúplatný soudce, nebo ohrožuje právona spravedlivý proces, je dnešní debata Pro a proti. Moderuje Tomáš Pavlíček.

Hovoří Martin Richter z ministerstva spravedlnosti, který má na starosti elektronizaci soudnictví, a advokát a vysokoškolský pedagog Jiří Klega.

Natočeno 2019. Premiéra 1. 5. 2019 (ČRo Plus, 9:34 h.).

Lit.: Čihák, Ondřej – Pavlíček, Tomáš: Algoritmy by měly pomáhat, ale ne rozhodovat, říká o umělé inteligenci v justici expert. In web ČRo Plus, 1. květen 2019 (článek + nahrávka k poslechu). – Cit.: Umělá inteligence a rozhodování prostřednictvím algoritmů pomalu proniká i do oblasti práva. Patří roboti do systému justice? A může mít umělá inteligence pozitivní dopad na soudní řízení?

„Jako ministerstvo hledáme využití pro algoritmy, ale s umělou inteligencí nejsme ani na začátku,“ uvedl v pořadu Pro a proti ředitel odboru elektronizace justice při ministerstvu spravedlnosti Martin Richter.

Podle něj umělá inteligence bude jen pomocníkem justice, ale rozhodování musí být vždy pevně v rukou člověka. „Tedy někoho schopného vnímat také obecný význam spravedlnosti, etické rozměry a zohlednit to, co dopředu žádný program zohledňovat nemůže.“

Riziko je, že umělá inteligence, která by se učila na základě dat, které sbírá, bude přebírat špatná rozhodnutí a špatné lidské návyky, a pak z nich dělat závěry pro své výstupy. Proto vždy k informačním systémům přistupujeme s určitou rezervou, protože i oheň je dobrý sluha, ale špatný pán. Systémy proto směřujeme, aby pouze pomáhaly a nerozhodovaly. Martin Richter

Ministerstvo na žádném programu zatím nepracuje. „Abychom se vůbec mohli bavit o nastavování takovýchto sofistikovaných nástrojů, je potřeba v první řadě elektronizovat justici. Momentálně jsme ve fázi, kdy jsou soudní spisy z velké části písemné, takže pro jakýkoliv software neviditelné.“

„Proto se zaměřujeme na elektronizaci justice. Tak budeme moci shromažďovat a vyhodnocovat data, případně na ně nasazovat software nebo neuronové sítě, které se učí samy. Výhoda bude ale i pro jednotlivé strany soudních řízení, které budou moci nahlížet do soudních spisů a lépe komunikovat se soudem,“ shrnul Martin Richter.

Riziko vidím v profilování osob předem, říká právník Klega

„Algoritmy se používají už dnes, například k vyhledávání judikátu… Podstatou je urychlení procesu soudního řízení a zjednodušení práce soudců…. Ale s pojmem umělá inteligence bych byl zatím velmi opatrný,“ řekl advokát a vysokoškolský pedagog Jiří Klega.

Ten připomněl, že se nebavíme a ještě nejspíš dlouho nebudeme bavit o umělé inteligenci v tom smyslu, že bude rozhodovat zcela nezávisle na člověku. „Pořád mluvíme jen o automatizovaných systémech a jejich vstupech a výstupech.“

Nepředpokládal bych, že soudci v České republice budou slepě postupovat podle algoritmů. Osobně ale vidím riziko v profilování osob předem… Zásadní je nastavit nějak mantinely a základní principy pro používání umělé inteligence v budoucnu, a to tak, aby zároveň nezpomalovaly vývoj těchto technologií. Jiří Klega

Navíc je v celém systému stěžejní člověk, který data do systémů vkládá, vytváří algoritmus a vše nastavuje. „Toto nastavení může být odlišné v jednotlivých kulturách a státech podle norem právních nebo etických… Takže rizikoapřípadných pochybení jsou právě na straně lidského faktoru.“

„Stále vidím apel na straně člověka, protože se bavíme nikoliv o umělé a samostatně fungující inteligenci, ale o automatizovaných systémech. A je opravdu podstatné, jak je algoritmus nastaven a jaká pravidla, principy a zásady jsou pro něj předem dány,“ upozornil Jiří Klega.

Radiodokument