AI Act přichází.

Minulý týden schválil Evropský parlament Akt o umělé inteligenci. S ním přichází požadavky na větší transparentnost systémů umělé inteligence. Díky tomu budou mít uživatelé možnost obdržet vysvětlení proč a na základě čeho systémy umělé inteligence učinily svá rozhodnutí. Obsah vygenerovaný umělou inteligencí navíc bude muset být takto označen, což by mohlo pomoct v boji proti dezinformacím a deepfakes.

Akt o umělé inteligenci zavádí přístup založen na rizicích, který kategorizuje systémy umělé inteligence podle jejich potenciálního dopadu na naše životy a společnost. Zakázáno bude využití systémů umělé inteligence, které vykazují tzv. nepřijatelné riziko. Mezi takové systémy umělé inteligence se řadí ty které jsou manipulativní nebo využívají klamavé techniky vedoucí ke zhoršení možnosti uživatelů umělé inteligence informovaně se rozhodovat. Zakázáno bude také systémy umělé inteligence odvozovat citlivé informace, jako je náboženské nebo politické přesvědčení osob, nebo vytváření databází pro rozpoznávání obličejů.

Akt o umělé inteligenci neboli AI Act vstoupí v platnost v květnu a některé části poté nabydou účinnosti již do konce tohoto roku.

‍