V zemích Evropské unie začínají platit první zásadní ustanovení unijního Aktu o umělé inteligenci, která se zaměřují zejména na transparentnost. Chatboty, deepfakes, virtuální influenceři i texty o veřejném zájmu generované AI musí být nově jasně označeny. Za porušení nových pravidel hrozí firmám pokuty až 15 milionů eur.
V zemích Evropské unie se od dnešního dne začínají uplatňovat některá zásadní ustanovení unijního Aktu o umělé inteligenci (AI), zejména pravidla transparentnosti pro vybrané systémy AI. Znamená to například povinnost informovat uživatele, že komunikuje s chatbotem či jiným systémem umělé inteligence. Také takzvané deepfakes (obrázky, zvukové nahrávky či videa vytvořené nebo upravené pomocí AI, které mohou působit jako autentické) budou muset být jasně označeny jako uměle vytvořené.
Český telekomunikační úřad (ČTÚ) v souvislosti s tím upozorňuje i na to, že stejná pravidla platí také pro text, jenž je zveřejněn za účelem informování veřejnosti o záležitostech veřejného zájmu, který je generovaný nebo manipulovaný AI systémem. "ČTÚ v tomto směru upozorňuje, že podle čl. 50 odst. 5 AI Actu je třeba využívat jasné a rozlišitelné způsoby označení. V praxi lze využít například označení nebo ikony typu AI generated pro plně generovaný obsah nebo AI modified" pro obsah upravený pomocí AI," stojí v prohlášení úřadu, který bude v Česku dohlížet na dodržování pravidel.
Začíná rovněž vymáhání pravidel. Národní dozorové orgány i Evropská komise získávají pravomoci ukládat sankce za porušení ustanovení, která jsou již použitelná - tedy zejména zákazů nepřípustných praktik, ale nově i transparentnosti. Firmám mohou hrozit vysoké pokuty, které v případě porušení pravidel transparentnosti mohou dosáhnout až 15 milionů eur nebo tří procent celosvětového ročního obratu společnosti.
Cílem těchto opatření je podle Evropské komise omezit klamání a manipulaci a pomoci lidem činit informovaná rozhodnutí. Firmám zároveň přinášejí jasnější povinnosti a praktický způsob, jak prokázat soulad s pravidly.
"Mezi novinky s nejviditelnějším dopadem patří povinnost jasně a včas informovat o tom, že zákazník či uživatel komunikuje prostřednictvím chatbotu či virtuálního nebo hlasového asistenta s umělou inteligencí," uvedl k novým pravidlům český advokát Jaroslav Kuba z poradenské společnosti Rödl. "Totéž platí pro AI agenty, kteří samostatně například rezervují, objednávají nebo vyřizují korespondenci: podle nových pokynů Evropské komise musí prozradit nejen že jsou umělou inteligencí, ale i za koho jednají," dodal.
Mezi takzvané deepfakes Evropská komise podle českého advokáta výslovně řadí i reklamní vizuály a produktové fotografie vytvořené umělou inteligencí, pokud mohou klamat o skutečném vzhledu nebo vlastnostech výrobku, nebo virtuální influencery.
