Velká část tuzemských internetových obchodů není připravena na nová pravidla evropského nařízení o využívání umělé inteligence (AI), které vstoupí v platnost 2. srpna. Jde zejména o povinnosti kolem transparentnosti používání AI, vztahující se na zákaznické chatboty, virtuální či hlasové asistenty, deepfakes a obecně na obsah generovaný AI. Společnostem, které nařízení poruší, hrozí pokuty až do výše 15 milionů eur, tedy přes 360 milionů Kč, nebo tří procent celosvětového obratu firmy. Vyplývá to z informací internetového srovnávače Heureka a odborníků, které oslovila ČTK.
Mohlo by Vás zajímat: Riziko nesplácení (Default risk)
AI Act dopadne i na běžné e-shopy
Heureka, která v ČR spolupracuje s více než 50.000 e-shopy, upozornila na to, že nové povinnosti se mohou týkat i běžných internetových obchodů. „AI Act se netýká jen technologických firem nebo velkých korporací. Pokud provozujete e-shop s AI chatbotem pro zákaznickou podporu nebo používáte umělou inteligenci při tvorbě obsahu, měli byste si ověřit, jakou roli zastáváte a jaké povinnosti se na vás vztahují. Nejde přitom jen o to, zda AI používáte, ale také o to, zda přesně víte, kde a jak ji využíváte,“ uvedl vedoucí produktu a vývoje Heureky Stanislav Sopko.
Mezi novinky s nejviditelnějším dopadem patří podle advokáta poradenské firmy Rödl Jaroslava Kuby jasné a včasné informování o tom, že zákazník či uživatel komunikuje prostřednictvím chatbotu či virtuálního nebo hlasového asistenta s umělou inteligencí. „Totéž platí pro AI agenty, kteří samostatně například rezervují, objednávají nebo vyřizují korespondenci: podle čerstvých pokynů Evropské komise musí prozradit nejen, že jsou umělou inteligencí, ale i za koho jednají,“ dodal Kuba.
„Tohle nejsou okrajové situace, ale každodenní scénáře pro velkou část e-shopů. Firmy, které budou mít problém, nebudou nutně ty, které znaly rizika, rozhodly se je podstoupit a třeba nakonec i chybovaly. Budou to především firmy, které předpokládaly, že je vše v pořádku, aniž by si to ověřily,“ dodala advokátka eLegal Karolína Houžvičková.
Mohlo by Vás také zajímat: Úvod do služby Cashback na Tipli.cz
Strach z právní nejistoty brzdí polovinu podniků
Jasně označený musí být i jakýkoli umělou inteligencí vytvořený či upravený obsah (obraz, zvuk, či video), připomínající reálné osoby a události, tedy tzv. deepfakes. Takové výstupy musí navíc být opatřeny strojově čitelným označením. Podle ředitele České asociace AI Lukáše Benzla je pro praxi klíčové nepokládat si otázku, zda to vytvořila AI, ale správná otázka zní spíš, kdo AI systém používá, v jaké roli, jaký obsah vzniká, komu je určen a jaké riziko omylu nebo klamání může vyvolat.
„Transparentnost podle AI Actu tedy není o mechanickém lepení ikon. Je o tom, aby člověk v rozhodujících situacích věděl, že jedná s AI nebo že sleduje obsah, který může působit jako realita, ale realitou není. Dobře nastavená transparentnost proto nemá AI brzdit. Má pomoci udržet důvěru tam, kde se hranice mezi lidskou komunikací, syntetickým obsahem a realitou začíná rozostřovat,“ uzavřel.
Na nedostatečnou orientaci firem v oblasti umělé inteligence upozorňují také data Eurostatu. Pro téměř 54 procent podniků, které zavedení AI zvažovaly, představovala překážku nejasnost právních důsledků a 53 procent mělo obavy z možného porušení pravidel ochrany osobních údajů a soukromí.
Čtěte dále: Ozios recenze
Zdroj: ČTK
