Kyberbezpečnostní firma Gen Digital vytvořila nástroj AI Data Checker, který dokáže prověřit, jak aplikace a služby umělé inteligence nakládají s daty uživatelů. Lidé tak mohou zjistit, jaké údaje tyto služby shromažďují a k čemu je mohou využívat. Nadnárodní firma Gen Digital, pod kterou patří třeba výrobci antivirových programů Avast či Norton, to oznámila v tiskové zprávě.
Mohlo by Vás zajímat: Riziko nesplácení (Default risk)
Rostoucí důvěra v AI agenty: Kdo má kontrolu nad vašimi daty?
AI v současnosti na PC podle údajů Genu používá zhruba třetina lidí a jejich podíl stále roste. S rostoucími schopnostmi AI se zvyšuje také důvěra, kterou do ní lidé vkládají. AI agenti tak získávají přístup ke stále většímu množství osobních informací, preferencím, historii prohlížení a dalším datům, aby mohli plnit zadané úkoly. Pro uživatele však může být obtížné zjistit, jaké informace konkrétní AI aplikace shromažďuje, jak je může využívat a jaké možnosti kontroly nad svými daty mají.
„U AI aplikací je důležité rozlišovat mezi daty, která potřebují ke svému fungování, a daty, která mohou využívat k dalším účelům, například k trénování modelů. Uživatelé by měli mít možnost transparentně zjistit, jaké údaje poskytují, jak dlouho jsou uchovávány a komu mohou být zpřístupněny. Podobné nástroje mohou zvýšit informovanost, jejich přínos ale závisí na přesnosti a aktuálnosti poskytovaných informací. Zásadní je také to, aby ochrana soukromí byla součástí návrhu AI systémů už od počátku,“ uvedl ředitel České asociace umělé inteligence Lukáš Benzl.
Přečtěte si také: eToro vs. XTB
Autonomní agenti a citlivá data: Kde nastavit hranice oprávnění?
Lidé jednoduše zadají svůj e-mail nebo uživatelské jméno a AI Data Checker jim zobrazí seznam AI aplikací a služeb propojených s jejich účtem. Nástroj kontroluje také účty v aplikacích, které samy AI nevyužívají, ale uživatelé v nich mohou sdílet osobní údaje. Získají tak přehled o tom, jaká data jednotlivé aplikace a služby shromažďují, zda je mohou využívat k trénování a vylepšování AI modelů, jak dlouho je mohou uchovávat a jaké možnosti kontroly nad soukromím nabízejí. Místo toho, aby si lidé museli číst zdlouhavé zásady o ochraně osobních údajů nebo se stali experty na nakládání s daty v oblasti umělé inteligence, AI Data Checker jim vše shrne.
Rozvoj AI agentů podle ředitelky technologické skupiny Creative Dock Gabriely Teissing představuje kvalitativní posun v digitalizaci. „Nejde už jen o generování obsahu, ale o autonomní provádění úkolů napříč aplikacemi a systémy, často s přístupem k citlivým uživatelským datům. Zásadní proto bude nastavení pravidel pro správu oprávnění, kontrolu datových toků a odpovědnost za rozhodování agentů. Důvěryhodnost těchto systémů se stane jedním z klíčových faktorů jejich širšího přijetí,“ doplnila. Gen Digital je globální společnost, která vznikla spojením značek jako Norton, Avast, LifeLock, MoneyLion, AVG, Avira nebo CCleaner. Zabývá se vývojem bezpečnostních aplikací a antivirových programů.
Čtěte dále: Ozios recenze
Zdroj: ČTK
