DALŠÍ VLNA AI ACTU: KDYŽ ZA VÁS MLUVÍ AI, ZÁKAZNÍK BY TO MĚL VĚDĚT

Slyšeli jste už o AI Actu? Ať už ano nebo ne, je dobré nyní zpozornět. Od 2. srpna 2026 totiž začne platit další důležitá část evropského nařízení, které stanoví právní rámec implementaci a užívání nástrojů umělé inteligence v Evropské unii, označovaného jako „AI Act“.

AI Act se zatím v praxi často spojoval hlavně s vývojáři AI, velkými technologickými firmami nebo zakázanými AI praktikami. Od 2. srpna 2026 se ale začnou naplno uplatňovat i pravidla, která se mohou vztahovat i na běžné společnosti, které AI používají navenek vůči klientům nebo veřejnosti.

Pokud Vaše společnost používá AI například prostřednictvím chatbotů na webových stránkách, je vhodné zajistit, aby uživatel jasně věděl, že komunikuje s AI. Mimo chatboty se nová část AI Actu bude týkat i jiného AI generovaného obsahu, deepfaků nebo některých nástrojů pracujících s emocemi či biometrickými údaji.

Co si pod takovými nástroji představit? Ne, skutečně se nejedná o sci-fi, ale o nástroje, které se čím dál tím častěji začínají používat. Jedná se například o kamery sledující obličej zákazníka a vyhodnocující, jestli je spokojený, naštvaný nebo znuděný.

Co přesně začne platit

AI Act se v rámci uplatňování nových pravidel zaměřuje zejména na povinnosti transparentnosti. Smysl je jednoduchý: zákazníka či veřejnost již nestačí obecně informovat o tom, že AI ve společnosti používáte. Tam, kde to AI Act vyžaduje, musí být člověk informován konkrétně v souvislosti s danou interakcí, systémem nebo obsahem.

Pokud tedy některý z AI systémů, které například na svých webových stránkách používáte, komunikuje s lidmi, je potřeba zajistit, aby uživatel věděl, že nejedná s člověkem, ale s umělou inteligencí. Existuje zde jedna výjimka, a to pokud je z povahy systému a okolností jeho použití zjevné, že se jedná o AI. V takovém případě nemusí být tato informace dodatečně uváděna.

Jednoduchý příklad dvou společností:

• První společnost používá na svém webu AI chatbota pomocí dialogového okénka. Chatbot je označen názvem „Pavel, Váš asistent při nákupu“ a má přiloženou fotku, která vypadá jako skutečný člověk.
• Druhá společnost používá na svém webu AI chatbota pomocí dialogového okénka. Chatbot je označen názvem „Firmobot, Váš AI asistent při nákupu“ a má přiloženou ikonku robotického emoji.

U které z variant si myslíte, že by podmínky AI Actu spíše splňovala, a u které si naopak myslíte, že se Vás web snaží oklamat v tom, že nejednáte s člověkem?

Ostatní AI generovaný obsah

Samostatná pravidla dopadají také na poskytovatele AI systémů, které generují syntetický zvuk, obraz, video nebo text. Ti musí zajistit, aby výstupy byly označeny ve strojově čitelném formátu a rozpoznatelné jako uměle vytvořené nebo upravené.

Co si pod strojově čitelným formátem představit? Na rozdíl od dříve zmíněného požadavku na to, aby člověk byl schopný rozpoznat, že se jedná o AI, se v tomto případě jedná o možnost jiných nástrojů rozpoznat, že se jedná o AI obsah. Může jít například o metadata v souboru nebo digitální vodoznak na obrázku, který lidské oko jen tak nezachytí, ale detekční systém již ano.

Dříve zmíněné nástroje pro rozpoznávání emocí nebo biometrickou kategorizaci, které připomínají dystopickou budoucnost, se samozřejmě AI Actu nevyhnou. Pokud společnost takové systémy používá, musí být osoby, které jsou takovému systému vystaveny, informovány o tom, že tyto systémy fungují na bázi AI. Protože tyto systémy zpravidla pracují s osobními údaji, je potřeba řešit také splnění podmínek ochrany osobních údajů podle GDPR.

Vedle výše zmíněných oblastí, které považujeme za relevantní kvůli jejich častějšímu výskytu, se budou nové povinnosti vztahovat mimo jiné i na textový obsah publikovaný za účelem informování veřejnosti o otázkách veřejného zájmu a na tzv. deepfake.

Co to pro Vás znamená prakticky

V dnešní době už je vzácné, aby společnosti AI vůbec nepoužívaly.

AI není jen nástrojem, který práci nahrazuje, ale také nástrojem, který ji může zefektivnit rozsahem i kvalitou výstupu. Pokud má Vaše společnost takový přístup k práci, je vhodné začít její používání právně ošetřovat.

Používáte-li chatboty, AI generované texty, obrázky, zvuky a videa a ve vzácnějších případech dokonce nástroje analyzující emoce nebo biometrické znaky, je na čase začít řešit jejich řádné označení a nastavit si uvnitř společnosti jasná pravidla a odpovědnost za kontrolu výstupů.

AI Act už není jen problém technologických gigantů. V MACEK.LEGAL Vám pomůžeme s posouzením dopadu, nastavením pravidel a úpravou webu, obchodní komunikace nebo přípravou interních směrnic.

#AI act #AI compliance