Shadow AI rok poté: Více než 80 % zaměstnanců nahrává firemní data do AI, o které IT neví

Pondělí, 8:42. Vaše obchodní ředitelka kopíruje připravovanou nabídku za 14 milionů korun do ChatGPT, aby ji „učesala“. Senior developer prosí Cursor o revizi proprietárního algoritmu, který jste vyvíjeli dva roky. Marketingová praktikantka přepisuje záznam ze schůzky přes Otter.ai do svého osobního Notion. Vaše IT oddělení o ničem z toho neví. Žádný z těchto nástrojů není ve firemním inventáři.

Společnost IBM letos spočítala, že každá pátá firma kvůli takovým momentům utrpěla únik dat, který byl v průměru o 670 tisíc dolarů dražší než „klasický“ incident. Mezitím více než 80 % zaměstnanců podle průzkumu UpGuard používá AI nástroje, které IT nezná. A co je nejvíce alarmující: z firem, které IBM eviduje jako postižené únikem dat spojeným s AI, jich 97 % nemělo zavedeny žádné kontroly přístupu.

Vítejte ve světě Shadow AI. Rok poté, co jsme začali říkat, že ChatGPT je „budoucnost práce“, nikdo ve firmě pořádně neřeší, kde leží data, která do něj denně tečou.

Shrnutí pro ty, kteří nemají čas:

• Shadow AI je horší než klasické Shadow IT. Data, která zaměstnanec vloží do veřejného ChatGPT, už nelze odvolat. Podle OWASP LLM02: Sensitive Information Disclosure se stávají součástí modelu nebo jeho logů, na rozdíl od souboru v Dropboxu, který lze smazat.
• Jedna z pěti firem už zažila únik dat kvůli Shadow AI. Tento typ incidentu je podle IBM Cost of a Data Breach 2025 v průměru o 670 000 USD dražší než jiné úniky. Z firem s AI-související bezpečnostní událostí nemělo 97 % žádné kontroly přístupu k AI a 63 % firem s únikem dat obecně postrádá strategii pro řízení AI.
• Zákazy ChatGPT problém nevyřeší, často ho zhoršují. Průzkum UpGuard ukazuje paradox: zaměstnanci, kteří absolvovali AI školení, používají neschválené nástroje nejčastěji. 41 % zaměstnanců aktivně obchází blokované aplikace.
• V roce 2026 hrozí trojnásobné regulační riziko. AI Act (sankce až 35 mil. EUR), nový Zákon o kybernetické bezpečnosti (až 250 mil. Kč) a GDPR (až 20 mil. EUR) vytvářejí komplexní síť povinností, které Shadow AI přímo porušuje.
• Povinnost školit zaměstnance platí už od února 2025. Článek 4 AI Actu vyžaduje zajištění „dostatečné úrovně AI gramotnosti“ u všech zaměstnanců, kteří s AI pracují. Tato povinnost je již v platnosti.
• Co funguje: Kombinace schválené podnikové AI (M365 Copilot, ChatGPT Enterprise, Claude for Work), nástrojů pro prevenci ztráty dat (DLP/CASB), automatického objevování (SSPM) a praktického školení.

Co je Shadow AI a proč je strukturálně horší než Shadow IT

Termín „Shadow IT“ známe už desítky let. Označuje situaci, kdy zaměstnanci používají IT systémy bez schválení IT oddělení – například osobní Dropbox místo schváleného firemního úložiště. Jde o známý problém s definovanými riziky a řešeními.

Shadow AI neboli „stínová umělá inteligence“ je podle definice IBM používání AI nástrojů, modelů a služeb zaměstnanci bez vědomí, schválení nebo dohledu IT a bezpečnostních týmů. Na první pohled se to může zdát jako pouhá variace na staré téma, ale existují tři zásadní rozdíly, které z Shadow AI dělají mnohem závažnější hrozbu.

1. Data nelze odvolat. Pokud zaměstnanec nahraje citlivý soubor do osobního Dropboxu, lze ho smazat. Přístup lze zrušit. U Shadow AI tato možnost neexistuje ve stejné formě. Jakmile je smlouva, zdrojový kód nebo seznam klientů vložen do veřejné (typicky bezplatné) verze jazykového modelu (LLM), vaše data proudí do logů, retenčních systémů a případně subprocessorů poskytovatele – bez smlouvy o zpracování osobních údajů, bez sjednané retenční politiky a bez auditního práva. U spotřebitelských verzí ChatGPT navíc mohou být vstupy použity ke zlepšování modelu, pokud si to uživatel aktivně nevypne. Tam, kde u Dropboxu smažete soubor, tady nemáte ani přehled, co se s daty děje.
2. Detekce je podstatně složitější. Klasické Shadow IT lze často odhalit analýzou síťového provozu, faktur nebo inventářem nainstalovaného softwaru. Shadow AI je mnohem nenápadnější. Zaměstnanec se přihlásí ke ChatGPT svým soukromým Google účtem přes běžný webový prohlížeč. Z pohledu sítě se jedná o legitimní, šifrovaný provoz. K odhalení je potřeba monitoring zaměřený na identitu a chování, nikoliv jen na stroje a sítě.
3. Data nejsou pasivně uložena, ale aktivně zpracovávána. Dropbox soubor pouze uloží. AI nástroj data aktivně analyzuje, učí se z nich a může je uchovávat ve svých vahách nebo logovacích systémech. To představuje riziko na jiné úrovni, které experti z OWASP v aktuální edici Top 10 for LLM Applications 2025 klasifikují jako LLM02: Sensitive Information Disclosure.

„Jakmile citlivá data vstoupí do veřejného AI modelu, nelze je odvolat. Žádný DPO vám nepošle takedown notice tréninkovému setu. To není Dropbox, ze kterého soubor smažete. To je fyzikální vlastnost technologie.“ – Patrik Žák, SysNetShield

Tvrdá data 2025–2026: Jedna z pěti firem už zažila incident

Nejde o teoretickou hrozbu. Nejnovější data z průmyslových reportů kreslí znepokojivý obrázek o tom, jak rychle se Shadow AI stalo běžnou součástí firemního prostředí a jaké to má následky.

Hlavní zjištění z IBM Cost of a Data Breach Report 2025, který analyzoval data od 600 organizací, jsou jednoznačná:

• 20 % firem zažilo únik dat způsobený přímo Shadow AI.
• Tento typ incidentu stál firmy v průměru o 670 000 USD více než ostatní úniky dat sledované ve stejném reportu.
• Únik dat přímo v AI modelech nebo aplikacích (užší kategorie, 13 % vzorku IBM) hlásilo méně firem, ale 97 % z nich nemělo zavedeny žádné kontroly přístupu k AI.
• Napříč všemi firmami, které v roce 2025 zažily jakýkoliv únik dat, 63 % nemělo politiku pro řízení AI, nebo ji teprve připravovalo.

Průzkum State of Shadow AI Report od UpGuard z listopadu 2025 (celkem 1 562 respondentů: 542 bezpečnostních manažerů a 1 020 zaměstnanců; data sbírána v červenci a srpnu 2025) tato zjištění dále prohlubuje. Více než 80 % zaměstnanců přiznává, že používá neschválené AI nástroje pro pracovní účely. Ještě překvapivější číslo: 88 % bezpečnostních manažerů dělá totéž.

Tento trend potvrzují i starší data. Už v roce 2024 Microsoft & LinkedIn Work Trend Index zjistil, že 78 % uživatelů AI si do práce nosí vlastní nástroje (fenomén „Bring Your Own AI“). Podle Netskope Cloud and Threat Report 2025 89 % firem aktivně používá alespoň jednu generativní AI aplikaci. Průměrná firma jich má sedm, čtvrtina firem patnáct a více.

Česká republika není výjimkou. Podle průzkumu AI Momentum 2026 od České asociace umělé inteligence a Hospodářské komory (vzorek 1 033 firem, sběr listopad–prosinec 2025) již téměř 90 % českých firem počítá s nasazením AI v roce 2026. Bez jasných pravidel se však vystavují stejným rizikům.

Kde to ve firmě vzniká: 6 typů Shadow AI

Shadow AI není jen o tom, že někdo otevře ChatGPT v prohlížeči. Hrozba má mnoho podob a často se skrývá v nástrojích, které už dávno používáte. Zde je šest nejčastějších kategorií, se kterými se setkáváme u našich klientů:

1. Veřejné chatboty v prohlížeči: Nejběžnější forma. Zaměstnanci používají své osobní účty pro přístup k nástrojům jako ChatGPT, Claude nebo Gemini. Kopírují do nich citlivé e-maily, interní dokumenty nebo data klientů.
2. Pluginy do vývojářských prostředí (IDE): Vývojáři si instalují nástroje jako Cursor, GitHub Copilot s osobním účtem nebo Continue.dev. Tyto pluginy často odesílají části zdrojového kódu – vašeho intelektuálního vlastnictví – na externí servery za účelem analýzy a doplňování.
3. Osobní placené účty na pracovních datech: Zaměstnanec si sám platí ChatGPT Plus nebo Claude Pro, aby získal lepší funkce. Z pohledu bezpečnosti je to však stále neschválený nástroj bez jakékoliv firemní kontroly nad daty nebo auditu.
4. AI funkce ve schválených SaaS nástrojích: Mnoho aplikací, které vaše firma už používá, v sobě dnes obsahuje AI funkce aktivované bez vědomí IT. Notion AI, Slack AI, Grammarly, Otter.ai pro přepisy schůzek nebo Zoom AI Companion. Praktická rychlá výhra: ve Slack admin konzoli (Settings → Slack AI → Data retention) i v Zoom Admin Portal (AI Companion Settings) ověřte, jestli tyto funkce neběží ve vašem tenantu bez schválení. Většinou ano.
5. Lokálně spuštěné modely: Technicky zdatnější zaměstnanci si mohou stáhnout a spustit open-source modely (např. přes Ollama nebo LM Studio) přímo na svém firemním notebooku. Ačkoliv data neopouštějí zařízení, obchází se tím jakýkoliv firemní dohled, a navíc může jít o modely z rizikových zdrojů.
6. Vlastní AI automatizace a agenti: Nástroje jako Zapier nebo Make.com umožňují i netechnickým uživatelům vytvářet automatizace, které propojují firemní aplikace (např. Gmail) s externími AI službami. Zaměstnanec si tak může nevědomky postavit proces, který automaticky posílá citlivá data z firemní schránky do OpenAI.

Tři incidenty, které byste měli znát

Příklady z praxe ukazují, že rizika Shadow AI nejsou hypotetická. I ty největší technologické firmy se potýkaly s následky nekontrolovaného používání AI.

Samsung a únik zdrojového kódu (březen 2023)

Krátce poté, co společnost Samsung povolila svým zaměstnancům používání ChatGPT, došlo během pouhých 20 dnů ke třem samostatným únikům citlivých dat. Jak jako první reportoval The Register s odkazem na korejská média, inženýři nahráli do chatbota části proprietárního zdrojového kódu pro polovodičové databáze, kód pro detekci vadného vybavení a také přepisy interních porad. Reakce Samsungu byla rychlá: v dubnu 2023 plošně zakázal používání generativní AI na firemních zařízeních.

Slack AI a exfiltrace dat ze soukromých kanálů (srpen 2024)

Tento případ ukazuje, že zranitelné mohou být i schválené, podnikové AI nástroje. Výzkumníci ze společnosti PromptArmor demonstrovali, jak lze pomocí speciálně vytvořené zprávy ve veřejném Slack kanálu donutit Slack AI, aby při odpovědi na legitimní dotaz uživatele zároveň exfiltrovala data ze soukromých kanálů, do kterých útočník neměl vůbec přístup. Tento typ útoku, známý jako indirect prompt injection, je jedním z důvodů, proč je důkladné testování a red teaming AI aplikací nezbytné.

Desktopová aplikace ChatGPT a ukládání historie v plaintextu (červenec 2024)

Bezpečnostní výzkumník Pedro José Pereira Vieito odhalil, že desktopová aplikace ChatGPT pro macOS ukládala celou historii konverzací v nešifrované, čitelné podobě (plaintext) do systémové složky. To znamenalo, že jakákoliv jiná aplikace nebo malware s přístupem k souborovému systému mohl číst veškerou komunikaci uživatele s AI, včetně citlivých hesel, API klíčů nebo obchodních tajemství. OpenAI chybu rychle opravila, ale incident je připomínkou, že i nástroje od největších hráčů mohou mít vážné bezpečnostní nedostatky.

Český kontext: NÚKIB, DeepSeek a šedá zóna pro střední firmy

České regulační a bezpečnostní prostředí na nástup AI reaguje rychle. Pro firmy to znamená nutnost sledovat nejen globální trendy, ale i lokální specifika.

Hlavním momentem bylo varování Národního úřadu pro kybernetickou a informační bezpečnost (NÚKIB) z 10. července 2025 před produkty čínské společnosti DeepSeek. NÚKIB upozornil na rizika spojená se sběrem dat a jejich možným zneužitím ze strany čínských státních orgánů. Toto varování bylo precedentem, který jasně ukázal, že rizika AI nejsou jen technická, ale i geopolitická a týkají se dodavatelského řetězce.

Současně vstupuje v účinnost nový Zákon o kybernetické bezpečnosti (č. 264/2025 Sb.), který od 1. listopadu 2025 zavádí přísnější pravidla pro zhruba 6 000 českých firem. Mezi hlavní povinnosti patří řízení rizik v dodavatelském řetězci, což se přímo vztahuje i na poskytovatele AI služeb. Statutární orgány navíc nesou osobní odpovědnost za dodržování těchto pravidel.

Že hrozba není teoretická, ilustruje i náš interní red teaming experiment, ve kterém autonomní AI agent dosáhl plné kompromitace testovací firemní sítě za 21 hodin z jediného úvodního příkazu. Rychlost, s jakou dnes útočníci experimentují s autonomními agenty, tlačí obranu k modelu continuous threat exposure management (CTEM): pravidelný penetrační test jednou ročně přestává stačit, dává smysl přejít na průběžné red teaming cykly a validaci detekce.

Proč plošný zákaz ChatGPT problém nevyřeší (a často ho zhoršuje)

První instinktivní reakcí mnoha IT oddělení na hrozbu Shadow AI je plošný zákaz. Zablokovat přístup na „chat.openai.com“ a doufat, že problém zmizí. Data a psychologie chování zaměstnanců však ukazují, že tento přístup je nejen neefektivní, ale často i kontraproduktivní.

• UpGuard paradox: Průzkum od UpGuard odhalil překvapivý jev. Zaměstnanci, kteří absolvovali AI školení, používali neschválené nástroje nejčastěji. Zákaz bez nabídnutí alternativy vede k tomu, že zaměstnanci přejdou do ještě hlubšího stínu – začnou používat osobní telefony, mobilní data nebo VPN, aby se zákazu vyhnuli.
• Zaměstnanci zákazy aktivně obcházejí: Podle průzkumu UpGuard 41 % zaměstnanců aktivně hledá cesty, jak zablokované AI nástroje obejít.
• Vedení jde špatným příkladem: Podle UpGuard používá seniorní management Shadow AI o 50 % častěji než řadoví zaměstnanci. Pokud vedení firmy samo nedodržuje pravidla, nelze očekávat jejich dodržování od zbytku týmu.
• Ztráta produktivity a konkurenceschopnosti: Zákaz AI bez náhrady firmu jednoduše zpomalí. Průzkum Microsoft & LinkedIn Work Trend Index ukazuje, že 78 % uživatelů AI si do práce nosí vlastní nástroje – právě proto, že s nimi zvládají odbavit víc práce a nechtějí čekat, až jim zaměstnavatel dodá oficiální verzi. Plošný zákaz znamená dobrovolné vzdání se této výhody.

Jak vyplývá z průzkumu UpGuard, blokování není dlouhodobé řešení. Budoucnost není v zákazu, ale v řízeném a bezpečném nasazení.

„Plošný zákaz ChatGPT je výhra na týden. Pak vám zaměstnanci přejdou na DeepSeek na osobním telefonu, na lokální Ollamu, na cokoli, co IT nevidí. Shadow AI se nedá zakázat. Dá se jen převést pod kontrolu – schválená alternativa plus monitoring.“ – Patrik Žák, SysNetShield

Co skutečně funguje: Třístupňová ochrana

Efektivní strategie proti Shadow AI nestojí na zákazu, ale na kombinaci tří pilířů: nabídnutí bezpečné alternativy, zavedení technických kontrol a zajištění viditelnosti.

1. úroveň: Poskytněte schválenou podnikovou AI

Nejlepším způsobem, jak omezit používání neschválených nástrojů, je poskytnout zaměstnancům oficiální, bezpečnou a funkční alternativu. Tím pokryjete 80 % jejich potřeb a snížíte motivaci hledat řešení jinde. Výběr závisí na vaší stávající infrastruktuře a potřebách:

• Microsoft 365 Copilot: Ideální volba pro firmy, které již intenzivně využívají ekosystém Microsoft 365 (licence E3/E5). Výhodou je, že veškerá data zůstávají uvnitř vašeho firemního prostředí (tenantu) a podléhají stejným bezpečnostním a compliance pravidlům jako ostatní data v M365.
• ChatGPT Enterprise: Vhodné pro firmy, kde jsou zaměstnanci již zvyklí na ChatGPT a jeho pokročilé funkce. Enterprise verze běží v odděleném prostředí, data se nepoužívají pro trénování modelů OpenAI a nabízí pokročilé administrátorské nástroje, auditní logy a certifikaci SOC 2.
• Claude for Work / Anthropic Team: Silná alternativa pro organizace, které kladou maximální důraz na bezpečnost a compliance. Anthropic nabízí pokročilé bezpečnostní certifikace (SOC 2 Type II, ISO 27001:2022, ISO 42001:2023) a je často preferován ve finančním a právním sektoru.

2. úroveň: Nasaďte nástroje pro prevenci a kontrolu (DLP/CASB)

Samotné poskytnutí schváleného nástroje nestačí. Je nutné zavést technická opatření, která monitorují a v případě potřeby blokují odtok citlivých dat do neschválených služeb. Do této kategorie spadají:

• Data Loss Prevention (DLP): Systémy, které identifikují citlivá data (např. rodná čísla, čísla kreditních karet, vlastní hesla a fráze z interních projektů) a blokují jejich odeslání do neschválených cílů, jako je veřejný ChatGPT.
• Cloud Access Security Broker (CASB): Nástroje jako Netskope nebo Zscaler, které sedí mezi vašimi uživateli a cloudovými službami. Umožňují detailní monitoring a řízení přístupu k AI aplikacím.
• Bezpečnostní rozšíření do prohlížečů: Moderní řešení jako LayerX, Cyberhaven nebo enterprise prohlížeče typu Island monitorují aktivitu přímo v prohlížeči a dokážou v reálném čase analyzovat i blokovat vkládání citlivých dat do promptů. Výhoda: fungují bez TLS inspection.

Právní upozornění pro CZ kontext: DLP nad AI provozem vyžaduje TLS inspection (SSL inspection na proxy nebo CASB). V Česku to naráží na § 316 zákoníku práce, podle kterého musí být monitoring zaměstnanců upraven vnitřním předpisem a zaměstnanci o něm prokazatelně informováni. Bez splnění této povinnosti je DLP logging právně napadnutelný. Browser-level řešení jako LayerX umožňují alternativu bez nutnosti TLS inspection.

3. úroveň: Zajistěte si viditelnost (SSPM)

Nevidíte, co nechráníte. Nástroje kategorie SaaS Security Posture Management (SSPM), jako jsou Adaptive Shield, AppOmni, Reco nebo Nudge Security, vám poskytnou přehled o tom, jaké všechny cloudové aplikace (včetně AI) jsou ve vaší firmě používány. Dokážou analyzovat přihlášení přes firemní účty (OAuth) a odhalit integrace, o kterých vaše IT oddělení nemělo tušení.

Jak Shadow AI detekovat, když ještě SSPM nemáte

Pokud teprve začínáte a nechcete čekat na nákup a nasazení SSPM, dá se první přehled získat i z toho, co už u vás běží. Čtyři signály, které za pár dní odhalí většinu neschválených AI nástrojů:

• DNS a proxy logy: Vyhledejte v logech (DNS resolver, firewall, web proxy) provoz na domény typu chat.openai.com, claude.ai, gemini.google.com, chat.deepseek.com, perplexity.ai, chat.mistral.ai, copilot.microsoft.com. Pokud používáte kategorizaci provozu (Cisco Umbrella, Zscaler, Fortinet), zapněte kategorii „AI & ML“ nebo „Generative AI“ a projděte reporty za posledních 30 dní. Objem provozu vám sám řekne, kdo je uživatel.
• Entra ID / Azure AD OAuth consent logs: V administrátorské konzoli Entra ID projděte „Enterprise applications“ a „OAuth consent events“. Zaměstnanci často schvalují neschválené AI aplikace přímo svým firemním účtem – tady uvidíte konkrétní jména aplikací i to, jaké scopes si vyžádaly (přístup ke Gmailu, Kalendáři, OneDrive).
• GitHub org billing a audit log: Pokud máte GitHub organizaci, otevřete v jejím nastavení sekci Copilot billing a audit log. Uvidíte, kdo má aktivní Copilot licenci placenou osobně a napojenou na firemní repozitáře – klasický případ osobního účtu na pracovních datech.
• Anonymní dotazník pro zaměstnance: Jednoduchá otázka „Které AI nástroje vám usnadňují práci?“ bez sankčního tónu. V praxi má obvykle vyšší návratnost než technický audit, protože zaměstnanci vědí i o věcech, které logy nezachytí (mobilní aplikace, osobní telefon).

Audit Shadow AI ve vaší firmě

Mapujeme Shadow AI ve vaší organizaci. Nasazujeme SSPM, DLP-light a provádíme rozhovory s vybranými týmy. Výstupem je seznam neschválených AI nástrojů, hodnocení rizika a návrh schválené alternativy včetně dokumentace pro AI Act a audit dodavatelského řetězce podle nového Zákona o kybernetické bezpečnosti.

Pojďme to řešit →

Trojnásobné regulační riziko: GDPR + ZoKB + AI Act

Nekontrolované používání AI není jen bezpečnostní, ale i právní a finanční riziko. V roce 2026 se firmy v EU ocitají v průsečíku tří zásadních regulací, z nichž každá přináší vysoké sankce.

• AI Act: Nejdůležitější nová regulace. Ačkoliv plná vymahatelnost nastane 2. srpna 2026, některé povinnosti platí už nyní. Článek 4 o AI gramotnosti je účinný od 2. února 2025 a vyžaduje, aby firmy prokazatelně školily své zaměstnance v používání AI. Pokud o Shadow AI víte a neřešíte ho, porušujete tuto povinnost. Sankce za porušení AI Actu jsou drakonické: až 35 milionů EUR nebo 7 % celosvětového obratu u nejzávažnějších porušení (prohibited practices), u ostatních povinností nižší, ale stále v desítkách milionů eur.
• Zákon o kybernetické bezpečnosti (ZoKB): Nová česká legislativa (transpozice NIS2) platná od 1. listopadu 2025 vyžaduje od tisíců firem zavedení systému řízení kybernetické bezpečnosti, včetně rizik dodavatelského řetězce. Používání neschválené AI od neprověřeného dodavatele je přímým porušením této povinnosti. Sankce mohou dosáhnout až 250 milionů Kč nebo 2 % celosvětového obratu ve vyšším režimu pro tzv. essential subjekty. Pro nižší režim platí strop 175 milionů Kč nebo 1,4 % obratu.
• GDPR: Starý známý, ale stále relevantní. Pokud zaměstnanec vloží do veřejného ChatGPT osobní údaje klientů nebo kolegů, jedná se o předání osobních údajů třetí straně bez právního titulu a bez smlouvy o zpracování. Jde o datový incident, který podléhá povinnosti hlášení Úřadu pro ochranu osobních údajů do 72 hodin. Sankce mohou dosáhnout až 20 milionů EUR nebo 4 % obratu.

Pro firmy, které chtějí jít příkladem, existuje také certifikovatelný standard ISO 42001:2023, který definuje systém řízení AI a pomáhá naplnit požadavky výše zmíněných regulací.

Pět kroků, které doporučujeme klientům (rychlé výhry)

Začít s řešením Shadow AI nemusí být složité. Zde je pět praktických kroků, které můžete implementovat v následujících 30 dnech:

1. Proveďte inventarizaci (1–2 týdny): Zjistěte, co se u vás skutečně děje. Nasaďte zkušební verzi SSPM nástroje pro automatický audit a doplňte ji anonymním dotazníkem pro zaměstnance s jednoduchou otázkou: „Které AI nástroje vám pomáhají ve vaší práci?“ Cílem není trestat, ale získat přehled.
2. Vyberte schválenou alternativu (1–2 nástroje): Analyzujte výsledky inventarizace. Zjistíte, že 1–2 nástroje pokryjí 80 % potřeb vašich zaměstnanců. Vyberte jednu z podnikových verzí (M365 Copilot, ChatGPT Enterprise, Claude for Work) a oficiálně ji nasaďte.
3. Nastavte pravidla a technické kontroly: Vytvořte jednoduchou politiku pro používání AI. Místo plošného blokování domén nakonfigurujte CASB nebo proxy tak, aby rozlišovaly mezi firemním účtem (ChatGPT Enterprise typicky žije na chatgpt.com s firemní autentizací přes SSO/SAML) a osobním účtem (přihlášení individuálním e-mailem, případně provoz na chat.openai.com). Cílem není zakázat doménu, ale rozlišit autentizaci: firemní SSO tenant propustit a auditovat, personal login blokovat nebo logovat. Aktivujte základní DLP pravidla pro nejcitlivější data (rodná čísla, čísla karet, interní projektové kódy).
4. Proškolte zaměstnance (a zdokumentujte to): Uspořádejte povinné školení pro všechny zaměstnance. Vysvětlete, proč zavádíte schválený nástroj, jaká jsou pravidla a jaká rizika plynou z používání neschválených alternativ. Pečlivě si veďte záznamy o účasti – je to váš důkaz o plnění povinnosti AI gramotnosti podle AI Actu.
5. Připravte si plán reakce na incidenty: Co uděláte, když i přes všechna opatření dojde k úniku? Definujte si proces: kdo je zodpovědný, jak se incident hlásí, komu se eskaluje a jak probíhá komunikace s úřady (ÚOOÚ, NÚKIB).

Často kladené otázky

Jak rychle můžeme Shadow AI ve firmě zmapovat?

Pomocí moderních SSPM nástrojů lze základní audit provést během několika dní. Kompletní obrázek, včetně rozhovorů a dotazníků, obvykle získáte během dvou až tří týdnů. Nejde o měsíce trvající projekt.

Stačí, když koupíme M365 Copilot a zakážeme ChatGPT?

Je to dobrý začátek, ale nestačí to. Zákaz bez monitoringu je neefektivní. Zaměstnanci mohou přejít na desítky jiných AI nástrojů. Důležitá je kombinace poskytnutí alternativy (Copilot) a zavedení trvalého monitoringu (DLP/CASB/SSPM), který odhalí pokusy o použití jiných služeb.

Pokud zaměstnanec vloží do ChatGPT osobní údaje klienta, musíme to hlásit ÚOOÚ?

S největší pravděpodobností ano. Jedná se o porušení zabezpečení osobních údajů (data breach) podle GDPR. Pokud existuje riziko pro práva a svobody dotčených osob, máte povinnost incident nahlásit Úřadu pro ochranu osobních údajů do 72 hodin od jeho zjištění.

Co když ve firmě není nikdo, kdo by AI politiku napsal?

To je běžný problém ve středních firmách, kde chybí dedikovaný CISO nebo právník specializovaný na technologie. V takovém případě je rozumné obrátit se na externí konzultanty, kteří mají zkušenosti s tvorbou bezpečnostních politik a znají regulatorní požadavky. Nechat tuto oblast neřešenou je zbytečné riziko.

Sankce – kdo a kdy nás může pokutovat?

V českém prostředí mohou sankce udělovat tři hlavní orgány: Úřad pro ochranu osobních údajů (za porušení GDPR), NÚKIB (za porušení Zákona o kybernetické bezpečnosti) a v budoucnu nově vzniklý orgán pro dohled nad AI Actem (pravděpodobně Česká obchodní inspekce nebo jiný pověřený úřad). Tyto orgány mohou jednat nezávisle na sobě, což znamená, že jeden incident může vést k více pokutám.