Bezpečnost při práci s AI – jak se vyhnout únikům dat

Popis kurzu

Tento dvoudenní kurz se zaměřuje na bezpečné používání nástrojů založených na umělé inteligenci v pracovním prostředí. Účastníci se seznámí s hlavními riziky spojenými s používáním AI nástrojů, jako jsou úniky citlivých informací, manipulace výstupů pomocí tzv. prompt injection nebo nekritické spoléhání na nepřesné odpovědi AI.

V průběhu kurzu si ukážeme konkrétní scénáře z praxe. Například jak může dojít k úniku interních dat při práci s AI, jak mohou dokumenty nebo e-maily obsahovat skryté instrukce manipulující AI systém a jak rozpoznat situace, kdy je nutné odpovědi AI ověřovat.

Součástí kurzu budou také praktická doporučení, jak s AI pracovat bezpečně. Účastníci se naučí, jaká data do AI nástrojů nepatří, jak bezpečně pracovat s dokumenty a externími zdroji, jak ověřovat výstupy AI a jak nastavit jednoduchá pravidla pro bezpečné používání AI v týmu nebo organizaci.

Obsah kurzu

• Úvod do bezpečnosti AI
• Práce s daty při používání AI
• Manipulace výstupů (Prompt Injection)
• Důvěryhodnost odpovědí AI
• Bezpečné používání AI v organizaci
• Praktické scénáře a doporučení

Předpoklady