Umělá inteligence a právo
Stručná odpověď: Ano, je to legální. Práci s nástroji umělé inteligence můžete ve výuce využít, protože jde o naplňování vzdělávacích cílů podle státem stanovených RVP. Jen si pohlídejte podmínky jednotlivých aplikací a věkové limity, pokud s nimi budou pracovat žáci a žákyně.
Odpověď právníka: České právní předpisy se AI ani generativní AI v souvislosti se vzděláváním výslovně nezabývají, ale ani její použití ve výuce nezakazují. Přípustnost užívání AI lze dovodit ze zásad a cílů vzdělávání uvedených v českém školském zákoně, který podporuje moderní pedagogické přístupy a metody, a rovněž z jednotlivých rámcových vzdělávacích programů vydaných Ministerstvem školství, mládeže a tělovýchovy (MŠMT ČR), které upravují výuku digitálních kompetencí. Také evropské nařízení o umělé inteligenci (AI Act) v bodě 56 preambule zmiňuje zavádění systémů AI pro podporu vysoce kvalitního digitálního vzdělávání.
Z toho plyne, že použití AI ve výuce má podporu v právních předpisech, zatímco absolutní zákaz užívání AI ve výuce není právně podložen. Je však nutné dodržovat příslušné předpisy jako AI Act, GDPR a školský zákon.
Doporučení pedagoga: Seznamování s umělou inteligencí a jejím praktickým využitím je nejen legální, ale i žádoucí příprava žáků a studentů na život v 21. století. Nebojte se zkoumat a používat nové nástroje umělé inteligence. Než se rozhodnete nástroj využít ve výuce, zkontrolujte podmínky použití aplikace a zaměřte se na věkové limity. Pomůže vám stránka aidetem.cz/pravo od AI dětem.
Práce s AI ve školním prostředí se z právního hlediska neopírá o souhlas žáků či rodičů, ale o to, že jde o nástroj k naplnění vzdělávacích cílů stanovených v RVP. AI tak můžete ve výuce používat stejně jako jiné digitální či didaktické pomůcky a prostředky.
Stručná odpověď: Věkové limity se u jednotlivých aplikací liší, vždy si věkový limit zkontrolujte předem, než začnete aplikaci se žáky používat ve výuce.
Odpověď právníka: Provozovatelé nástrojů zpravidla stanovují věkové limity uživatelů, obvykle v souvislosti s vytvářením uživatelského účtu. Věkové limity je třeba v rámci výuky dodržovat. Existují ale i nástroje, které je možné využívat bez ohledu na věk.
Doporučení pedagoga: Zjistěte si věkové limity předtím, než začnete aplikaci se žáky používat. Využijte přehled od AI dětem.
Stručná odpověď: Nepotřebujete, pokud žáci používají účty zřízené školou (Google Workspace, Microsoft 365), dodržujete podmínky aplikací včetně věkových limitů a využíváte AI v souladu s ŠVP. Je také nutné zajistit ochranu osobních údajů a informovat rodiče.
Právní vysvětlení: Využívání AI ve výuce je součástí plnění vzdělávacího programu – tedy úkolu daného školám normativním dokumentem státu. Proto za dodržení následujících podmínek pro zajištění bezpečnosti nemusíte žádat rodiče o speciální souhlas.
Používejte přednostně:
Účty spravované školou (Google Workspace, Microsoft 365 Education)
Nástroje, které nevyužívají data uživatelů pro další trénink modelů a jsou v souladu s GDPR. Jsou to například speciální Edu verze AI služeb (Microsoft Copilot nebo Google Gemini).
Povinnosti školy:
Informovat rodiče o využívání AI ve výuce a zpracování osobních údajů
Vést přehled používaných AI nástrojů (a poskytnout seznam nástrojů na vyžádání rodičů)
Ověřit nastavení ochrany dat a věkové limity před použitím nástroje
Doporučení pedagoga: Zahrňte používání AI do ŠVP jako součást digitálních kompetencí. Vytvořte informační leták pro rodiče s příklady nástrojů a kontaktem pro dotazy. Tím zajistíte transparentnost a předejdete nedorozuměním.
Stručná odpověď: Můžete zadávat běžný text, výukové materiály a obrázky z otevřených zdrojů. Dejte si pozor na vkládání cizích autorských děl, osobních údajů a dalších citlivých dat.
Odpověď právníka: Nevhodným promptem může uživatel neoprávněně zpřístupnit osobní údaje nebo zasáhnout do osobnostních práv třetí osoby, jako je právo na soukromí a rozšiřování podobizny. Prompt obsahující důvěrné informace nebo obchodní tajemství může vést k jejich vyzrazení. To je obzvláště rizikové u AI nástrojů, které používají uživatelská data k trénování svého modelu.
Pokud uživatel vloží do promptu cizí autorské dílo a prostřednictvím AI ho upraví, jedná se podle autorského zákona o zpracování díla a vznik odvozeného díla. V principu je to stejné, jako když např. upravujete cizí fotografii v grafickém editoru. Zpracovávat autorská díla lze pouze se souhlasem původního autora nebo na základě licence pro digitální výuku (§ 31a AZ). To platí i pro další nakládání s odvozeným dílem, jako je jeho rozšiřování nebo zpřístupňování online. Bez souhlasu autora nebo bez příslušné licence jde o neoprávněný zásah do autorských práv.
Doporučení pedagoga: Při psaní promptů vždy používejte vymyšlená jména a anonymizované údaje. Také úlohy zadávejte tak, aby žáci a žákyně nemuseli uvádět své osobní údaje.
Vyhněte se nahrávání fotografií učebnic nebo větších částí textů chráněných autorskými právy. Místo toho můžete vytvořit vlastní shrnutí nebo zadat konkrétní otázky vycházející z obsahu učebnice.
Při nahrávání obrázků se ujistěte, že máte právo je použít. Preferujte obrázky s otevřenou licencí nebo vytvořené vámi či vašimi žáky.
Stručná odpověď: Nikdo. Nejde totiž o autorské dílo. Ale pozor – další použití může podléhat licenčním podmínkám AI nástrojů.
Odpověď právníka: Platí jednoduché pravidlo: k tomu, aby nějaké dílo mohlo být nazýváno dílem autorským, jej musí vytvořit člověk (§ 5 odst. 1 autorského zákona). AI proto nemůže být „autorem“ a obsah vygenerovaný prostřednictvím AI není „autorským dílem“. Poskytovatelé AI proto nemají možnost se domáhat jakýchkoliv nároků, které autorský zákon upravuje za účelem ochrany autorů před neoprávněným zásahem do jejich autorských práv.
To ale neznamená, že vygenerovaný obsah můžete použít bez omezení. Podmínky pro další využívání obsahu jsou často upraveny v licenčních podmínkách jednotlivých aplikací. Např. OpenAI, tvůrce ChatGPT, uvádí, že nesmíte tvrdit, že byl vygenerovaný obsah vytvořen člověkem, když tomu tak není. Poskytovatelé už do svých vybraných výstupů, např. do obrázků, přidávají metadata, na základě kterých lze zjistit, že obrázek byl vygenerován v konkrétní datum prostřednictvím konkrétního nástroje (např. DALL-E v rámci ChatGPT).
Musíme tedy autorská práva k vygenerovanému obsahu vůbec řešit?
Ano, musíme. Autorské právo se týká těchto situací:
Uživatel si nechá vytvořit prostřednictvím AI dílo a toto následně tvůrčím (kreativním) způsobem upraví. Vznikne tak odvozené autorské dílo a k tomu už by mohla uživateli vzniknout autorská práva. Záleží však na míře a kreativitě takových úprav. Něco takového lze vždy posoudit jen individuálně.
Uživatel vloží v rámci svého promptu nějaké cizí autorské dílo a to prostřednictvím AI upraví. Z pohledu autorského zákona jde o tzv. zpracování autorského díla a vznikne tzv. odvozené autorské dílo. Autorská díla však lze zpracovávat jen se souhlasem autora původního díla. AI zde slouží jako nástroj ke zpracování, a pokud uživatel následně použije odvozené dílo bez souhlasu autora díla původního, dopouští se neoprávněného zásahu do autorských práv.
Doporučení pedagoga: Téma autorských práv není jednoduché, ale AI přináší skvělou příležitost, jak žákům přiblížit fungování v digitálním světě.
Využijte AI jako zajímavý příklad: Nechte žáky vytvořit něco pomocí AI, porovnejte výsledky s lidskou tvorbou a diskutujte o rozdílech v autorství.
Zkoumejte praktické dopady: Diskutujte s žáky, jak by se mělo zacházet s obsahem vytvořeným AI ve srovnání s lidskou tvorbou.
Pro více inspirace si poslechněte epizodu „Autorské právo a umělá inteligence ve škole“ v podcastu NPI KYBcast
Stručná odpověď: Ano, může. Obsah vygenerovaný AI není chráněn autorským právem. K výukovým účelům se takto vytvořený obsah hodí skvěle, ale pro oficiální reprezentaci školy je vhodnější využít originální dílo vytvořené člověkem.
Odpověď právníka: Autorský zákon chrání díla vytvořená lidmi mnoha způsoby:
Autor může u soudu žádat informace o neoprávněném užití díla.
Může požadovat odstranění následků (např. stažení neoprávněných kopií).
Má právo na omluvu, peněžní zadostiučinění nebo náhradu ušlého zisku.
Může žalovat i osoby, které se nepřímo obohatily (např. prodejce neoprávněných kopií).
Dílo vytvořené AI není autorským dílem, proto nemá tuto ochranu. Pro školu, která primárně neusiluje o zisk, jsou možnosti ochrany AI-generovaného obsahu velmi omezené.
Doporučení pedagoga: Pro obsah, který chcete chránit před neoprávněným užitím (např. logo školy, design triček, fotky na webu), vždy použijte originální dílo vytvořené člověkem. Takové dílo je zákonem považováno za autorské a můžete ho lépe chránit.
Stručná odpověď: Když vytvoříte obrázek nebo text v AI generátoru, patří vám jako uživateli, ačkoli nejste jeho autorem. Při dalším použití obsahu je nutné respektovat obchodní podmínky.
Odpověď právníka: Poskytovatelé nástrojů AI obvykle uvádí, že vygenerovaný obsah patří uživateli. Toto právo může být podmíněné – např. tím, že zmíníte, že vygenerovaný obsah nebyl vytvořen člověkem (viz níže v části „Jak správně citovat materiály vytvořené pomocí AI?“).
V případě dalšího užití vygenerovaného obsahu je třeba si uvědomit, že při tréninku AI jsou užívána ve velkém rozsahu autorská díla třetích osob (literární díla, fotografie aj.). Proto nelze vyloučit, že vygenerovaný obsah má právní vady a zasahuje do autorských práv třetích osob. Samotní poskytovatelé nástrojů toto zmiňují a např. OpenAI upozorňuje na skutečnost, že „výstupy nemusí být jedinečné a ostatní uživatelé mohou dostávat podobné výstupy“, a ukládá uživatelům, aby před použitím nebo sdílením výstupů posoudili jejich přesnost a vhodnost pro dané použití.
Doporučení pedagoga: Ve výuce zdůrazňujte, že vygenerovaný obsah může být nepřesný (AI halucinuje), záměrně zavádějící (při tréninku jsou záměrně užívány určité narativy) nebo neetický, a veďte žáky k odpovědnosti za použití vygenerovaných informací.
Stručná odpověď: Uživatel, který obsah vygeneroval a použil.
Odpověď právníka: Je to uživatel, kdo nese odpovědnost za prezentovaný obsah. V případě školních účtů zodpovídá za koncové uživatele (žáky) škola. Poskytovatelé nástrojů AI jsou si vědomi rizik a zpravidla svou odpovědnost omezují a limitují.
Pokud obsah necháte vygenerovat umělou inteligencí, vždy to uveďte, ideálně i konkrétní nástroj, jeho verzi a datum vzniku výstupu. Ověřujte také, že jsou informace pravdivé.
Doporučení pedagoga: V rámci výuky připomínejte žákům, že když vytvoří obrázek nebo text pomocí umělé inteligence, nesou za něj plnou odpovědnost sami. Proto musí obsah vygenerovaný umělou inteligencí kontrolovat a ověřovat.
Stručná odpověď: Vygenerovaný obsah vždy označte. Citujte umělou inteligenci podobně jako jiné zdroje, kdykoli ovlivní obsahovou stránku vašeho díla. U dokumentů se hodí stručně popsat, jakým způsobem byla AI použita.
Odpověď právníka: Z hlediska autorského práva není uvádění citace nutné, protože se nejedná o autorské dílo. Důležité jsou však podmínky provozovatelů jednotlivých AI nástrojů. Poskytovatelé AI často stanoví pravidla pro nakládání s výstupy AI, včetně povinnosti neprezentovat výstup AI jako dílo vytvořené člověkem.
Jednotliví poskytovatelé AI nástrojů mohou mít vlastní podmínky pro publikaci děl, která byla vytvořena prostřednictvím AI. Například Open AI uvádí v dokumentu Sharing & publication policy tento příklad citace u literárních děl, která byla vytvořena prostřednictvím ChatGPT (dále uvedený text by měl být umístěn v úvodu publikace): Autor tento text částečně vygeneroval pomocí GPT-3, rozsáhlého modelu pro generování jazyků OpenAI. Po vygenerování návrhu jazyka jej autor zkontroloval, upravil a přepracoval podle vlastních představ a přebírá konečnou odpovědnost za obsah této publikace.
Doporučení pedagoga: Buďte ohledně využívání AI ve své práci transparentní – je to skvělá příležitost učit žáky etickému přístupu k novým technologiím. Diskutujte s nimi o tom, kdy a jak AI používáte, a vysvětlete jim důležitost správného citování. Povedete je tak k zodpovědnosti v digitálním světě. Pro praktické příklady citací doporučujeme podívat se na doporučení univerzitní knihovny TUL, článek Jak citovat ChatGPT od Ústavu českého jazyka MUNI a Kdy a jak citovat AI podle MLA na webu spomocnik.rvp.cz
Stručná odpověď: Ano. Chatbot vám může pomoci s formulací slovního hodnocení. Konečné hodnocení nebo známku musí vždy stanovit učitel. AI může fungovat pouze jako asistent a nelze ji využít k automatizovanému hodnocení nebo rozhodování o známkách. Je také nutné dodržovat pravidla ochrany osobních údajů a používat informace o žácích anonymizovaně.
Odpověď právníka: Podle GDPR nesmí být nikdo předmětem žádného rozhodnutí založeného výhradně na automatizovaném zpracování osobních údajů a dat, pokud toto rozhodnutí má právní účinky nebo se jej významně dotýká. Rozhodování o známkách má právní účinky a výrazně ovlivňuje žáky, takže spadá do této kategorie.
GDPR proto zakotvuje právo na „lidský dohled“. To znamená, že AI nelze použít k rozhodování o výsledné známce bez účasti člověka. Učitel musí být ten, kdo učiní konečné rozhodnutí, které musí být schopen vysvětlit a obhájit.
Doporučení pedagoga: Nechte si od umělé inteligence poradit při hodnocení žáků – stačí jí zadat pokyn (prompt), aby se „proměnila“ ve zkušeného pedagoga, a pak jí předkládat úkoly k posouzení. Získáte tak objektivní pohled a ušetříte čas. Ale nezapomeňte, že AI je jen poradce a konečné rozhodnutí je vždy na vás.
Stručná odpověď
Školám prozatím AI Act neukládá žádné nové povinnosti při běžném využití umělé inteligence ve výuce.
Odpověď právníka
Nařízení Evropského parlamentu a Rady o umělé inteligenci (AI Act) se zaměřuje na regulace vývoje, uvádění na trh a používání systémů AI, které spadají do určitých kategorií rizika. Pro školy to znamená, že nařízení se jich může týkat tehdy, pokud využívají systémy, které jsou považovány za tzv. vysoce rizikové – například ty, které automatizovaně rozhodují o přijetí ke vzdělávání nebo hodnotí žáky (čl. 6 nařízení).
Tyto části balíčku AI Act však začnou být účinné až v srpnu 2026, a školy tedy zatím nejsou těmito pravidly vázány. Ustanovení týkající se tzv. obecných AI modelů (např. ChatGPT) vstupují v účinnost už v srpnu 2025, ale vztahují se především na poskytovatele těchto systémů, nikoli na běžné uživatele, jako jsou učitelé nebo školy.
Nařízení zároveň zakazuje některé praktiky, které by mohly být škodlivé – například rozpoznávání emocí ve školách, biometrickou kategorizaci osob podle citlivých údajů nebo tzv. sociální skórování. Tyto technologie však školy běžně nepoužívají a jejich zavedení by bylo v rozporu s evropským právem (§ 5 nařízení).
Tolik diskutovaná povinnost zajistit dostatečnou úroveň gramotnosti v oblasti AI, která je zakotvena v čl. 4 nařízení a již nabyla účinnosti, není blíže upravena a za případné nedodržení této povinnosti nestanoví AI Act žádné sankce – jde spíše o součást širších strategií pro bezpečné a odpovědné využívání technologií (nejen) ve vzdělávání.
Doporučení NPI
Ve škole se vyplatí mluvit o bezpečnosti a etických limitech AI systémů – s kolegy i se žáky. Je to příležitost, jak se například v rámci mediální výchovy zabývat možným zneužitím AI. Pomoci mohou metodiky z projektu AI kurikulum, třeba ta o rozpoznávání emocí.