Zažíváme zlatý věk umělé inteligence? Jak využívat AI eticky, bezpečně a prakticky

A jde to vůbec všechno dohromady? O tom diskutovali hosté v odborném panelu, který 27. února 2024 zorganizovala Česká asociace umělé inteligence. Jmenovitě se v panelu bavili Ivana Böhmová, koordinátorka aktivit pro využití AI ve vzdělávání z NPI ČR, Petr Tecl, tajemník DigiKoalice, a Václav Maněna, autor KYBcastu a specialista na využívání technologií ve výuce. 

Nástroje AI jsou už nějakou dobou součástí našich životů, máme je všude kolem sebe, např. v navigaci nebo chytrých hodinkách. Do toho přišly nástroje generativní umělé inteligence typu ChatGPT, které generují obsah, jako je text, obrázky nebo videa. Tyto nástroje naprosto zásadně mění přístup k práci v jednotlivých oborech a oblastech a promění radikálně i celý trh práce. Školy na to musí pochopitelně reagovat, učit děti o tom, jak AI nástroje fungují, a také je začít využívat ve výuce. 

Jaký je současný stav využití AI ve vzdělávání? 

Podle Ivany Böhmové už v zahraničí existuje dost příkladů využití AI ve vzdělávání, např. aplikace Khanmigo z dílny Khan Academy, která v ní vyvíjí jakéhosi virtuálního tutora a partnera pro učitele i žáky s cílem rozvíjet jejich kompetence, znalosti a dovednosti. Princip je přitom prostý – avatar si s vámi povídá, pokládá vám motivační otázky, provádí vás procesem učení. Právě k personalizaci výuky jsou AI nástroje skvělé.

A jak to vypadá v českých školách? „Více než dvě třetiny škol nástroje AI zatím podle podzimního šetření NPI ve školách nevyužívají a jen asi 9 % učitelů je ve výuce nebo přípravě využilo,“ popisuje situaci Ivana Böhmová z NPI ČR a dodává: „Většina učitelů se ale zároveň domnívá, že AI může být pro vzdělávání v budoucnosti přínosem, což potvrzují i jiné výzkumy ze současnosti. Využívání umělé inteligence ve škole podporuje podle průzkumu organizace Jeden svět na školách i většina studentů a žáků, kteří už tyto nástroje dávno používají.“ 

Václav Maněna k tomu ještě doplňuje detaily z českých středních odborných škol: „Nový vzdělávací program pro střední školy je prošpikovaný strojovým učením a umělou inteligencí, ale zástupci odborných škol si zatím často neumějí představit, jak je promítnout do odborných předmětů. Potřebují proto nasměrovat, aby si uvědomili, že např. strojové učení lze promítnout do analytického zpracování dat nebo např. laboratorního cvičení. Není potřeba se bát, že na obchodní akademii teď bude nutné nějak hluboce informaticky vysvětlovat principy umělé inteligence, jde o to si ukázat praktické aplikace, které studentům práci ulehčí.“ S tím podle něj souvisí i bezpečnost. Nejbezpečnější je pro školu pořídit si nějakého asistenta AI typu Copilot nebo ChatGPT s tím, že existuje spousta školních verzí, kde je bezpečné využívání ošetřeno a které nejsou ani příliš drahé.  

Jaký je potenciál využití umělé inteligence ve vzdělávání?  

Podle Ivany Böhmové je to již zmiňovaná personalizace výuky: „Umělá inteligence dokáže už teď analyzovat obrovské množství dat o jednotlivých dětech, jejich učební pokrok, čím se rádi zabývají, jaký mají učební styl, jaké u toho zažívají emoce. Tím pádem umí i vyhodnotit a navrhnout, jaké nejefektivnější učení a aktivity zvolit, zároveň je umí i ohodnotit, dát jim zpětnou vazbu a navrhnout učiteli i změnu aktivity, když je to potřeba.“  

Pro děti je důležité se naučit uvědomit si, že díky využívání AI nástrojů mohou najít efektivnější řešení nějakých problémů nebo úkolů. Podle Petra Tecla z DigiKoalice je i s ohledem na přípravu dětí pro budoucí pracovní pozice a trh práce podstatné, aby zjistily, že AI jim může pomoc výrazně zefektivnit práci a dostat se od začátku do konce ne za tři hodiny jako doteď, ale třeba za pět minut. Podstatné je naučit děti i to, na jaké typy úkolů a činností nástroje využít a kdy je třeba lepší, aby text napsaly samy. DigiKoalice k tomu aktualizuje svůj katalog Kyberprevence, který vedle potenciálu upozorňuje i na všemožná rizika. 

Zásadní je podle Tecla pro komunitu učitelů a všech příznivců digitálních technologií sdílet nejnovější nápady, trendy, myšlenky i slepé cesty mezi sebou. Důležitým fenoménem je v tomto ohledu skupina učitelů – nadšenců do digitálních technologií, kteří se scházejí na osvědčených akcích, jako jsou letní školy, konference DigiSeč nebo Počítač ve škole, či na online akcích DigiDay, a kteří mezi sebou sdílejí své poznatky, nápady k využití AI ve výuce a inspirují tak sebe navzájem i další učitele.

Z čeho mají učitelé nebo rodiče největší obavy v souvislosti s AI?  

Nejčastěji se vyskytují obavy, že děti budou hloupnout a že budou podvádět. Podle Václava Maněny ale paradoxně tyto jmenované obavy nejsou to, čeho bychom se měli u AI nejvíc bát. Strach z hloupnutí už tu podle něj byl v minulosti mnohokrát, třeba při nástupu kalkulaček nebo chytrých mobilů. A platí dlouhodobě, že každý nástroj nebo technologii můžeme využít dobře nebo špatně, včetně AI.  

Za větší riziko považuje Václav Maněna ekologickou stopu a velkou energetickou náročnost, která vzniká při generování obrázků či videí. To je téma, které bude nutné do budoucna intenzivněji řešit. Vybízí také ke zdravé opatrnosti při využití AI nástrojů v oblasti bezpečnosti, zejména při nakládání s osobními daty. Jako riziko do budoucnosti vidí (a potvrzuje tím i obavu Pavla Hodála z Gug.cz a NPI ČR, kterou zmínil na online akci DigiDay AI prakticky), že se provoz AI nástrojů soustředí do jedné nebo dvou technologických firem, a to může být problematické.  

Někteří učitelé se v souvislosti se zaváděním digitálních technologií a celkově s ICT revizemi obávají, že budou muset učit už jen s tablety nebo jinými zařízeními. Tak to ale není, navíc součástí digitálních kompetencí je i dovednost využívat zařízení a obrazovky ke svému prospěchu, umět je i odložit a umět posoudit, k čemu a jak často je využívat. Proto je i v konceptu evropského rámce pro digitální dovednosti DigComp jednou z pěti dovedností bezpečnost, která zahrnuje vedle ochrany zařízení, personálních dat, soukromí i ochranu zdraví, wellbeingu a také životního prostředí. 

Zažíváme dnes zlatý věk umělé inteligence

Podle Václava Maněny zažíváme nyní zlatý věk umělé inteligence ve vzdělávání, kdy se spolu s využíváním nástrojů AI učíme i to, na co si přitom dát pozor. Jde např. o halucinování, které přirovnává k chování studenta u zkoušky. „Když AI něco neví, tak si to vymyslí, a vymyslí to tak, aby to působilo velice důvěryhodně. Klidně si vymyslí i zdroj, ze kterého cituje, např. nějakou encyklopedii, která ale neexistuje. Ale ona ten název encyklopedie vymyslí tak, že si řeknete: ‚jo, tak to určitě taková encyklopedie existuje, nebudu to ověřovat‘.“ 

Žáci, učitelé a každý, kdo AI využívá, se tak musí naučit, že nemohou slepě výsledkům umělé inteligence věřit a že je musí analyzovat. „Já jsem dokonce vymyslel úlohy typu preventivní vypálení rybníka, kdy je součástí řešení úkolu také ověření jeho výstupů,“ inspiruje ostatní Václav Maněna. Žáci a studenti se přitom učí, že musí ověřovat informace a jsou konfrontováni s tím, že jim počítač lže. Důležité je také naučit děti správně pokládat otázky, tedy promptovat.  

Pro každého, kdo si neví rady, jak začít, jsou určená doporučení NPI k využívání AI ve škole pro učitele, ředitele, rodiče i žáky. Prvním z nich je vzít AI na vědomí i s faktem, že s námi umělá inteligence už zůstane a nemá smysl ji dětem ani učitelům zakazovat. Další doporučení se už týkají bezpečnosti a využití potenciálu AI. Užitečné mohou být učitelům i časté dotazy a odpovědi k AI ve vzdělávání, záznam webináře Generativní umělá inteligence pro učitele, záznam únorového čtyřhodinového online vysílání DigiDay na téma AI prakticky, díly KYBcastů věnované umělé inteligenci a mnoho dalších inspirací a návodů dostupných na stránce k AI. 

Hlavní myšlenky z diskuze:

Připravila: Lucie Šnajdrová

Přehrajte si celý záznam diskuze:

Související odkazy