Ani dynamit nemusí být nebezpečný, záležet bude na tom, jak se k umělé inteligenci postaví lidé a hlavně kantoři

Umělé inteligence (AI) není potřeba se bát, ale měli bychom se mít na pozoru, k čemu ji kdo používá. Stejně jako dynamit totiž může mít pozitivní i negativní vliv, říká IT expert a středoškolský pedagog Václav Maněna. V exkluzivním rozhovoru pro Národní pedagogický institut popisuje, jak k nové technologii přistupují kantoři, nebo jak by se měla proměnit výuka v digitální době. A zabrousí i do témat digitálních závislostí nebo svého podcastu KYBcast, který vede s kolegou Pavlem Matějíčkem.

Rozhovor s Václavem Maněnou, expertem na kyberbezpečnost a autorem KYBcastu

Koncem loňského roku se do povědomí lidí dostal pojem umělá inteligence (AI), byť je tady s námi již delší dobu. Například se s ní setkáváme ve Spotify. Jak je na tom momentálně AI se svými schopnostmi a měli bychom se jí bát?

Obecně lze říct, že schopnosti AI se rozšiřují každým dnem, takže i v době, kdy děláme tento rozhovor. A třeba za dva dny už bude vše jinak. Každý den jsou k dispozici nové a nové nástroje a schopnosti těch stávajících se zlepšují.

Jestli se máme umělé inteligence bát? To si myslím, že není správný přístup. Spíš bychom se měli mít na pozoru, protože nás AI může překvapit hodně v tom pozitivním, ale i v tom negativním. Takže se jí nebojme, ale měli bychom s ní počítat. V některých aspektech ji možná budeme potřebovat do budoucna trochu víc regulovat.

V čem ji budeme muset regulovat?

Už nyní se ukazuje mnoho problémů, které jsou na hraně etického využití, zneužívání nebo šikany. Když použijeme generativní umělou inteligenci, tak nám nepovolí vygenerovat obsah, který by mohl někoho poškodit nebo mohl být zneužitý ke kyberšikaně. Další oblast, kde určitě dojde k regulaci umělé inteligence, je autorské právo. Například v Americe se bouří autoři děl, ze kterých se generativní AI učí. Tito autoři si nepřejí, aby byla jejich díla zařazena do výukové databáze, protože se z nich AI učí a generuje pak vlastní díla.

Nicméně na internetu koluje řada návodů, jak zákazy ke generování určitého obsahu pomocí AI obejít, tak, aby vytvořila i texty a fotky, které mohou někoho poškodit. Myslíte, že do budoucna bude muset přijít kvalitnější ochrana? 

Vývoj je podobný jako u jiných technologií. Vždy budou lidé, kteří se pokusí technologii zneužít a budou o krok napřed. Pořád v tom bude mít lidská kreativita navrch a budou vznikat nové mechanismy, jak zabezpečení obejít.

Z druhé strany by to mohlo vést k tomu, že se bude zdokonalovat ochrana, ale AI už bude tak bezpečná, že nám nepovolí vygenerovat skoro nic. To se mi stalo nedávno v Bingu, že přestala fungovat možnost generovat obrázky, které obsahují slovo učitel.  

Asi to byla přehnaná snaha o kontrolu nežádoucího obsahu. Podobně to můžeme nyní pozorovat na Facebooku, jehož algoritmy za posledních čtrnáct dní kontrolují škodlivý obsah tak, že zamítají i příspěvky, které jsou zcela regulérní. Hodně to bylo vidět na příspěvcích E-Bezpečí, který na sociálních sítích upozorňuje na škodlivé jevy, ale Facebook to automaticky považuje za nežádoucí obsah, přestože šlo o prevenci.

Nedostáváme se v rámci etického chování na sociálních sítích a v digitálním prostoru obecně až na hranu úplné korektnosti, kdy by se algoritmus otočil proti nám?

To jsem měl v podstatě na mysli. Může to vést k tomu, že pak bude algoritmus zakazovat všechno. Už dnes hodně rozmýšlíme, jaký obsah patří na sociální sítě a jaké komentáře jsou ještě přípustné. A o čem už bychom neměli moc mluvit. Je to cesta, která se ukáže jako slepá ulička, ale nyní to vypadá tak, že se dané firmy snaží tunelovat algoritmy.

Nejen novináři v poslední době stojí před etickou otázkou, kdy a jestli přiznávat kredit umělé inteligenci v případě, že nám vytvoří fotografie nebo text. Jaký na otázku autorství máte názor vy?

Vždy asi záleží na tom, co je citace a co pomoc. Pokud novinář píše článek o určitém tématu a umělou inteligenci použije k tomu, aby mu poradila, na jaké konkrétní body se má zaměřit, jaká by třeba byla vhodná osnova článku, tak si myslím, že zde hraje AI roli nápovědy nebo poradce. V takovém případě bych jí kredit nepřiznával. Je to zkrátka pomůcka jako každá jiná.

Proto taky nevěřím novinářům, kteří tvrdí, že AI vůbec nepoužívají. Je těžké ji dnes nepoužívat, protože se stává součástí mnoha nástrojů, které používají. Například jim může pomoci se stylizací textu. Pokud tedy hraje roli pomocníka tak, jak bychom k tomu měli vést děti ve školách, tak ji není potřeba přiznávat. Podobně jako nepřiznáváme, že tabulku jsme vytvořili v Excelu nebo že jsme fotografii upravili ve Photoshopu. Pokud by součástí článku byl text, který by přímo vygenerovala AI, pak by to bylo více než vhodné.  

Myslíte si, že jsme již na evolučním vrcholu AI, nebo nás může ještě v něčem překvapit?

Pokud to vezmeme z pohledu běžného uživatele, tak si většina z nás nedovedla vůbec představit před rokem to, co se děje nyní. V mnoha věcech nás ještě může překvapit – třeba v tom, že se bude učit daleko lépe sama. Může vzniknout jistý typ zcela autonomní AI jako známe z různých sci-fi. Navíc na rozdíl od jiných technologií se vyvíjí exponenciálně, na což nejsme vůbec připraveni a neumíme s tím pracovat. 

Můžete prosím dovysvětlit, jak myslíte, že se vyvíjí exponenciálně?

Jsme zvyklí na lineární vývoj. Když necháme kapat kohoutek, za dva dny tam bude určitý objem vody. Za čtyři dny tam bude dvakrát tolik vody. A dokážeme si představit, kolik jí tam bude za týden. Ale exponenciála roste strašně rychle, a i když nám na začátku může přijít, že tomu tak není, dojde pak ke zlomu a vývoj roste tak rychle, že se to nedá úplně představit.

Chápu správně, že se to vývojářům mírně vymklo z kontroly? 

Nemyslím si, že se jim to vymklo z rukou, i když je pravda, že se umělá inteligence učí tak, že to není úplně jednoduché pochopit. Spíš se může vymknout z rukou lidská kreativita, k čemu všemu můžeme umělou inteligenci využít a zneužít. 

Takže se nemáme bát AI jako takové, ale toho, že daný nástroj v nesprávných rukou může napáchat velké škody?

Přesně tak, ale to není nic nového. Tato definice by přesně seděla i na dynamit. Je to zkrátka něco, za co vývojáři úplně nemůžou.

Přelomovou v české kotlině není pouze AI, ale obecná snaha o digitalizaci – například ve státní správě. Vzpomněl byste si na něco, co vás v této oblasti v poslední době příjemně nebo negativně překvapilo?

Z pohledu běžného občana určitě větší rozšíření datových schránek, od kterého si slibuji, že napomůže snazší komunikaci s úřady. Druhou věcí je elektronická občanka, kterou bude možné mít v mobilu. A to jsou podle mě dvě věci, ve kterých jde stát správným směrem. U té občanky se mi ještě líbí, že dostanete alternativu. Pokud někdo nebude chtít mít občanku v mobilu, může nadále používat plastovou kartičku a v mobilu nemusí mít žádnou kopii.

Dalším milníkem je snaha o digitalizaci ve školství, ale také o zavedení digitálních kompetencí do jednotlivých škol prostřednictvím revizí. Měl jste možnost seznámit se s IT koncepcemi těchto změn?

Ano, měl a je to jako u dynamitu, největší problém bude opět v lidech, ne samotných technologiích. Bude záležet na tom, jak se k revizím postaví lidé, protože samotná digitalizace nás nespasí. Spíš jde o to, abychom digitální technologie vnímali jako pomoc a snažili se je využívat racionálně. Abychom je například necpali i tam, kde se úplně nehodí.

Nicméně tak, jak jsou koncepce vymyšlené a napsané, můžeme říct, že pomocí nich lze děti připravit na svět, který bude plně digitální a historicky nejrychleji se měnící?

Asi se budu opakovat, ale opravdu bude záležet na tom, jak to konkrétní učitel uchopí. Obecně je ta myšlenka dle mého názoru dobrá, ale i tu nejlepší myšlenku může učitel interpretovat špatně nebo ji do praxe zavést nevhodným způsobem a děti od používání technologií odradit.  

Vidíme to krásně na příkladu umělé inteligence. Někteří učitelé se obávají, že umělá inteligence bude nástrojem hlavně k tomu, že ho děti budou používat k podvádění a reagují na to slovy, že zavedou zase zpátky tužku a papír, aby děti nemohly AI používat ke generování slohových prací. To je špatně. Je to běžná součást našeho světa a žáci se s tím setkávají nejenom ve škole, takže možná dojde k tomu, že bude lepší zadání slohových prací trochu změnit, aby to dávalo smysl. Jenže pokud někdo zmíní, že se vrátí k tužce a papíru, tak ho nepřesvědčí ani sebedokonalejší návrh nebo koncepce. 

Nicméně to pak jde i na hlavu daného češtináře nebo angličtináře, pokud nepozná, že student práci sám nepsal. Z testů, domácích úkolů nebo vyjadřování v hodině by měl kantor vědět, jakou má dotyčný slovní zásobu, jaká používá slovní spojení a jaké má vyjadřovací schopnosti. Tudíž by měl být schopný odhalit, kdo text napsal.

Zkušený učitel určitě má velkou šanci odhalit, jestli tu práci vygenerovala pouze umělá inteligence, pokud toho žáka dobře zná. Na druhou stranu by se měl zeptat možná i sám sebe, proč žák práci nechal vygenerovat umělou inteligencí. 

Musím smutně konstatovat, že jsem viděl moc zadání, která vybízela k tomu, aby je vypracovala AI a žák se v tomto případě chová racionálně. Prostě to využije, jde cestou nejmenšího odporu a udělá tu práci tak, aby byl učitel spokojený. Takže je to často jenom o tom, se zamyslet nad tím, co je vlastně naším cílem a přizpůsobit tomuto zadání. 

Co bylo jádrem prací, které vybízely k použití umělé inteligence?

Většinou jsou to zadání, která nenutí moc k přemýšlení. Třeba napiš esej o Moně Lise. Nebo stručný text na A4 o městě, ve kterém žiješ. Zkrátka zadání není příliš konkrétní a nepodporuje tvůrčí činnost nebo nemotivuje toho žáka být kreativní při tom řešení.  

Pak je jasné, že žák zkusí využít nástroj, který mu tuhle práci usnadní. Dřív to byl Google, kde našel vypracovanou seminární práci na stejné nebo podobné téma, dnes použije AI. Princip se ale tolik nemění. 

Na druhou stranu, i kdyby bylo zadání trošku propracovanější, i s tím by si uměla AI poradit, kdybychom jí dali klíčové informace. V příběhu bude dvacetiletý Karel, který je sportovec... I tohle nebo třeba úvahu o lidském bytí by zvládla, že?

Určitě. Ale zase jde o to, co je cílem. Pokud bude cílem jenom napsat příběh dvacetiletého Karla sportovce, tak nevím, jestli je to přesně typ zadání, který je vhodný pro dnešní svět. Možná ten problém můžeme úplně otočit.

Nemůže svoji roli ve strachu učitelů hrát i vědomí, jaká je česká nátura? Zákaz pro nás není úplným zákazem, ale příležitostí, jak něco obejít, podlézt, porušit…

Částečně určitě ano. Ale upřímně si myslím, že ten strach pramení hlavně z toho, že si učitelé umělou inteligenci dobře nevyzkoušeli. Bojí se neznámého. Když začnete generativní AI více používat, zjistíte, že dělá spoustu chyb a že to, co vypadá na první pohled jako skvělé a jsme z toho nadšení, na druhý, třetí pohled už tak skvělé a bezchybné není. A dokonce už mám signály z několika škol, že děti samy došly k tomu, že umělou inteligenci používat nechtějí, protože to zvládnou samy lépe a nechtějí, aby za ně něco generoval robot.

Jak by měli učitelé podle vás k AI přistupovat, aby odbourali strach z ní?

Možná, že ten recept bude znít až zázračně jednoduše, ale já to opravdu tak vnímám. V první řadě je potřeba, aby si to sami vyzkoušeli. Technologii odsoudí, protože řeknou, že někde udělala chybu. Ale to jsou lidé, kteří nepochopili její podstatu. Když tohle překonají a začnou se na umělou inteligenci dívat jako na technologii nebo pomocníka, který jim může pomoci s inspirací, s tím, aby je nasměroval nějakým směrem a například jim navrhl určité postupy, tak si myslím, že mají už více než z půlky vyhráno.

Nedávno jsem zaznamenal názor na sociální síti od jednoho učitele. Nechápal, k čemu by mu mohla umělá inteligence ve výuce fyziky pomoci. V té větě bylo úplně všechno. Jen bych dodal, že to zkrátka nechce pochopit, nechce zkoumat nové způsoby, jak by mu to mohlo pomoci a jestli si myslíte, že byl třeba dva roky před důchodem, tak to se plete.

Setkáváte se ve své praxi spíše s nadšenými učiteli, nebo těmi, kteří nové technologie odmítají?

S nečekaně pozitivními ohlasy a pozitivním přístupem. Když se třeba na školení objeví tři čtyři lidé, kteří AI odmítají, tak už je o přestávce většinou vidět, jak spolu mluví a vyměňují si nápady, jak by technologii mohli využít. Ten kolektiv je většinou převálcuje, kolegové okolo nich se totiž snaží hledat způsoby, jak technologii využít.

Ve světě IT se pohybujete denně, zažívá podle vás nyní zlaté časy, nebo to nejlepší teprve přijde?

Pokud jde o školství a umělou inteligenci, sám jsem několikrát současnou situaci označil za zlatý věk. Jsme totiž ve fázi, kdy je AI ve školství prudce použitelná. Spoustu věcí může usnadnit, zároveň ale dělá chyby. Pro učitele je to skvělá situace, protože může vést děti k tomu, aby si informace ověřovaly a může také u nich pěstovat kritické myšlení. A role učitele je v tomto procesu nezastupitelná a roste. 

Pokud jde obecně o stav umělé inteligence, tak je na úpatí hory. Vůbec si neumíme představit, co nás ještě čeká a myslím, že zlatý věk z hlediska jejich schopností je před námi.

IT, digitálním kompetencím a obecně digitalizaci se věnujete s kolegou Pavlem Matějíčkem v podcastu KYBcast, který si čtenáři mohou pustit na Spotify nebo YouTube. Komu je určený a co vše v něm řešíte? Pochopila by řešená témata například i moje babička?

Určitě pochopila a máme to taky na několika babičkách vyzkoušené. KYBcast je určený lidem, kteří technologie používají nebo by rádi začali. Ať už ve výuce nebo v běžném životě. Těm chceme ukázat rizika technologií, ale rozhodně u nich nepředpokládáme hluboké technické znalosti.  

Tudíž KYBcast není pouze pro učitele informatiky, ale může si ho poslechnout i učitelka výtvarky, která dává například fotky na školní Instagram. Nebo může pomoci správci školního Facebooku, ale bude se hodit i rodičům, kteří například hledají rady k tomu, jak se vyhnout rizikům na internetu nebo nevědí, jaká rizika a nebezpečí hrozí jejich dětem. Snažíme se, aby naše publikum bylo široké.

S kolegou k tomu vždy píšete i kratší text, kde shrnujete to, co v daném díle zazní, navíc tam posluchači naleznou i odkazy. Jenže co když něčemu z probíraných témat neporozumí a chtějí se vás doptat, existuje tato možnost?

Existuje a musím říct, že jí lidé využívají. Na stránkách KYBcastu je možnost nás kontaktovat přes e-mail nebo kontaktní formulář. Ale hodně lidí ze škol se nám ozývá telefonicky, takže možné to je. Navíc mnoho našich dílů vzniklo právě na základě dotazů přímo ze škol.

Na co se vás pracovníci škol nejčastěji ptají? 

Většinou jsou to situace, které vznikly v souvislosti s kyberšikanou nebo únikem dat.

Pokud bych byl ředitel školy nebo školní koordinátor ICT a chtěl, aby se v daných tématech kromě poslouchání jednotlivých dílů KYBcastu vzdělali i mí kolegové, existuje možnost si vás pozvat i do školy na přednášku?

Já i Pavel tohle pro školy běžně děláme. Ať už jde o besedy s rodiči nebo školami, ale spolupracujeme i s knihovnami. Jde i o různé besedy a přednášky pro veřejnost, děláme webináře. Takže je i další možnost, než jsou jen naše podcasty. Hodně toho dělá i samotný Národní pedagogický institut.

Nadužívají lidé technologie?

Nepochybně. Někdy se stáváme zcela zbytečně jejich otroky. Například na školeních lidem říkám, že jedna z prvních funkcí, kterou jsem na svých chytrých hodinkách vypnul, byla notifikace na e-maily. Lidé se tomu diví a říkají, že oni by to udělat nemohli, že by to zkrátka nedokázali.

Můžeme mluvit o jisté závislosti ze strany lidí po zprávách o dění kolem nás, ale také o sociálním kontaktu a neustálém napojení na práci?

Podle mých zkušeností rozhodně ano. Ani nepočítám, kolik dostávám e-mailů ze škol, které jsou poslány třeba v neděli v noci. Nicméně máme možnost si nastavit na mobilu sledování, kolik s přístrojem trávíme času. Zpravidla je to daleko víc, než si uvědomujeme, nebo než jsme si schopni připustit. Kontrolujeme mobil velmi často v krátkých časových intervalech. Vezměte si, kolikrát vezmete mobil do ruky během jedné hodiny, když třeba sedíte se známým u kávy. Málokdo dokáže mobil úplně ignorovat a nepodívá se, jestli mu nepřišla zpráva. Jsou to mikrokontakty s mobilem, které jsou ve výsledku několik hodin za den.

Čím je tato závislost způsobena?

Mobil je neuvěřitelně atraktivní tím, k čemu dává přístup, svým obsahem. Stačí se ho dotknout a najednou se můžete podívat na nové video, přečíst si zprávy o dění z celého světa, jednoduše zkontrolujete e-mail a sociální sítě. Veškerý tento obsah se snaží neustále získávat naši pozornost a někdy je těžké tomu odolat.

Padlet nástěnka

Nástěnka o umělé inteligenci pro učitele, rodiče, metodiky a děti od Václava Maněny.