IT expert z NPI Maněna varuje: Dnes už i laik zvládne díky generativní AI udělat podvrh
před 5 měsíci
Umělá inteligence (AI) nám usnadňuje život. Na základě našich návyků nám dává různá doporučení, generuje texty či je naším pomocníkem v umělecké sféře. IT expert Národního pedagogického institutu ČR Václav Maněna se ale ve svém příspěvku na konferenci Digiday zaměřil na to, že generativní AI může být i naším nepřítelem. Zvládne vytvořit fejkové video nebo fotografii a tím s námi jednoduše manipulovat. Maněna tak radí, co s tím.
Učí na střední škole, přednáší na konferencích, kromě toho ale Václav Maněna coby IT expert spolupracuje s Národním pedagogickým institutem ČR a také spolu s Pavlem Matějíčkem vytváří podcast KYBcast. K digitálním technologiím, a obzvlášť pak k tématu generativní umělé inteligence (AI), má proto velmi blízko.
Varuje ale, že dnes se to díky generativní umělé inteligenci všechno mění, a tak například manipulace s fotografiemi nebyla bohužel nikdy jednodušší. „Dostupné je to i pro lidi, kteří nejsou technonadšenci,“ zdůrazňuje. Posluchačům pak na vlastní fotografii ukázal, jak je lze upravovat, tak, že budou na první pohled velmi věrohodné. A taky jak podvrhy rozeznat.
Jak nenaletět, že na vás útočí známý lékař
Tím ale Maněna ve svém půlhodinovém bloku neskončil. Jednou z dalších praktických rad zkušeného odborníka byla analýza lidí na internetu. „Používám to například v situaci, kdy na mě vyskakuje reklama, ve které ke mně údajně promlouvá známý lékař,“ říká Maněna, zatímco na počítači ukazuje, jak na to.
Do aplikace PimEyes nahraje nebo vyfotí obličej člověka a následně ho dá vyhledávat. Varuje, že zatímco v Googlu jsme zvyklí, že nám vyhledávač primárně začne nabízet podobné lidi, PimEyes vám udělá digitální otisk obličeje a vyhledá ten samý. A protože středoškolský učitel použil k vyhledání své foto, rázem mu aplikace začala nabízet fotografie Václava Maněny z KYBcastu. Přesto je potřeba si uvědomit, že k plnému přístupu je potřeba mít prémiový účet.
Nicméně pro rychlé rozpoznání, zda vám v reklamě radí skutečně známý lékař, nebo člověk z fotobanky, stačí i omezená verze programu. „Opravdu to zkusí vyhledat člověka. Vidíte, že na všech fotkách jsem to já, dokonce z různých úhlů nebo let,“ těší ho.
Jak rozpoznat fotografii vygenerovanou umělou inteligencí, na co si dát pozor při jejím určování nebo jak se manipuluje prostřednictvím videa? O tom a mnohém dalším ve svém příspěvku Maněna promluvil. Záznam jeho přednášky můžete zhlédnout na YouTube.
Autor: Tomáš Matoušek