„Bojím se, že možná trochu zhloupneme a ztratíme kontrolu,“ odpovídá na otázku, jaké největší riziko hrozí lidstvu při používání umělé inteligence. Ta odpověď stojí za zamyšlení, říká ji totiž muž, který svůj profesní život spojil se světem digitálních technologií. Přesněji s jeho riziky a nástrahami. Kyberšikana, kybergrooming, sexting, kyberstalking, online podvody, kybernetická kriminalita, AI… Není pojem, který by Kamil Kopecký, profesor Pedagogické fakulty Univerzity Palackého v Olomouci, neznal a před kterým by nevaroval. Děti, rodiče, učitele, seniory. Nestraší, nenutí nikoho zahazovat mobily a tablety, ukazuje i pozitiva. Ale také varuje a spolu se svým týmem v projektu E-bezpečí ukazuje možnosti ochrany. Tak, abychom se z online světa, do něhož mnohokrát za den vstupujeme, vrátili bez pošramocené psychiky nebo prázdné peněženky a AI se stala naším pomocníkem, ne zhoubou.
Jaká jsou rizika pohybu v online prostředí? Vím, že je to odpověď na hodiny, ale pojmenujte to největší riziko.
Začnu u dětí. Základní riziko je nepoučenost. Dítě ještě nemá dostatek životních zkušeností a často reaguje intuitivně. Například nemá moc sociálních kontaktů v reálném světě, zato má hodně těch virtuálních. Najednou ho na síti osloví krásná dívka, chce s ním chatovat, třeba se mu i obnaží a dojde k nějakému rizikovému chování. To se může stát a děje se to poměrně často. Problém je, že pokud se dítěti děje na síti něco rizikového (spojeného třeba s intimním obsahem), bojí se o tom říci rodičům, bojí se jít za mamkou a taťkou a svěřit se jim. Má strach, že mu zakážou počítač, internet, a myslí si, že ten problém zvládne samo. Kdyby ale děti od čtvrté, páté třídy věděly, že v online světě jsou podvodníci, kteří se maskují, zvětšila by se šance, že zareagují správně. Proto podle mě není u dětí hlavním rizikem konkrétní fenomén jako kyberšikana, sexting nebo AI, ale znalost, nebo přesněji neznalost chování v online prostředí. A samozřejmě také bezpečnostní návyky, které jsou co nejvíce automatizované.
A u rodičů nebo obecně u dospělých?
Stejná odpověď. Nemáme tady generaci rodičů, kteří by byli IT odborníci. Máme dospělé, kteří běžně používají komunikační nástroje, znají sociální sítě, ale neznají detaily. Neví, jak přesně fungují různé podvody. Potřebují vzdělávání. A nesmíme zapomenout ani na důležitou skupinu, kterou jsou senioři. Nejsou sice ohroženi například kyberšikanou, ale velmi snadno se stanou obětí podvodu. Proto říkám, že největší riziko je neznalost.
Jak a kde se vzdělávat? Přece jen jsme dost vytížení.
U dětí je to jednoduché, ty se můžou vzdělávat přímo ve škole a rámcové vzdělávací programy s tím počítají. Škola to navíc nemusí zvládat sama, existuje řada organizací včetně policie, které školí – jezdí do škol, komunikují s dětmi. Hodně přednášek je také pro školy zadarmo. Důležité ale je, aby rodič s dítětem komunikoval již od útlého věku, aby jej vybavil bezpečnostními návyky, aby mu věřilo. On mu musí dát základní minimum bezpečnosti na internetu a měl by to udělat minimálně v momentu, kdy dítě dostane mobilní telefon nebo začne aktivně pracovat s tabletem. Mělo by vědět, že je to super věc, ale že existují rizika.
Ale rodiče se budou sotva někde rok školit.
Bohatě stačí, aby šli na jednu nebo dvě osvětové přednášky za rok nebo využili nějakého online streamu, existují i online videa. Doporučuji především ty přednášky, které jsou kazuistické. To znamená, že rodič nedostane teoretickou nalejvárnu, ale dozví se konkrétní příklady rizikového chování, konkrétní kauzy. To a to se stalo desetiletému dítěti, něco jiného třináctiletému. Tak se do té situace dokáže vcítit a představit si ohrožení. Takové přednášky mají smysl.
Takže mediální výchova, což ale zní dost zprofanovaně.
Spíše digitální či informační kompetence, nicméně mediální výchova sem patří taky. A ano, termín mediální výchova je v mediálním prostoru často zprofanován, a to úmyslně. Jakmile se řekne mediální výchova ve škole, někteří politici začnou strašit vymýváním mozku a politickými agitkami. Nic z toho není pravda, jen se snaží získat voliče. Mediální výchova je všude na světě velmi důležité téma a není jejím obsahem, aby někdo někoho k něčemu přesvědčoval. Její smysl je v tom, že dětem i dospělým předáme znalosti a dovednosti, aby oni sami byli schopni si ověřovat informace a fungovat bezpečně ve světě médií. Chcete si ověřit fotku? Tak použijte reverzní vyhledávání na Googlu, které ukáže, kde všude ta fotka existuje. Chcete vědět, jestli zpráva, která vám přišla e-mailem, je hoax? Tady jsou tipy na databáze ověřených informací atd. V mediální výchově nedáváme hotové návody, jak se dívat na svět. Dáváme nástroje, vysvětlujeme principy a názor si musí udělat každý sám.
Mluvíme o informacích a ty jsou v dnešním mediálním světě zásadní. Ovlivňují naše myšlení i rozhodování. Padají na nás ze všech stran. Jak přežít?
To, o čem mluvíte, je tzv. infodemie. Jsme tak zaplaveni informacemi, že se v nich často nevyznáme, nevíme, čemu věřit, a především nemáme čas je ověřovat. Ale přesto jsou určité situace, typy textů a materiálů, kde bychom měli zbystřit. Často jsou to informace, které vyvolávají silné emoce, ať už negativní, nebo pozitivní. Pod vlivem silně emocionální zprávy se začneme bát, protože se v ní píše, že jsme v nějakém ohrožení. Nebo naopak máme radost, někdo nám zařídí bezpracnou zářivou budoucnost, ochrání nás, zajistí nám velké množství peněz. A stačí jen investovat trochu peněz, abychom získali daleko více. Je to lákavé. Ale je to často podvod. A právě informace, které obsahují emoce, se internetem šíří velmi rychle.
Když už jsme nějak zvládli základní rizika chování na internetu, přichází smršť v podobě AI. Co dělat, abychom si nenaběhli?
Vracíme se zase na začátek příběhu. Ten, kdo je poučený a ví, co je AI, jak umí generovat texty, fotografie nebo videa, je obezřetnější. Když na mě například z videa promlouvá nějaká celebrita a slibuje mi miliony, jsem opatrný, protože to může být (a pravděpodobně je) produkt AI. Myslím, že v budoucnu AI velmi otřese důvěrou v informace. Budeme přikládat stále menší váhu fotografiím (a videím), protože si nebudeme jisti jejich pravdivostí. Už teď AI dokáže v oblasti grafiky/fotografie vytvořit v podstatě cokoli a laický uživatel, a často ani expert, nedokáže rozpoznat, že je to podvod. V minulosti umělá inteligence zanechávala hodně chyb, typickým znakem osoby vygenerované pomocí AI bylo třeba šest, sedm prstů na rukou. Tyto chyby jsou ale postupně odstraňovány a časem vymizí. AI začíná být masově používána třeba v rámci volebních kampaní. Například v kampani Donalda Trumpa bylo použito obrovské množství vygenerovaných fotografií, kde se objímá s Afroameričany, což však nejsou tradiční voliči republikánů. Ale když dáte na internet třeba deset takových fotek a šíříte je, vznikne dojem, že jsou to jeho příznivci. Takže AI dokáže manipulovat veřejným míněním, narušovat demokratické procesy, jako jsou volby.
Zase se musíme vzdělávat?
Pokud jste poučená, tak vám minimálně naskočí v hlavě: „Pozor, může jít o nějakou manipulaci.“ Nebudeme přestávat věřit jenom fotkám, ale i videím. V tuto chvíli je třeba na trhu OpenAI Sora od stejné firmy, která vytvořila ChatGPT a která umí generovat úplně realistická videa z textového zadání. Napíšete, co má být na videu, a dostanete hotový produkt. Nebudete vědět, zda ho natočil člověk, nebo AI. Což může být i zajímavá příležitost pro produkty vytvářené živými lidmi – možná bude v budoucnu existovat nějaká „známka“, že jde o lidský výtvor, něco jako hand made, a může to mít větší cenu než produkty generované AI. Jako když si kupujeme nábytek. Můžeme si vybrat standardizovaný sériový, který se vyrábí ve velkém v továrně, nebo originální vyrobený živým truhlářem.
Předpokládám, že vy AI používáte denně?
Ano, protože ušetřím velké množství času. Třeba takové psaní dopisů. Dřív jsem si je psal sám. Teď nechám AI vygenerovat nějaký základ, přečtu si ho, místa, která se mi nelíbí, přepíšu a hotovo.
Takže na konci práce s AI by měl být člověk?
Za vším, co AI generuje, by měl být člověk. On by měl být ten, kdo kontroluje, zhodnotí a přidá kus sebe. AI už se začala používat ve zdravotnictví, například v diagnostice, kde pomáhá odhalovat nádory, analyzuje rentgeny, určuje diagnózy. I tam je na konci tohoto procesu člověk, lékař, který výsledky posoudí. Ale jsou činnosti, kde možná bude člověk vynechaný, protože se zjistí, že AI je přesná a dobrá. Například proč bych si v kanceláři platil živou asistentku, která odpovídá mým klientům a já jí dávám měsíčně třeba třicet tisíc, když si můžu za dvacet dolarů měsíčně natrénovat AI, která dělá to samé, funguje 24 hodin denně, nemá dovolenou, není nemocná. Spousta firem už přemýšlí, jestli se jim vyplatí mít živého zaměstnance na konkrétních pozicích.
Plete se AI někdy?
AI je natrénovaná na určitém objemu dat – třeba na fotografiích, textech, webových stránkách, knihách, diskuzních fórech apod. S těmi pak umí pracovat, ty umí kombinovat, vzájemně je propojovat a především předpovídat výsledek našeho zadání. Neobsahuje však všechny informace světa a občas něco „neví“. A bohužel si může začít vymýšlet (tzv. halucinovat). Proto je velmi důležité, abychom si výsledek vytvořený AI vždy zkontrolovali.
Chová se jako člověk?
Je to simulace lidského chování – je potřeba si uvědomit, že AI je stroj. Nemá žádné vědomí, je to software. My lidé jsme mu řekli, aby se tak choval. A my jsme mu schopni říct, když něco nevíš, napiš, že to nevíš.
Čeho se bojíte v souvislosti s AI?
Bojím se toho, že pokud nezměníme systém našeho vzdělávání, postupně budeme hloupnout a ztrácet kontrolu. Ona je totiž AI velmi návyková. Je jednoduchá, šetří čas, pracuje za nás. Na to si člověk rychle zvykne. Potíž je, že ji začaly ve velkém používat děti.
To je dobře, ne? Jako pomůcka ve škole…
Ano i ne. Smyslem školy vždy bylo, aby se dítě něco naučilo, získalo znalosti, dovednosti, postoje, hodnoty, aby se mu rozvíjel mozek. Když jsme mu například zadali slovní úlohu v matematice, muselo nejdřív promyslet, jak na to, pak si tu úlohu přeměnilo do nějaké rovnice a dobralo se výsledku. V každém kroku použilo mozek. Trénovalo ho. S AI je to trochu jinak. Ta může výsledek dodat hned. Takže problém není, zda ji použijeme, ale jak ji použijeme. V zahraničí např. udělali experiment v hodinách matematiky. Rozdělili žáky na tři skupiny. První pracovala tradičně s běžnými pomůckami. Ve druhé mohli využít AI, ale chatbot byl naučený tak, že nedával přímo odpovědi. Vedl dítě, naznačoval postupy, ale nedával rovnou výsledek. Třetí skupinka měla k dispozici AI, která příklad spočítala a dala i výsledek. S odstupem času dali těmto dětem test, aby prověřili jejich znalosti. Nejhůř dopadly ty, které používaly AI s hotovými odpověďmi. Zatímco v první a druhé skupině byly výsledky zhruba stejné, ve třetí skupině byly znalosti nižší o 10 až 15 procent.
Bojíte se, že tím, jak je AI návyková, přestaneme používat mozek?
Bojím se, že místo aby pomáhala, bude nahrazovat velkou část našeho myšlení. To je špatně, protože lidstvo přežilo jen díky tomu, že jsme pořád využívali mozek. Myšlení nás dělá lidmi. Teď se obávám, že nám AI kousek toho mozku začne nahrazovat. U dospělých, kteří už mají vytrénovaný mozek, využívání AI podle mě nenapáchá takové škody jako u dětí. Proto bych rád apeloval na učitele, na rodiče, ať dohlédnou na to, aby děti AI používaly tak, aby jim neubližovala.
Nahradí AI učitele? Ptám se čerstvého držitele nové univerzitní ceny Univerzity Palackého pro nejoblíbenějšího pedagoga.
Umím si představit, že velkou část vzdělávání dětí dokáže převzít umělá inteligence. Má neomezeně času, je kdykoli k dispozici, má obrovské penzum znalostí. Ale učitel nepředává jen poznatky, dovednosti. Dobrý učitel by měl v dětech budovat nějaký postoj ke světu, učit je pracovat s emocemi, budovat v nich pozitivní hodnoty, pochválit, uklidnit, ale třeba také vystavit je nekomfortním podmínkám a učit je je překonávat. Měl by také podle mého názoru podněcovat lásku dětí ke svému předmětu, ne ji zabít. Podle mě je to nenahraditelná profese. Učitelé v nás dokážou probudit zájem, vášeň, mají obrovský vliv na náš život. Pokud jsou dobří. Špatného učitele umělá inteligence nahradí určitě. A není to na škodu. Ti dobří budou potřeba stále.
Text původně vyšel v magazínu Univerzity Palackého Žurnál UP.