Kyberprostor je stále nebezpečnější, i když investice do ochrany rostou

S Bartem Preneelem o ochraně dat studujících i účastníků a účastnic výzkumů, bezpečnostních rizicích cloudů i kvantových počítačů nebo o tom, proč je dobré vedle výzkumu hrát na saxofon. 

Slovo „kryptografie“ může znít laikům hodně abstraktně, přitom jsou kryptografická zařízení všude kolem nás. Bart Preneel, profesor univerzity v belgické Lovani, jejich aktuální počet odhaduje na 40 až 50 miliard. „I pokud o kryptografii nevíte vůbec nic, pořád používáte wi-fi router, mobilní telefon, platební kartu, klíčky od auta nebo vstupní kartu od kanceláře. Všude tam se potkáváte s kryptografií.“ 

Kryptografická zařízení jsou podle Preneela v podstatě neprolomitelná, tedy pokud se nedopustí nějaké chyby člověk. „Mimo jiné nemáme dostatečnou výpočetní kapacitu k jejich prolomení. V tom tkví velký posun za posledních padesát let. Systémy jsou efektivní a široce dostupné, protože kryptografie je dnes relativně levná.“

Je tu však jedna budoucí hrozba: nástup takzvaných kvantových počítačů. „Zřejmě by umožnily část systémů prolomit. Z těch současných by byla zranitelná zhruba polovina. Pokud by se podařilo postavit dostatečně silný kvantový počítač, část systémů by se ze dne na den stala nedostatečně zabezpečenou,“ varuje Preneel. 

„Normálně se vám střídají jedničky a nuly. U kvantového počítače je to jednička a nula současně. Ve výsledku by mělo být možné provádět velké množství výpočetních operací zároveň a mít mnohem efektivnější počítače, než jsou ty dnešní,“ vysvětluje, v čem pokrok spočívá.

Jedničku a nulu současně vyjadřuje jednotka kvantové informace, které se říká kvantový bit neboli qubit. „V devadesátých letech se podařilo postavit počítače s jedním až dvěma qubity, které zvládly pár jednoduchých operací. V roce 2001 to bylo 7 qubitů, teď je rekord zhruba 420 qubitů. To jsme pořád na úrovni hraček,“ líčí Preneel.

Podle předpovědí by se za několik let měly objevit počítače dosahující až tisíců qubitů. „K prolomení kryptografických systémů zabezpečujících například medicínská data, platební karty a podobně by bylo podle odhadů potřeba kolem 5 až 10 milionů qubitů. Pořád je to relativně daleko, když nám třicet let zabralo dostat se jen na 420.“ 

Odhadovat, za kolik dekád k průlomu může dojít, podle Preneela dost dobře nejde. Ale i když může přijít až za dlouho, možné následky je podle něj třeba řešit hned teď. 

Kromě této budoucí hrozby upozorňuje i na nebezpečí, která na nás v kyberprostoru číhají už dnes. Výzkum a investice podniků do kybernetické bezpečnosti jsou podle Preneela sice na vzestupu, ale celková úroveň kyberbezpečnosti se zhoršuje. 

To zní jako paradox. Jak je to možné?
Problém tkví ve zvyšující se rychlosti digitalizace. Společnost je stále digitálnější. Měli jsme tu nástup osobních počítačů v osmdesátých letech, internetu v devadesátých letech, smartphonů na konci nultých let. Teď už je digitalizované skoro všechno. Když si koupíte auto, máte v něm stovku počítačů, je připojené k internetu i k okolním zařízením. Řeší se také přímá komunikace mezi jednotlivými auty. Z vozů se tak stávají pojízdné počítačové sítě.

Podobné je to s domy. Vývoj je tam o něco pomalejší, ale také dochází k automatizaci. Vidíme chytrá města osázená kamerami pomáhajícími optimalizovat dopravu. Znamená to ale také obrovský nárůst počtu uživatelů. Samo o sobě je to dobré, vytváří to příjemnější a pohodlnější místa pro život. Obávám se ale, že investice do bezpečnosti nestíhají držet krok s rychlostí a rozsahem investic do digitalizace našich životů. Měly by odpovídat 10 až 15 procentům rozpočtu na digitalizaci, což se neděje.

Trh totiž v tomto ohledu selhává. Když budete adekvátně investovat do zabezpečení svého produktu, vytlačí vás konkurence, která na kyberbezpečnosti šetří. Kromě toho, že je velmi těžké bezpečnost prodat, je navíc těžké systémy skutečně zabezpečit.

Jak z toho ven?
Vytvářet bezpečné systémy je možné. Máme tu ale několik překážek. První je problém zděděných systémů, které nejsou dostatečně zabezpečené. Používáme spoustu zastaralých řešení, protokolů a produktů. I nové produkty pořád poběží na starých technologiích typu bluetooth nebo budou používat zastaralé komunikační protokoly.  

Druhá věc je, že není jednoduché vybudovat adekvátně zabezpečený systém. Nejdřív je třeba zdůraznit, že systémy jsou dnes mnohem odolnější než v minulosti. Současný smartphone je bezpečnější, než byl počítač s Windows 95. Také ale máme mnohem více důvodů starat se o jejich bezpečnost. Jde totiž o komplexní systémy, které toho pojmou daleko víc než ty před třiceti lety.

Jestli před třemi desetiletími možná občas někdo něco kupoval přes internet, platba se často zpracovala jinde. Dnes v mobilu spravujete veškeré bankovní služby, všechny své osobní finance. Kdekdo telefonem ovládá domácnost, zapíná přes něj troubu. A i když uvádím zejména příklady soukromých využití, zařízení internetu věcí (IoT) najdeme i v infrastruktuře. Rozvodná síť, elektrický proud a plyn, to vše je dnes mnohem digitálnější. 

Třetí problém jsem už zmínil, tedy to tržní selhání. Uživatelé a uživatelky nepoznají rozdíl mezi levným nezabezpečeným produktem a drahým zabezpečeným.

Nešlo by lidi více vzdělávat, aby dokázali ocenit bezpečnost? Zmíněné tržní selhání by zmizelo.
Vzdělávání by rozhodně pomohlo. U většiny digitálních systémů jsou lidé po stránce bezpečnosti stále nejslabším článkem. Když na všechno kliknou, otevřou veškerá nastavení na sociálních sítích všem, instalují si náhodný software odkudkoliv… Určitě jde o něco, na čem musíme pracovat, aby měli lidé o kyberbezpečnosti povědomí a v online prostoru se chovali obezřetněji. 

Je však třeba dodat, že to nestačí. Představte si, že by se prodávala auta s dobrými brzdami a špatnými brzdami, auta s funkčním ABS a auta s poruchovým. Od průměrného spotřebitele nebo spotřebitelky přece nemůžete očekávat, že poznají rozdíl.

Proto máme u aut nějakou certifikaci. Vozy na evropském trhu musí splnit jasně dané podmínky, mít bezpečnostní mechanismy, projít crashtesty. A proto tu máme také spotřebitelské magazíny, které doplňují tuhle základní práci úřadů. Informují o crashtestech a jednotlivé vozy podrobněji hodnotí. Některý dostane tři hvězdičky, některý pět. To všechno v oblasti kyberbezpečnosti chybí.

Skutečně to zcela chybí? Nejsou tu certifikáty nebo snaha věnovat se kyberbezpečnosti ve spotřebitelských časopisech?
Takové certifikáty existují od sedmdesátých let, v devadesátých letech se transformovaly v mezinárodní standard Common Criteria (CC). Ten umožňuje vyhodnocovat bezpečnostní funkcionality, tedy jak je daný produkt bezpečný či zabezpečený. Tyto standardy se uplatňují například u inteligentních automobilů. A pokud používáte platební kartu nebo státem vydaný doklad s čipem, pak bude také schválený na základě standardu Common Criteria 

Zároveň se ale certifikáty uplatňují jen ve velmi malém množství oblastí, obvykle u velmi jednoduchých produktů. Osobní počítače nebo mobilní telefony se stovkami aplikací jsou na takovou certifikaci příliš komplexní. Druhá věc je, že hodnocení zabere spoustu času, třeba rok. Také je to velmi drahé. Navíc ve chvíli, kdy produkt modifikujete, nainstalujete novější verzi nebo patch, přestane certifikát platit. Certifikace neberou v potaz, že se dnes software vyvíjí jinak než před třiceti lety. Že nemáme novou verzi jednou za dva, za tři roky, ale třeba každý týden.

Evropská unie považuje certifikaci v této oblasti za velmi důležitou. Parlament a Rada schválily Akt o kybernetické bezpečnosti vytvářející základní rámec pro kyberbezpečnostní certifikaci. Komise instruovala Agenturu Evropské unie pro kybernetickou bezpečnost ENISA, aby pracovala na certifikačních standardech na základě návrhu členských států. Ty se vyslovily pro CC. Bude to tedy evropský standard pro platební karty, občanské průkazy nebo pasy. To nám ale nepomůže u počítačů, aut, průmyslových systémů podobně.

Jsou i jiné možnosti, nebo si musíme vystačit s Common Criteria?
Common Criteria selhávají u komplexních kritérií už třicet let a není důvod se domnívat, že najednou začnou fungovat. Proto také Unie pracuje i na flexibilnějších schématech. Jde o certifikační schéma pro cloudy, další pro internet věcí a také se pracuje na něčem pro mobilní sítě 5G. V posledním případě je to trochu opožděné, protože 5G už se zavádí. Za dva tři roky, až se standardy dokončí, bude aktuální už 6G. 

Neberte to jako kritiku Unie. Je důležité, že se na něčem pracuje. Ale bude to těžké. Kromě toho budou z politických důvodů certifikáty prozatím dobrovolné. I když budeme mít připravenou certifikaci třeba pro webkamery, pořád budete moct na trh dodávat i ty necertifikované. Je před námi dlouhá cesta a bude to trvat minimálně dekádu.

Rád citujete zakladatele hnutí svobodného softwaru Richarda Stallmana, který řekl, že cloud je jen počítač někoho jiného. To nezní dvakrát atraktivně. Proč tedy lidé cloudové služby využívají?
Atraktivní to je hlavně proto, že se nechtějí zabývat údržbou počítačů a dat na nich. Nechtějí si sami zálohovat fotky nebo po nákupu nového telefonu trávit celý den kopírováním věcí z toho starého. Prostě si koupíte nový mobil, přihlásíte se a máte v něm všechna svá data a aplikace. Je to pohodlné. 

U firem je motiv finanční. Udržovat IT tým je drahé, stejně tak mít vlastní techniku a prostory pro ni. Alternativou je tyto náklady sdílet. V tom tkví výhoda cloudů. Ještě přičtěme flexibilitu. Kolem Black Friday nebo Vánoc potřebují maloobchodníci větší počítačovou kapacitu, protože se na e-shopy nahrnou miliony lidí. Po zbytek roku ale tak velkou kapacitu nepotřebují, takže může být mezitím pronajata jiným firmám. Proto tedy dává smysl sdílet infrastrukturu. Je to s ní podobné jako s hromadnou dopravou, která je efektivnější a levnější, než když každý jezdí vlastní autem. 

Kde vidíte hlavní rizika cloudů?
Negativní stránka je, že nemáte pod kontrolou své počítače, protože to má na starosti někdo jiný. V Evropě panuje velká obava v kontextu GDPR, jelikož největší poskytovatelé cloudových služeb jsou Amazon, Microsoft a Google, tedy americké společnosti. Tři největší hráči na trhu podléhají americké legislativě.  

Z dokumentů whistleblowera Edwarda Snowdena víceméně vyplývá, že má k těmto datům volný přístup americká vládní agentura NSA. Podle GDPR je ovšem možné data evropských uživatelů transferovat na území nečlenských států jen v případě splnění podmínky adekvátnosti. Ta požaduje, aby tyto země poskytovaly úroveň ochrany dat srovnatelnou s tou evropskou. Soudní dvůr Evropské unie přitom už dvakrát rozhodl, že vzhledem k masovému sledování ve Spojených státech nemůže tato země občanům a občankám Unie garantovat srovnatelnou úroveň ochrany dat

Samozřejmě si nejsem jistý, že se průměrní spotřebitelé a spotřebitelky obávají toho, že si NSA prohlíží jejich fotky z dovolené. Z pohledu finančních institucí, společností, jako je Airbus, nebo firem v kritických odvětvích je to o poznání závažnější problém.

Největší obava se tedy týká vládních institucí Spojených států? Doteď jsem si představoval, že jde o nebezpečí ze strany soukromých hráčů, případně vlád nepřátelských zemí. 
Mluvil jsem teď především o firmách. Z pohledu občanů a občanek jde také o to, zda dát všechna svá data soukromým společnostem, které o vás budou vědět všechno. Může to být Apple, Google, Microsoft, Amazon nebo kombinace všech. Ty pak tyto informace mohou zpeněžovat. 

Služby jsou pro spotřebitele a spotřebitelky často zdarma. Platíte zato svými soukromými daty, která firmy zpeněžují. Když se podíváte na tržby společností Meta a Google, z větší části je tvoří příjmy z inzerce. Prodávají vaše data inzerentům, kteří platí za to, že se specifický inzertní obsah objeví konkrétním uživatelům a uživatelkám. Jde o poměrně vysoké částky, zhruba 30 až 50 dolarů za uživatele ročně.

Problém je, že nevíte, co přesně za informace to je, zda nejsou chybné, jestli nebudou použity proti vám nebo jestli neuniknou. Motivací společností je nasbírat o vás co nejvíce dat, protože čím víc jich mohou prodat, tím víc vydělají. Nemají žádný důvod příliš respektovat vaše soukromí. Prodat se dá všechno – kolik vyděláváte, jaké máte zájmy, jestli budete kupovat nové auto nebo boty.

V tuto chvíli tak máte na internetu stovky, ne-li tisíce firem, které sbírají kusy dat, spojují je dohromady, optimalizují je a profilují uživatele a uživatelky. Jak jsem zmínil, jednou z obav je, že to lze použít proti vám. Ucházíte se o zaměstnání, chcete sjednat pojištění nebo se snažíte získat půjčku v bance? Najednou je tu nějaká třetí strana, která o tom rozhodne na základě dat, která vám nepatří, která nekontrolujete, do kterých nemůžete nahlédnout a která mohou být i chybná. Navíc ne vždy jde jen o zpeněžení. Data těchto firem často uniknou kvůli bezpečnostním incidentům. Pak se dají opět zneužít.

Namístě je srovnání s podniky, které v druhé polovině minulého století znečišťovaly životní prostředí. Tak jako tehdy firmy vypouštěly do ovzduší neakceptovatelné množství nefiltrovaných zplodin, do online prostoru teď uniká ohromné množství nefiltrovaných dat. 

Narazil jsem na protiargument, že sociální sítě a další společnosti vlastně nezneužívají žádná „naše data“, protože nová data vytvářejí skrze naše interakce se sítí nebo jejími uživateli. Třeba seznam přátel nebo stránek, co se mi líbí, nejsou moje data, která by mi Facebook sebral. Bez něj by přece vůbec neexistovala.
Nikdy jsem neřekl, že všechna data na sociálních sítích jsou data uživatelů a uživatelek. Když sdílím blogový článek, přidám si na profil svoji fotku nebo fotku svých přátel, jde o data patřící konkrétním lidem. Ale samozřejmě, když sociálně interagujete, data jsou sdílena mezi více lidmi. 

Můžete argumentovat, že pokud má hlavní město Praha facebookovou stránku, na které lidé diskutují, jde o veřejnou sféru. Lidé se tam potkávají, něco společně vytvářejí a snaží se ze svého města udělat lepší místo. Otázka, komu patří ta data, je spíše pro právníky. Klíčová je jiná: jestli by soukromý hráč měl spravovat veřejný prostor.

Přijde mi to, jako bychom vzali náměstí a předali ho komerčnímu subjektu. Ten by tam vybudoval terasy, fontány a podobně. Ale kdykoliv tam přijdete, souhlasíte, že vás budou natáčet a nahrávat a že všechny vaše interakce budou zaznamenány, uloženy a zpeněženy.

Přesně tohle jsme udělali se sociálními sítěmi v posledních dvaceti letech. Privatizovali jsme veřejný prostor. To by se mělo změnit. Role státu by nepochybně měla být větší. Třeba některé obrázky nemůžete na sociální síť vůbec přidávat a je podivné, že to určuje americká společnost. Jestli můžete něco postovat, mají přece určovat zákony dané země, a ne korporace, která se nikomu nezodpovídá.

Na druhou stranu ale má už dnes třeba Německo legislativu, podle níž jsou Twitter nebo Facebook povinny na výzvu úřadů smazat nelegální obsah, jako jsou nenávistné projevy nebo popírání holokaustu. Vidím problém v podřízení sociálních sítí státům, protože u globálních hráčů to znamená, že se musejí podvolit i ne příliš vábným režimům. Když bude Turecko chtít mazat příspěvky označující arménskou genocidu za genocidu, Facebook by mu měl vyhovět. Nevím, jestli lze najít nějaké řešení.
To je dobrá poznámka. Není to jednoduché – a ani jsem nikdy netvrdil, že je. Na jedné straně bychom rádi, kdyby společnosti respektovaly místní legislativu. Na druhé straně internet je globální prostor a byli bychom rádi, aby v něm pravidla neurčovaly státy s méně demokratickými režimy. Tohle napětí bude existovat vždy. Hlavní výzva ale podle mě tkví hlavně v tom, zda by komerční společnosti měly být zodpovědné za veřejný prostor. Dál se pak můžeme ptát, jestli by si to měla vzít na starost OSN nebo třeba EU. Otevírá to velmi zajímavou a složitou debatu. 

Pojďme k dalšímu tématu. Kyberbezpečnost se podle vás posouvá od prevence k odhalování útoků na základě sofistikovaných řešení založených na velkých datech a umělé inteligenci (AI). Jaké v tom vidíte hrozby pro soukromí uživatelů a uživatelek?
Jde o posun paradigmatu v kyberbezpečnosti. Až do devadesátých let jsme se snažili vybudovat bezpečné systémy. Toho je velmi obtížné dosáhnout. Jak už jsem říkal, z ekonomického hlediska je to odsouzené k nezdaru, takže potřebujete regulace. Ty jsou ale komplexní, pomalé a není jisté, že výsledek bude dobrý. Kyberbezpečnost se tak posunula od prevence k detekci. 

Detekce je nákladově mnohem efektivnější. Základní myšlenka je identifikovat dobré a špatné chování a v případě detekce špatného chování zareagovat. Každý dobrý kyberbezpečnostní systém by měl využívat kombinaci obou přístupů. V posledních dvou desetiletích ale dochází k jasnému vychýlení tím druhým směrem. 

Souvisí to i s tím, že jsou systémy stále komplexnější. Bezpečnostní experti dobře ví, že když vezmete dva dobře zabezpečené systémy a spojíte je, vznikne nezabezpečený systém. Když máte takových systémů miliony, násobí se to. 

Základem této strategie je, že bychom měli aspoň vědět, která zařízení v síti máme a co se s nimi děje. To znamená všechno monitorovat a na základě toho analyzovat, co je dobré a co špatné chování. Samo o sobě je to dobrý přístup k bezpečnosti, ale vyvstávají tu úskalí.

Která?
Pokud je výchozí přístup monitorovat všechno, vzniká nebezpečí zneužití a riziko excesivního dohledu pod záminkou bezpečnosti. Podobný přístup v offline prostoru by znamenal nejen kamery v každé ulici, ale také v každém domě. Ve fyzickém světě by se lidé ozvali. Přesto jsme právě takovou filozofii přijali v kyberbezpečnosti. 

Opět je tu problém v tom, že se sbírá neuvěřitelné množství dat o lidech a jejich chování. I v tomto případě dochází k jejich zpeněžování a využití pro inzerci, nejen pro bezpečnost.

Navíc se vygeneruje tolik dat, že přestává být v lidských silách je obsloužit. V tu chvíli se dostává ke slovu umělá inteligence. Je to tedy nakonec AI, která se využívá ke sběru dat i ke zmíněné identifikaci dobrého a špatného chování. 

A pak tu vyvstává další problém – jak dobře to vůbec může fungovat? Záporáci budou také používat umělou inteligenci, aby přelstili bezpečnostní AI. Budou tedy vznikat vzájemně bojující systémy umělé inteligence. Jedny se budou snažit odhalit ty druhé, ty druhé se budou snažit uniknout odhalení těmi prvními. Nakonec ani experti na kyberbezpečnost nebudou vědět, co se děje. 

AI rozhodne, že nemůžete využívat určitou službu nebo se připojit k nějakému systému, a nikdo nebude vědět proč. To je tedy důvod k obavám.

Jak tomu předejít?
Opět jde o velmi složitý problém, který nelze vyřešit mávnutím kouzelné hůlky. Není tu univerzální řešení, díky kterému všechny problémy zmizí. Určitě neříkám, že bychom se měli vyvarovat používání umělé inteligence v kyberbezpečnosti. Stejně už je to realita. Po čem volám, je velmi opatrná regulace s cílem respektovat principy soukromí formulované v GDPR. 

Evropský přístup se zakládá na nutnosti zajistit, že nikdo nebude systémy umělé inteligence zneužívat. Součástí je pokus o definici systémů s vysokým rizikem, například systémů masové identifikace, u kterých je třeba omezit automatizované rozhodovací procesy. Podle GDPR máte právo vědět, že jsou o vás uchovávána nějaká data, proč se tak stalo, a také máte právo na manuální intervenci.

Otázka samozřejmě je, jestli se vás AI bude ptát na schválení každého kroku, až se přes inteligentní vstup do domu budou chtít dostat útočníci s jinou AI. Patrně bude nutné překonat striktní dodržování principu, že všechno musí vždy přezkoumat člověk.

Přesto by o tom společnost měla přemýšlet. Důležité sdělení pro matematické informatiky je, že jen kvůli tomu, že něco dokážeme vytvořit, to ještě za každou cenu vytvořit nemusíme. Jde o poměrně nový poznatek pro tento obor, který se postupně šíří. 

Jak dobře mají univerzity ošetřená data, ať už jde o údaje o studujících, nebo ta z výzkumu? Zejména v kontextu trendů jako open data nebo open science.
Většina univerzit má zodpovědnou politiku. Z mojí zkušenosti mají většinou data studujících a vyučujících velmi dobře ošetřena. Třeba před deseti lety bych se jako vyučující mohl podívat na známky všech studujících ze všech předmětů. Přinejmenším jsem se mohl podívat na papír, kde byly tyto známky vytištěné. Dnes jsou silně střežené a ani jako profesor nemám přístup ke známkám studujících z jiných kurzů než těch, které sám vedu. Přinejmenším GDPR zajistilo, že jsou univerzity mnohem opatrnější v tom, kdo má přístup ke kterým datům.  

Úskalí vidím ve zmíněných datech z výzkumu. Skutečně je tu trend otevřeného přístupu k těmto datům a snaha o reprodukovatelnost výzkumu. Vzniká zde problém s daty lidských subjektů. Můžete se pokusit o anonymizaci, ale pokud se jedná o velmi specifická data, bude poměrně jednoduché je přiřadit ke konkrétním osobám, třeba na základě jiných datových sad nebo úniků.

Druhá obava se týká potenciální možnosti špehování univerzit. Věřím, že jsou si toho univerzity stále více vědomy a jsou proti tomu stále lépe vybaveny. Ale budou tam rozdíly. U nás v oddělení kyberbezpečnosti jsme samozřejmě nadmíru opatrní, i pokud jde o data z výzkumu. Ale v průměru je přístup univerzit stále o něco naivnější. 

Jak se v tom projevila pandemie?
S ní přišlo třetí úskalí, související s rozmachem online výuky. Když se tento nástroj využíval příležitostně, takový problém to nebyl. Teď se ale výuka nahrává v podstatě plošně. Spolu s ní se zaznamenávají i další diskuse a komunikace na online platformách a fórech.  

Obávám se, že tu může docházet ke špehování studentů a univerzity mohou potenciálně vidět, kdo co dělá v online prostoru. Kolikrát studující viděli nějaké video, kolikrát poslali zprávu, kolikrát si něco stáhli, jestli vzájemně interagují.

Myslím, že i tady bychom měli být opatrní. Pro některé univerzity by třeba mohlo být velmi lákavé využívat tyto metriky k vyhodnocování, kdo studuje dobře a kdo špatně.

Povězte mi ještě, jestli vaše záliba v hraní na saxofon nějak ovlivnila vaše přemýšlení o světě, vaši práci a výzkum.
Tak bych to neřekl. Hraju v kapele složené z učitelů, matematiků a inženýrů. Je tu určitý sklon vybírat si lidi z tvrdých věd, ale máme tam i lidi z germánských jazyků, religionistiky nebo filozofie. Přijde mi pěkné se se všemi těmihle lidmi potkávat a na něčem společně pracovat. 

Celkově je prostě fajn mít koníček a přijít díky němu na jiné myšlenky. Nakonec jste pak produktivnější. Lidem, co pracují každý večer, každou noc a každý víkend, bych radil, aby si za každou cenu našli aspoň nějakou aktivitu, při které se jejich mozek zabývá něčím jiným. Nejen že vám to pomůže být produktivnější, ale je to také velmi obohacující zkušenost.