Novinky z Avastu

Hlavní hvězda CyberSec&AI Connected Garry Kasparov mluví o umělé inteligenci, soukromí, lidských právech a šachu

Avast, 1. červenec 2020

Rozhovor s Garry Kasparovem, šachovým velmistrem a obhájcem lidských práv nejen v éře umělé inteligence

Garry Kasparov je známý po celém světě jako jeden z nejlepších šachových hráčů. V roce 1985, teprve v 22 letech, se stal nejmladším šachovým šampionem v historii. V roce 1996 a 1997 šachovými partiemi se superpočítačem IBM Deep Blue upozornil na potenciál umělé inteligence.

Garry je také autorem mnoha knih o umělé inteligenci, lidských právech, kyberbezpečnosti a politice. Není tedy vhodnější řečník na úvod naší konference CyberSec&AI Connected, jejímž hlavním temáte je AI a bezpečí našeho soukromí.

Je nějaké téma, na které se obzvlášť těšíte na konferenci CyberSec&AI Connected? 

Jsem nadšený vždy, když se debatuje na jednom pódiu o umělé inteligenci a kyberbezpečnosti ve vztahu k novým trendům ve společnosti. Ať už jde o soukromí, práva a role veřejných institucí a soukromých společností i samotných uživatelů, kteří stojí uprostřed toho všeho. Vím, že si všichni chceme trochu odpočinout od myšlenek na celosvětovou krizi, ale ta zároveň mění náš pracovní i technologický svět. Pandemie změnila způsob, jakým přijímáme informace a zvýšila naše očekávání, která od chytrých zařízení máme. 

Vaše šachová partie proti počítači Deep Blue zvýšila povědomí o možnostech umělé inteligence víc než jakákoliv jiná událost v historii. Myslíte, že díky tomu lidé lépe pochopili potenciál umělé inteligence nebo to bylo spíš naopak? 

Když se na to dívám zpětně, tak pravděpodobně obojí. Každá křižovatka v technologickém světě vytvoří velké napětí, nepochopení a časem se stává mýtem. Všechno dnes nazýváme umělou inteligencí jen do té doby, dokud to začne správně fungovat, a pak tomu dáme konkrétní jméno. To je také důvod, proč je irelevantní řešit, jestli Deep Blue byl umělou inteligencí nebo ne, když se bavíme o výsledcích oné partie a jejím veřejném pochopení. Záleží jedině na tom, že Deep Blue vyhrál. Hrál tedy na úrovni mistrů světa, což byl také jeho jediný cíl. Pro mě to byl šok a nebyl jsem sám. Najednou jsme si museli uvědomit, že technologie a různá zařízení budou jednou možná soutěžit s lidmi i o jejich intelektuálně hodnotnou práci, nejen o fyzické a rutinní úkoly. 

Počítačoví experti a filosofové mohou nekonečně dlouho diskutovat o výstupu a metodě. Nejsem profesionální filosof, ale spíš obhájce a pozorovatel, a proto je  pro mě důležité, co dokáže technologie udělat, ne jak to dělá – ačkoli i to je fascinující! Důležité je tedy to, jak nám chytrá zařízení a stroje pomáhají, jak se neustále zlepšují v chápání našeho světa. Díky nim jsme produktivnější, ve větším bezpečí, zdravější – to je něco, co nám technologie přináší a vždy přinášely. 

Vždy jste se jasně vyjadřoval o tom, že nám umělá inteligence přináší výhody.  Proč si myslíte, že tolik lidí této technologii nedůvěřuje? 

Částečně proto, že se vždy bojíme čehokoli nového a mocného, tedy i  změn, které nemůžeme předvídat. Jaderná energie, internet i umělá inteligence jsou příliš rozsáhlé na pochopení, a to vede lidi k instinktivnímu strachu. Naše společnost zbohatla a lidé se vyhýbají jakémukoli riziku, jak jen to jde – všechno, co by mohlo narušit naši rovnováhu, se nám zdá špatné. Nahradí umělá inteligence lidskou práci? Nahradí MOU práci? A tomu strachu samozřejmě napomáhají i média, která milují děsivé titulky. Ale je to škoda, protože umělá inteligence opravdu nabízí obrovské možnosti rozvoje v prakticky jakémkoli odvětví. Pokud tomu ale nepůjdeme naproti, začnou převažovat negativní aspekty AI, jako je právě ztráta pracovních míst. 

Posledním důvodem je pro mě fakt, že posledních několik desetiletí jsme viděli a četli příběhy o robotech zabijácích, dystopie, kde superinteligentní stroje převzaly vládu nad lidmi a tak dále. Takové příběhy vznikly z kulturního trendu technofobie, který se objevil současně s enviromentálním hnutím v sedmdesátých letech minulého století. Ale i antijaderné postoje té doby hrály v tomto ohledu svou roli. Místo toho, abychom byli ohromeni technologickými novinkami, jako jsou roboti nebo umělá inteligence, okamžitě jsme v nich viděli to nejhorší a přemýšleli, jak by nám mohli ublížit. A to je přece absurdní. 

06-2020-MC-1813_CyberSec-Blog-Pics-June-5.2-246x300

V minulosti jste zmínil, že pokrok v odvětvích, jakým je například umělá inteligence, nemůže být omezován. A když budeme omezovat vývoj ve Spojených státech a Evropě, jiná území nás jednoduše předeženou. Zároveň jste ale uznal, že společnosti, které schraňují obrovská množství osobních údajů, jako jsou Facebook a Google, by měly podléhat větší veřejné kontrole. Jakým způsobem si takový zásah představujete? 

Nemám rád slovo kontrola, protože výsledkem transparentnosti a veřejného tlaku jsou obvykle regulace, ne převzetí moci. Tyto velké společnosti mají bezprecedentní přístup k datům miliard lidí. Spoléhat se pouze na motivaci ziskem, zájmy akcionářů a investigativní snahu médií by bylo nezodpovědné. Nejsem zrovna fanouškem vládních zásahů nebo velkých regulací, které by mohly zpomalit inovace, ale vzhledem k tomu, o jak masivní veřejný zájem jde, je veřejný dohled potřebný. 

To ale neznamená, že by zákonodárci měli říkat lidem v Silicon Valley, jak mají dělat svou práci. Tlak by se měl vyvíjet především na transparentnost a společenskou odpovědnost firem.  Zaměřit bychom se měli také na větší problémy jako jsou právo na soukromí a na kontrolu dat. 

Upevní nebo naopak podryje umělá inteligence lidská práva? 

Pořád říkám, že technologie je agnostická, je to nástroj. Měl vynález kladiva dobrý nebo špatný vliv na lidská práva? Veškeré nové nástroje jsou dobré pro lidský pokrok a nakonec i pro lidská práva. Ale lidé přemýšlí vždy jen o současnosti. 

A když už se o lidských právech zmiňuji – lidé vždy mají tendenci začít přemýšlet o potenciálu umělé inteligence pomáhat diktátorům sledovat obyvatele. To jsou takové klasické noční můry a strach uživatelů o jejich soukromí. Další populární představou lidí je, že algoritmy budou vytvářet předsudky v systémech, a proto chtějí chránit lidská práva před umělou inteligencí. A to není dobré. 

Umělá inteligence by přitom dokázala vymýtit nerovnost i diskriminaci. Stačilo by ji správně nastavit a vést. Také by zvládla pomoci při vyhledávání uprchlíků, analyzovat bombové útoky a pomocí technologie je připisovat viníkovi. Její pomocí bychom mohli dohlížet na zločince stejným způsobem, jako se snaží dohlížet i na všechny ostatní. Znovu upozorňuji, že umělá inteligence je nástroj. Není v naší moci zajistit, aby se nějaký nástroj na světě využíval jen pro dobro, ačkoli by to bylo hezké.

Jak bychom mohli o umělé inteligenci uživatele vzdělávat, zvlášť mladou generaci? Nakonec je to právě tato generace, které umělá inteligence změní svět a práci. Mluví se o technologii dostatečně? 

Mladí lidé jsou ti, kteří pomocí umělé inteligence změní náš současný svět. S technologií vyrostou, nebudou ji vnímat jako něco cizího nebo jako vědecký projekt. Porovnejte to například s mileniály, kteří vyrostli s internetem a mluví jeho jazykem stejně dobře jako svým mateřským. Generace před nimi o internetu přitom stále mluví jako o něčem nepochopitelném. Jsou to právě starší lidé, kteří potřebují v této oblasti intenzivní rychlokurz! 

Zároveň však také potřebujeme, aby se o umělé inteligenci víc zmiňovala média. Aby ukázala, co je AI a co není. Potřebujeme praktickou, střízlivou debatu bez zastrašování a sci-fi. AI vytvořili lidé, lidé ji užívají a lidé jsou za ni zodpovědní. Potřebujeme mluvit otevřeně o umělé inteligenci a jejím využití. Autonomní zbraně? Algoritmy, které rozhodují, kdo dostane půjčku nebo práci? Znovu opakuji, transparentnost je nutná. 

06-2020-MC-1813_CyberSec-Blog-Pics-June-5.3-300x200

Pandemie COVID-19 zrychlila ve zdravotnictví poptávku po umělé inteligenci a řešeních založených na datech. Přemýšlel jste nad tím, jak vlády, technologické společnosti a zdravotnické organizace používají umělou inteligenci k boji s virem? Obáváte se, že některé režimy zneužijí současnou situaci pro svůj vlastní prospěch? 

I když věřím, že vývoj nových léků včetně vakcín může být díky technologii skutečně rychlejší a efektivnější, umělá inteligence především zazáří v monitorování jejich účinků. A to díky schopnosti rychle zpracovávat data, hledat vzorce a vztahy, což vyústí v to, že bychom mohli testovat rychleji a bezpečněji a být sebevědomější ve výsledcích. 

Paradoxně se naše návyky v reakci na pandemii značně změnily, což mate algoritmy, které bojují s virem. Navrhujeme modely založené na lidském chování a vytváříme algoritmy umělé inteligence právě pomocí dat sesbíraných ze vzorců našeho chování. Náhle se ale naše chování změnilo, a tím se mnoho dat stalo nepoužitelných, zastaralých, stejně jako algoritmy, které je vytvořily. Tudíž snaha uplatnit klasické analýzy může vést k vytvoření nesprávných výsledků. 

Krize nám ukázala to nejhorší i nejlepší z lidí. Můžeme říct, že odhalila pravou povahu člověka. Takže je samozřejmé, že zločinci a nedemokratické režimy tuto situaci zneužili. A nejenom oni. Také společnosti, které chtějí rozšířit svůj sběr dat a zpravodajské agentury, které se snaží o rozšíření svého vlivu. 

Druhým hlavním řečníkem CyberSec&AI Connected bude spoluzakladatel projektu Tor Roger Dingledine. Na co byste se ho chtěl zeptat? 

Moje otázka by byla: Jak podle něj Tor a další technologické společnosti pracující se soukromím uživatelů zapadají do tématu internetové odpovědnosti? Když se bavíme o lidských právech, anonymita může být často podmínkou k záchraně lidského života, nutností. Jsou důvody, proč diktátorské režimy nechtějí, aby byl kdokoli anonymní, ať už online nebo v reálném světě. Ale anonymita také přispívá ke všemu od kyberzločinu až po obtěžování na internetu a dalším zneužívání. Není jednoduché vybalancovat a zachovat prostředí, ve kterém jsou lidé odpovědní za své činy, a přitom poskytovat nezbytnou ochranu a zůstat odpovědný. Bude úplná anonymita, podobně jako neprolomitelné šifrování, navždy požehnáním i kletbou? Nebo můžeme mít obojí bez negativních důsledků? 

Zarezervujte si své místo na konferenci CyberSe&AI Connected zde a poslechněte si přednášku a názory Garryho Kasparova!