Názory

Může být umělá inteligence zlá?

Garry Kasparov, 9. srpna 2019

Rozhovor s Noelem Sharkeym z Nadace pro odpovědnou robotiku

Je mi vždy velkým potěšením promluvit si s jedním ze zakladatelů kybernetiky a výpočetní vědy. Jednou z výhod umělé inteligence (AI) a robotiky je to, že se jedná o poměrně mladé obory. Navíc spousta těch, kteří je vytvořili, jsou nejen stále naživu, ale velmi aktivně se podílí na současném dění. Je to stejné, jako kdybychom mohli diskutovat o demokracii s Thomasem Jeffersonem nebo o fyzice s Albertem Einsteinem, aniž bychom si tu příležitost mohli nechat ujít.

Tito lidé, kteří stáli na počátku, mají často velmi odlišné názory na technologii, kterou pomohli vytvořit, než moderní mainstream. Obvykle věnují širší pohled tomu, jaký dopad má technologie na společnost, namísto zkoumání technologického pokroku jen kvůli technologickému pokroku samotnému. Investoři venture kapitálu, miliardáři ze Silicon Valley i zakladatelé start-upů mají své vlastní zájmy, podnikové či osobní. Neznamená to samozřejmě, že musí mít vždy pravdu, ale určitě to znamená, že bychom jim měli naslouchat.

Měl jsem to štěstí, že jsem se s několika z těchto významných osobností setkal – byl to vynálezce Ray Kurzweil, počítačový vědec Leonard Kleinrock či spolutvůrce prostředí UNIX Ken Thompson; ti všichni přímo nebo nepřímo ovlivnili technologie, jejichž prostřednictvím nyní čtete tento článek. V roce 2016, když jsme oba vystupovali na konferenci věnované umělé inteligenci v Oxfordu, se mi podařilo do „ligy legend“ přidat další významný úlovek – Noela Sharkeyho z University of Sheffield. Profesor v oborech umělé inteligence a robotiky, který má také titul Ph.D. z psychologie, se stal slavným díky svému populárně-naučnému pořadu „Války robotů“ v britské televizi. Noel je také významným politickým aktivistou, který se v posledních letech zaměřuje na to, aby v tématu „lidských práv“ nebylo opomenuto slovo „lidský“, a to prostřednictvím své Nadace pro odpovědnou robotiku a kampaní na úrovni OSN a dalších organizací, které se věnují autonomním zbraňovým systémům.

GarryNoel

Byl tedy ideálním partnerem pro rozhovor na letošní květnové konferenci VivaTech v Paříži. Otázka, kterou jsme si položili, byla prostá: Může být umělá inteligence zlá? Abychom ušetřili čas, oba jsme s upozorněním na spoiler odpověděli hned na začátku: „Ne!“ Ale samozřejmě došlo k „ale...“, jinak by se jednalo o velmi krátkou konverzaci.

Začali jsme odbočením, které se projevilo jako poučný kontrast, což se stává často, pokud hovoříte s někým tak všestranným, jako je Noel. S odkazem na moji osobní historii soupeření se šachovými stroji – v porovnání s mojí současnou pozicí zastánce vztahů lidí a inteligentních strojů – zmínil, že stále hořce nese moji prohru se systémem Deep Blue od společnosti IBM v roce 1997. Samotnému se mi již téměř podařilo ty démony vyhnat, když jsem v roce 2017 napsal knihu „Deep Thinking“. Docela mě tedy bavilo poslouchat, jak se Noel rozčiluje místo mě – a jménem komunity AI. Mnoho členů této komunity se domnívá, že vědecký aspekt šachového zápasu mezi strojem a člověkem, který sahá do minulosti až k počítačovému vědci Alanu Turingovi, byl nespravedlivě zastíněn samotným soupeřením o výhru. (Jak jsem uvedl ve své knize, společnost IBM byla v právu a bylo mojí chybou, že jsem nedocenil dramatický posun v předmětu zájmu, který to přineslo.)

Jedno specifické téma, které Noel zmínil, představuje odůvodněnou ironii vzhledem k naší interakci s dnešními mnohem inteligentnějšími stroji. Poukázal na to, že systém Deep Blue měl připojení k síti, a proto nemohlo být stoprocentně zajištěno, že budou dodržena pravidla fair play, i když by stejně tak nebylo možné dokázat opak. Tento nedostatek transparentnosti byl hlavním problémem, nikoli konkrétní obvinění z nečestnosti.

A přibližně o 20 let později stojí stejná témata v čele debat o AI a „etické AI“, nyní však v opačném smyslu. Namísto snahy dosáhnout toho, aby inteligentní stroje dnes byly zcela autonomní, tak jako šachový počítač, chceme nyní zajistit, aby nebyly! To znamená zaručit, že žádný stroj nebude činit rozhodnutí ovlivňující lidský život bez lidského zásahu a dohledu.

Je rozšířenou mylnou představou, že stroje nedělají chyby. Dokonce ani uzavřené systémy (jako jsou šachy), u nichž je aplikace ve vašem telefonu mnohem silnější než jakýkoli lidský hráč (a Deep Blue), nejsou dokonalé. Ale v této podobě jsou nevyhnutelně lepší, což je docela významné, ať už se jedná o šachy nebo relativně otevřené systémy jako diagnostika rakoviny nebo řízení automobilu. Tyto praktické důsledky mají jen málo společného s umělým bytím (AGI, artificial general intelligence), které soupeří s lidskou schopností učit se a chápat v kontextu. Jak Noel uvedl v našem rozhovoru, tvrdit, že stroj je inteligentnější než my, když se nemůže zapojit do rozhovoru nebo připravit šálek čaje, je zneužití tohoto termínu.

Mýtická moc vyprávění o superinteligentních strojích, technologická singularita a AGI – to vše odvádí naši pozornost od skutečného nebezpečí a od témat, která se nás dnes týkají. Naše inteligentní nástroje nám pomáhají překonávat problémy, pokud jsme při jejich používání kreativní a vyvineme patřičné úsilí. Není to Terminátor ani kouzelná hůlka. Jenom nám pomáhají – v dobrém i ve zlém.

Stěžovat si na zaujatost v AI je stejné jako stěžovat si na obraz v zrcadle. 

Jak rád říkám, stěžovat si na zaujatost v AI je stejné jako stěžovat si na obraz v zrcadle. Problém nevyřešíte tím, že budete manipulovat s výsledkem. Naše algoritmy budou bez ohledu na to, jak jsou důmyslné, vždy odrážet náš vlastní obraz. To neznamená, že by nebyly užitečné při odhalování této zaujatosti a nalezení řady užitečných věcí v moři dat. Mělo by to však znamenat, že nemůžeme předstírat absenci lidské odpovědnosti a přisuzovat ji algoritmům.

„Rozšířená inteligence“ namísto umělé inteligence

AI lze snáze chápat jako nástroj, pokud namísto strašidelného a nejasného pojmu „umělá inteligence“ použijeme označení „rozšířená inteligence“ (angl. augmented intelligence). Noel se zmínil, že hovořil s autorem termínu „umělá inteligence“ (angl. artificial intelligence) v roce 1956, Johnem McCarthym, o jeho odkazu. McCarthy uvedl, že si přál, aby ten termín nikdy nepoužil, protože způsobil mnoho nejasností. Jenže o čtyři roky dříve, jak říká McCarthy, použili společně s Johnem von Neumannem označení „komplexní teorie automatů“ (angl. complex automata theory), který však nikoho neoslovil. Jakmile však zazněla slova „umělá inteligence“, stalo se téma velkou senzací!

Zmatek a strach jsou nepřáteli pokroku. Podle Noelových slov existuje mnoho reálných obav v souvislosti s umělou inteligencí – od algoritmického odsuzování k trestům vězení přes neobjektivní rozpoznávání tváře po zbraňové systémy, které si svůj cíl vybírají bez lidského zásahu. Žádná společnost ani země nechce zaostávat v technologickém soupeření – pro celé lidstvo to však nemusí být dobré zprávy.

Nakonec jsme skončili optimisticky – a to i přes posedlost veřejnosti dystopickými fantaziemi v souvislosti s roboty a inteligentními technologiemi, které pro nás budou nadále obecně přínosné a díky kterým můžeme být produktivnější, zdravější i spokojenější. Noel zakončil řeč nečekaným prohlášením, v němž parafrázoval amerického prezidenta, když řekl: „Make humans great again!“ (Udělejme lidi opět skvělými!).