Novinky z Avastu

Klíčové principy budoucnosti umělé inteligence

Jeff Elder, 11. října 2019

Nicolas Papernot z University of Toronto považuje CyberSec & AI Prague za příležitost k diskusi o principech usměrňování umělé inteligence

Na konferenci CyberSec & AI Prague se sejdou odborníci na umělou inteligenci a Nicolas Papernot by tam rád probral principy jejího usměrňování. „Na tuto konferenci se velmi těším. Odborná komunita tu totiž má příležitost přispět k položení základů významných bezpečnostních principů v oblasti strojového učení a umělé inteligence,“ říká odborný asistent pro techniku na University of Toronto a Vector Institute. 

„Na tuto konferenci se velmi těším. Odborná komunita tu totiž má příležitost přispět k položení základů významných bezpečnostních principů.“

Podle Papernota, jehož výzkum se pohybuje na pomezí zabezpečení, soukromí a strojového učení, se v obecném povědomí čím dál více prosazuje názor, že strojové učení způsobuje softwarovým systémům větší zranitelnost v oblasti zabezpečení a ochrany soukromí. Technologická komunita ale povahu a rozsah této zranitelnosti i nadále vnímá omezeně. Přístup kybernetických odborníků k výzkumu této nové oblasti se může zvrtnout v „závod ve zbrojení“, který hledá rovnováhu mezi riziky a náklady na ochranu. Snaha udržet krok s hackery se tak stane nekonečným bojem.  

„Jako komunita pořád potřebujeme vymyslet nějaký zásadovější přístup,“ říká. „Existuje řada věcí, které by dobrý bezpečnostní mechanismus ve strojovém učení a umělé inteligenci měl umět. Klíčové principy nás mohou inspirovat.“ 

Během této konference zaměřené na budoucnost se Papernot na své přednášce vrátí k původním principům návrhu zabezpečení, které Jerome Saltzer a Michael Schroeder sepsali v roce 1975 ve svém článku „The Protection of Information in Computer Systems“. Tento článek určil základní principy bezpečnostního softwaru včetně co nejjednoduššího otevřeného návrhu. 

Odborníci na kybernetickou bezpečnost a ochranu soukromí už před jednou nebo dvěma dekádami převzali od Saltzera a Schroedera řadu námětů „a nyní se přesvědčují o jejich přínosnosti,“ říká Papernot. „V oblasti ochrany soukromí toho nyní víme mnohem víc o tom, jak se bránit, než o tom, jak útočit. Příčinou tohoto rozdílu je do velké míry skutečnost, že komunita odborníků na ochranu soukromí věnovala spoustu energie hledání definic soukromí. Výsledkem její práce je systém zvaný diferenciální soukromí, který zachytí každého útočníka bez ohledu na to, co ví nebo k čemu má přístup."

Budování systémů, které se proaktivně řídí klíčovými návrhovými postupy, pomáhá komunitě odborníků na umělou inteligenci a strojové učení povznést se nad závod ve zbrojení, ve kterém mají útočníci navrch,“ řekl Papernot. 

Ten však není jediným zajímavým řečníkem z oboru kybernetického zabezpečení a umělé inteligence, kteří se 25. října v Praze zúčastní konference CyberSec & AI Prague. Akce je určena lidem, kteří se zaměřují na kybernetické zabezpečení. Vývojáři si na ní mohou rozšířit své znalosti a profesní kontakty. Studenti také budou mít příležitost probrat své nápady na tzv. „poster session“.