Novinky z Avastu

Má umělá inteligence předsudky? Jaká je budoucnost virtuální a rozšířené reality? Nejen na tyto otázky odpovídá datová šéfka z McAfee Celeste Fralick

Avast, 2. září 2020

Celeste Fralick zastává funkci Senior Principal Engineer a Chief Data Scientist v McAfee. Jaký potenciál vidí ve velkých datech a jaká je podle ní spolehlivost umělé inteligence (AI)?

Celeste je zodpovědná za veškeré technické a analytické strategie, které McAfee integruje do svých produktů pro společnosti i jednotlivé zákazníky a také se stará o interní Business Intelligence. Předtím působila jako Chief Data Scientist ve skupině zabývající se Internetem věcí při společnosti Intel, kde vyvíjela analýzy strojového učení a hlubokého učení pro více než osm různých trhů. 

Kromě toho je Celeste také aktivní v akademických radách a radách společností, v redakcích časopisů a v konsorciích její zkušenosti tak zahrnují vše od analýz přes systémy až po vývoj produktů. K řadě našich řečníků konference CyberSec&AI Connected se připojuje s 40letou praxí v kyberbezpečnosti a bude i součástí panelu Boj s předsudky v AI”, ve kterém vedle ní vystoupí i Samir Jumar ze společnosti M12 nebo Rajarshi Gupta z Avastu

Sešli jsme se se Celeste, abychom probrali vše od umělé inteligence po její názor, jak moc pomohla velká data v boji proti rakovině a koronaviru a jak mohou být rasové vztahy vylepšeny pomocí lepšího vzdělání o předsudcích ve školách. 

Na konferenci CyberSec&AI Connected se připojíte k panelu Boj s předsudky v AI”. Jaká budou hlavní témata, která budete řešit? 

Vedle etiky technologie bychom se dle mého názoru měli soustředit i na kritické in-line a field monitory v datovém kanálu. To znamená i podávat zpětnou vazbu, aby byl zabezpečen neustálý vývoj. Předsudky mohou být zakotveny v analýzách, vzorkování, mírách a samozřejmě mohou vznikat z předpojatosti. Měli bychom umět odpovědět na otázku Na co bych se měl v datovém kanálu zaměřit, abych minimalizoval předsudky?” 

08-2020_MC-1919_CyberSec-Blog-Pics-August-4.2-300x200

Jaké nejdramatičtější následky (pozitivní, ale i ty negativní) má umělá inteligence na společnost a její bezpečí a soukromí? 

Bezděčné důsledky protože my nevíme, co vlastně nevíme mohou mít negativní důsledky, a to především v diverzních společnostech, kde se s předsudky nepočítá (například při žádání o půjčku nebo rozsudku doby uvěznění). Umělá inteligence také přinesla negativní důsledky v bezpečnosti. Naši protivníci mohou tuto technologii zneužívat stejně tak, jako my ji využíváme k detekování, ochraně a napravení problémů způsobených útoky. Naštěstí se držíme vždy o krok napřed, i přes zvýšenou aktivitu kyberzločinců v době koronaviru. Problémy se soukromím se stále zvětšují s rostoucími regulacemi států a je opravdu na každém jedinci, aby se naučil sdílet se světem jen to, co je nezbytně nutné. 

Abych ale nemluvila jen o negativních dopadech, umělá inteligence nám pomohla využívat velká data a svět nám leží u nohou. Můžeme jejich pomocí rozpoznat rakovinu v začátcích, vytvořili jsme díky nim chytré hlasové asistenty, můžeme být neustále online, dokonce nám umožnily rychle rozeznávat RNA a struktury koronaviru. Můj skromný názor je tedy takový, že umělá inteligence má svou cenu, ale pozitivní dopady určitě převáží ty negativní. 

Neustále rostoucí užití umělé inteligence v kyberbezpečnosti, ale i na sociálních médiích, v reklamě, při nabírání nových zaměstnanců nebo ve zdravotnictví a soudnictví rozproudilo debatu o předsudcích a spravedlnosti. Myslíte, že rozhodnutí založené na umělé inteligenci budou méně zaujaté? 

Rozhodnutí umělé inteligence budou tak dobré a nezaujaté, jací byli ti, kteří jej vytvořili a naučili jej všechny funkce. Je ale zásadní sledovat zaujetí umělé inteligence při rozhodování po jejím nasazení. Musíme zajistit, aby byla předsudkům věnována dostatečná pozornost i při učení datové vědy. Ráda se zaobírám myšlenkou, že my sami bychom mohli zlepšit rasové vztahy, kdyby se už v prvních třídách školní docházky o předsudcích a zaujatosti učilo. 

Jaké trendy a pokroky v oblasti online soukromí vás v nedávné době zaujaly? 

Virtuální realita (VR) možná konečně dostane pozornost, jakou si zaslouží. Se 42% složenou roční sazbou růstu může mít VR zásadní dopad na zdravotní analýzy i profesní trénink. Rozšířená realita (AR) má mít v roce 2022 tržní hodnotu 177 miliard dolarů. Většině z nás byla představena hrou Pokemon Go, v dnešních dnech ale začal závod o průhledové displeje a sociální i pohlcující zážitky. S VR a AR na dosah je o to důležitější, aby uživatelé pozorně sledovali, co se s jejich daty děje kdo je sbírá, co přesně sbírá a proč, jak a kde i kdy. Společnosti si musí dávat dobrý pozor na dodržování právních předpisů pro soukromí svých uživatelů, aby se vyhnuly případným pokutám. 

08-2020_MC-1919_CyberSec-Blog-Pics-August-4.3-300x169

Vzhledem k nejnovějšímu vývoji ve společnosti bude tento ročník konference CyberSec&AI Connected virtuální, díky čemuž se podaří spojit návštěvníky s řečníky po celém světě. Jak tento formát vnímáte? 

Ze začátku března jsem byla k virtuálním akcím skeptická. Od té doby jsem měla možnost několik online událostí absolvovat i na nich přednášet, a tak vím, že je takové prostředí naopak daleko více uvolněné a méně formální. Návštěvníci se mohou pohodlně zeptat na otázky, a zároveň mezi sebou komunikovat. Mám dokonce podezření, že mnoho konferencí vymění tento formát za klasické offline setkání, protože díky němu mizí problém s cestováním za akcemi zvláště pro studenty! Myslím, že i po opadnutí koronaviru (které doufejme přijde) bude hybridní formát konferencí i dál používán. 

Zaujal vás rozhovor se Celeste Fralick? Přečtěte si ho celý na našem webu konference CyberSec&AI Connected!