Сфера киберзащиты нуждается в новых способах применения искусственного интеллекта, чтобы обеспечить большую безопасность пользователей по всему миру. Об этом говорили эксперты на прошедшей с аншлагом конференции CyberSec & AI Prague, организованной компанией Avast и Чешским техническим университетом.

«Как ИИ может помочь нам жить свободно, спокойно и безопасно? — с таким вопросом технический директор Avast Михал Пехоучек обратился к участникам конференции, собравшимся в залах Центра современного искусства DOX в Праге. — Мы можем решить эту загадку».

На конференции выступили эксперты из 11 стран. В числе затронутых тем оказались вмешательство хакеров в выборы, машинном обучении, а также его конфиденциальности и безопасности.

Между выступлениями более 250 участников конференции получили возможность пообщаться друг с другом. В ходе стендовых докладов они смогли оценить исследовательские работы студентов и молодых исследователей.

Искусственный интеллект, разработанный Avast помогает ежедневно обеспечивать безопасность пользователей. Об этом в ходе презентации, посвященной «реальному ИИ для реальных людей», рассказал Раджарши Гупта — руководитель отдела разработки искусственного интеллекта. По его словам, основная мысль заключается в том, что «ИИ в сфере безопасности — это реальность, он ежедневно обеспечивает защиту сотен миллионов пользователей Avast».

Темой конференции было сочетание повседневных проблем с передовыми научными исследованиями.

«Защита выборов касается каждого», — заявил профессор компьютерных наук Алекс Халдерман (Alex Halderman, на фото) из Мичиганского университета. Он начал исследовать взломы, затрагивающие выборы по всему миру, за десять лет до того, как на первые полосы газет вышли новости о президентских выборах в США 2016 года.

«В следующий раз все может быть гораздо хуже», — отметил он, говоря о выборах, которые пройдут в США в 2020 году. Он предложил необычное для конференции, посвященной искусственному интеллекту, решение — наряду с электронными бюллетенями использовать и бумажные. «Если у нас может быть физическое средство защиты от сбоев, оно нам определенно нужно».

Так называемые состязательные атаки на ИИ (adversarial attacks), которые можно сравнить с «идущей гонкой вооружений, делающей использование ИИ в сфере безопасности особенно трудной задачей», стали одной из главных тем мероприятий. О них же шла речь и в выступлении исследователя Avast Садии Афроз: ИИ может потерять способность правильно распознавать предметы на изображении.

По ее словам, специалисты по кибербезопасности должны работать над обновлением моделей ИИ, чтобы они смогли противостоять меняющимся атакам подобного рода.

День завершился панельной дискуссией «ИИ на страже добра и зла: вызовы и возможности в области конфиденциальности и безопасности», модератором которой стал известный журналист Дейв Гершгорн.

«Проблема не в алгоритмах. Они не являются злом сами по себе. Наше сообщество обязано должным образом подойти к созданию моделей и обучению, — заявил Раджарши Гупта. — Киберзащита — это единственная сфера применения ИИ, в которой у нас есть настоящий противник. Давайте вместе работать над ее развитием».

Участники конференции согласились, что конференция CyberSec AI Prague и в следующем году объединит сообщество специалистов по ИИ в сфере кибербезопасности.

По словам Михала Пехоучека — технического директора Avast — конференция стала кульминацией целого года работы. «Наконец-то она состоялась. Мечта сбылась». После этого он анонсировал новую конференцию CyberSec & AI Prague, которая пройдет в 2020 году. «Через год здесь снова пройдет такое мероприятие».

Вы можете ознакомиться с русскоязычной трансляцией конференции в нашем твиттере.