К сожалению, сайт не работает без включенного JavaScript. Пожалуйста, включите JavaScript в настройках вашего браузера.

Альфа-Банк и ИТМО развивают исследования в области безопасности ИИ


Альфа-Банк и Университет ИТМО представят первые результаты совместных исследований по защите ИИ-систем от киберугроз. Работы ведутся в рамках совместной магистратуры «Безопасность систем искусственного интеллекта» и посвящены новым угрозам, которые возникают по мере распространения ИИ-технологий. Исследования объединяют академическую экспертизу с практическими задачами бизнеса. Первые результаты представят 17 ноября на встрече профессионального сообщества AI AppSec Night.

Потребность в защите ИИ-систем растет одновременно с развитием самого искусственного интеллекта. В этом году в ответ на этот вызов Альфа-Банк и ИТМО создали совместную магистратуру «Безопасность систем искусственного интеллекта».

Студенты программы уже работают над прикладными исследованиями: изучают методы выявления уязвимостей в распределенных системах с использованием больших языковых моделей, способы защиты мультиагентных ИИ-систем, а также технологии, которые борются с искажением информации в базах знаний ИИ-моделей. Все разработки ориентированы на решение практических задач безопасности ИИ-инфраструктуры.

«Стремительное распространение искусственного интеллекта формирует высокий спрос на специалистов, способных обеспечивать безопасность этих технологий. Рынок пока не всегда успевает отвечать на этот вызов, поэтому важно самостоятельно развивать необходимые компетенции», — отметил руководитель департамента кибербезопасности Альфа-Банка Сергей Крамаренко.

«Мы создали совместную магистратуру с ИТМО, понимая, что наука должна помогать решать реальные задачи бизнеса и не существовать в отрыве от практики. Научные работы наших студентов и созданные на основе этих материалов реальные инструменты и подходы — показатель успешности выбранной нами стратегии», — дополнил руководитель дирекции безопасности цифровых решений в Альфа‑Банке Дмитрий Кузнецов.

«Защищать системы искусственного интеллекта и защищаться с его помощью — это уже отдельная профессия, а не дополнительный навык. Мы строим программу вместе с Альфа-Банком, чтобы выпускник приходил в индустрию с опытом решения ее настоящих задач, а не только со знанием теории», — подчеркнул декан факультета безопасности информационных технологий ИТМО Александр Менщиков.

Представить результаты исследований и обсудить актуальные вопросы защиты ИИ-систем эксперты смогут на AI AppSec Night — встрече сообщества специалистов по безопасности приложений. Мероприятие объединит представителей Альфа-Банка и ведущих технологических компаний. В программе — ИИ-ток-шоу с выступлениями экспертов, командная интеллектуальная игра и нетворкинг.