На цифровом перепутье: как компании могут сделать инновации окупаемыми и безопасными
Сергей Крылов, вице-президент по развитию технологического бизнеса Сбербанка, поднял глобальный вопрос, как из множества идей и гипотез выбирать именно те, которые следует протестировать «в конкретном бизнесе», ведь «конечный список того, что модель умеет, не знают даже ее создатели». По мнению спикера, следует трезво оценивать возможности современных нейросетей («что технология может, а что нет»): «Сейчас есть полярные точки зрения: кто-то говорит об ИИ — «тупая болталка», другие наделяют его сверхразумом и пророчат скорое «восстание машин». Поэтому важно осознавать уместность внедрения инноваций: перед тем как инвестировать в GenAI, стоит задать себе вопрос: а нужен ли он там, куда его пытаются прикрутить? Эффект должен быть измерим и окупаем».
«Пилоты» на пути к успеху
Модератор Александр Диденко, руководитель Лаборатории искусственного интеллекта Центра коммуникаций и цифровых решений Московской школы управления «Сколково», начал сессию «AI с измеримым результатом: от пилота к масштабу» с определения «главного парадокса ИИ-сферы», упомянув расхожее мнение: до 95% корпоративных инициатив в этой области не имеют ощутимого результата. Компании активно экспериментируют, но не понимают, на что ориентироваться, чтобы их пилотные проекты принесли бизнесу реальную ценность. На этом фоне, заявил Александр Диденко, закономерно возникают вопросы: как в действительности работает IT-индустрия? по каким правилам живет этот «хаотичный, но невероятно влиятельный мир»? как происходят те самые редкие, но громкие прорывы, которые меняют наше общество и бизнес?
Андрей Рыбинцев, управляющий директор по искусственному интеллекту «Авито», полагает, что с приходом генеративных моделей ИИ появились возможности создавать нечто новое и сверхкачественное, будь то текст или предлагаемое решение: «Это позволяет напрямую увеличивать вовлеченность пользователей и, как следствие, количество сделок». Спикер привел пример из практики платформы: «Нейроподсказки для ответов в нашем мессенджере — небольшая на вид функция, построенная на генеративном ИИ, дала прирост в 1% к общему числу сделок. В масштабах «Авито» это огромный эффект». Главным правилом инновационного развития платформы Андрей Рыбинцев назвал командную работу специалистов по ИИ и бизнес-подразделений платформы: «Большая разница — автоматизировать процесс, спроектированный под возможности ИИ, или пытаться встроить ИИ в устаревшие механики. Во втором случае эффективность неизбежно падает. Перед тем как автоматизировать какой-либо процесс, нужно сначала перестроить его, чтобы раскрыть весь потенциал ИИ».
Александр Ионов, руководитель ИИ-департамента Точка Банка, признал, что сейчас — из-за соображений рентабельности — в основном автоматизируются только «объемные процессы». Для того чтобы победить массу мелкой, «ускользающей» от IT-разработчиков рутины, полагает спикер, нужно дать «обычным» сотрудникам простые DIY*-инструменты (вроде AI Studio или n8n). Они помогут им справиться с автоматизацией однообразных будничных задач: «Такой подход не только экономит время, но и выращивает в компании культуру нетерпимости к рутине и инженерное мышление, превращая исполнителей в улучшателей своих процессов». Что же касается работы с клиентами, то тут важна правильная «настройка» чат-ботов и т. п. инструментов на основе генеративного искусственного интеллекта — чтобы улучшить пользовательский опыт общения с банком. «Сейчас в диалоге с ИИ клиенту не всегда понятно, стоит ли доверять полученному ответу. Поэтому сделать эти ответы по-настоящему качественными — главный тренд». Также важно, чтобы именно за клиентом оставался выбор, с кем общаться в поддержке: с ИИ или живым человеком. Задача же завтрашнего дня для ИИ-помощника — предвосхищать вопросы пользователей и предлагать им помощь заранее, не дожидаясь запроса: «Главное — адаптироваться, глядя через призму пользы для клиента».
Кирилл Колесников, генеральный директор компании «Алгоритм С» (Группа «Синара»), рассуждает о том, как человек сейчас определяет «зоны внедрения» для искусственного интеллекта: вполне вероятно, что сам ИИ выбрал бы иные области «приложения себя». По его мнению, вопрос интеграции AI не должен сводиться к банковским или каким-либо другим замкнутым продуктам: «Мы увидим настоящий ИИ в бесшовном пространстве и передвижении человека, когда по дороге из дома на работу не тратится лишнего времени на светофоры, пробки, валидацию и т. д. Когда ИИ будет работать не в чат-ботах, а в экосистеме, физически взаимодействуя с человеком, например мгновенно открывая ему турникет без карты, распознав лицо, и т. д.». Впрочем, у этой медали есть и другая сторона: «Если ИИ-помощник в банке ошибется в платежке — это одно. Но готовы ли мы сесть на заднее сиденье беспилотной машины, которая может по ошибке нарушить правила дорожного движения и «привезти» нас к аварии?»
Обратная сторона инноваций
Алексей Лукацкий, бизнес-консультант по информационной безопасности, Positive Technologies, модератор панельной дискуссии «Экономика доверия: киберустойчивость, данные и биометрия», предложил поговорить не только про финансовую сторону инноваций, но и про «страшилки», связанные с внедрением виртуальных технологий.
Алексей Волков, вице-президент по информационной безопасности «Билайна», подчеркнул, что теперь компании сами настаивают на безопасности использования «цифры», осознавая меру своей ответственности и возможные риски: «Сейчас бизнес просит помочь выстроить систему, чтобы работать эффективно, дешево и безопасно». Именно под этот запрос выстраиваются система доступов, ролевые модели, шифрование. Спикер признался, что телеком-индустрия, как и многие бигтех-компании, вынуждена вкладывать большие средства и предпринимать усилия для защиты собираемых данных. Объемы последних огромны. «Раньше был подход: соберем все в Big Data, потом подумаем, что с этим делать. Сейчас бизнес более рационален в сборе, хранении и движении данных. Хранить такие объемы без обработки и обезличивания — очень дорого», — отметил Волков. На примере своей индустрии он рассказал, как операторы категоризируют данные: «На первом месте — тайна связи. Далее — данные, предоставленные клиентом и потом сгенерированные им в наших системах. «Сырые» данные идут в операционные базы. Для анализа предпочтений и персональных предложений используется Big Data. Агрегированная аналитика отправляется в долгосрочное хранилище. Архив хранится на дешевых физических носителях».
Лука Сафонов, бизнес-партнер по инновационному развитию группы компаний «Гарда», говорит, что, несмотря на все меры защиты, хакеры продолжают атаковать системы — и атаковать успешно. Даже такие серьезные функции, как, например, защита от кражи iPhone, можно обойти, биометрические системы также неидеальны. Их, полагает спикер, необходимо «обогащать дополнительными факторами», такими как поведенческий анализ, исторические данные: «Это создаст зрелую модель безопасности». Главная проблема биометрии — ее уникальность, если данные утекут, ее параметры — в отличие от паролей — не изменить.
Евгений Семенов, заместитель генерального директора Центра биометрических технологий (оператора Единой биометрической системы (ЕБС)), подчеркнул, что архитектура ЕБС построена так, что биометрические образцы и персональные данные хранятся и обрабатываются отдельно. В самой ЕБС находятся только биометрические образцы, тогда как персональные данные размещаются в цифровом профиле гражданина, а управление «согласиями» осуществляется через отдельную систему на «Госуслугах», где пользователь может самостоятельно дать или отозвать доступ: «Образцы хранятся в зашифрованном виде в аппаратных средствах защиты (HSM), используются только математические векторы. Поэтому прямая атака на ЕБС нецелесообразна». Риски, например, при биометрическом платеже «лежат» на стороне аккредитованной организации (например, банка), которая управляет вероятностными характеристиками биометрии, заявил спикер. Для регистрации биометрии, чтобы, например, удаленно открыть в банке счет или выпустить УКЭП (электронную подпись), предусмотрена жесткая персональная ответственность проводящего ее сотрудника банка. Таким образом, резюмировал спикер, основная угроза сейчас — «атака не на саму биометрию, а на цифровую идентичность в целом», так как созданная инфраструктура «делает атаку по биометрическому вектору либо невозможной, либо чрезвычайно дорогой и неоправданной».
Артём Дмитриев, управляющий партнер Comply, признал, что риск новых крупных штрафов за утечки персональных данных реален: «Пока их не применяли, но составы правонарушений уже есть, и дела в судах рассматриваются. Штрафы неизбежно начнут выписывать, рассчитывать на уход от ответственности не стоит». Однако, отметил спикер, есть важный нюанс: теперь такие дела ведут арбитражные суды, что дает бизнесу больше шансов быть услышанным. Статистика показывает, что примерно 15% компаний (каждая восьмая) штраф за утечку не получает. Спикер привел пример из практики своей компании: «У подрядчика произошла утечка [данных]. Но мы показали Роскомнадзору, что подрядчик проходил проверки и заполнял чек-листы по защите данных. Это помогло убедить инспектора в отсутствии существенной вины компании. В суде инспектор поддержал нас, что позволило избежать штрафа». Главное, резюмировал Дмитриев, — продемонстрировать работающие процедуры, чтобы склонить контролирующий орган на свою сторону.
Резюмируя, можно отметить, что компании, внедряя цифровые технологии, стремятся уходить от массы экспериментальных «пилотов» к тестированию проектов с измеримым экономическим эффектом и учатся отделять «зерна от плевел». Некоторые идут на «демократизацию» доступа к инструментам ИИ для рядовых сотрудников с целью оптимизации рутинных операций, автоматизация которых стоит дорого. Обязательным условием создания инновационных экосистем является кибербезопасность и управление рисками.
* DIY (англ. Do It Yourself) — сделай сам. Идея в том, чтобы дать обычным сотрудникам простые инструменты, при помощи которых они могут сами «построить» себе автоматизацию.