
Как появился кодекс и каковы его принципы
За финансовый рынок страны, в том числе за технологии ИИ, которые используют финтех-компании, отвечает Банк России (ЦБ). В этой сфере ЦБ придерживается стратегии мягкого регулирования — обмена мнениями и опытом с бизнесом. Одним из воплощений этого подхода стал Кодекс этики в сфере разработки и применения искусственного интеллекта на финансовом рынке. Он создан, чтобы повысить доверие людей к «умным» технологиям и сделать их удобнее и безопаснее.
«Если прочитать документ, становится понятно, что это не «свод этических заповедей для разработчиков», а скорее руководство по комфортному и прозрачному взаимодействию банков с клиентом. ЦБ смотрел на ИИ глазами не IТ-специалиста или юриста, а обычного человека, который пользуется приложением банка, звонит в кол-центр, подает заявку на кредит», — поясняет Михаил Васильев, руководитель департамента внедрения, развития и контроля ИИ-решений Альфа-Банка.
В основе кодекса — пять принципов:
1. Человекоцентричность. С помощью ИИ банки стремятся повышать качество и безопасность услуг для клиентов. Например, делать сервисы доступнее и совершенствовать системы защиты от мошенничества.
2. Справедливость. Нельзя использовать данные клиента без его согласия и дискриминировать пользователя по любым признакам. Например, отказывать в услугах по причине расы или убеждений.
3. Прозрачность. Банки раскрывают информацию о применении ИИ. Например, чат-бот не может притворяться человеком, и у клиента должна быть возможность переключиться на реального сотрудника.
4. Безопасность, надежность и эффективность. Банки анализируют качество работы ИИ, чтобы выявлять отклонения и предотвращать критические сбои. Кроме того, в компании должны работать реальные специалисты, которые при сбое оперативно возьмут на себя ключевые функции ИИ.
5. Ответственное управление рисками. Внедряя ИИ, компании должны свести возможные угрозы к минимуму. Например, вести реестр моделей, присваивать им уровень риска, фиксировать все риск-события и снижать вероятность их повторения.
Как это работает
Хотя кодекс рекомендательный, его принципами руководствуются многие лидеры финтеха. Документ обобщил те правила, которые компании уже используют.
«Мы охотно присоединились к документу: почти все, что сформулировано в кодексе, у нас уже устойчиво работает. Принципы собирались не из головы, а на основе общей практики лидеров рынка, включая Альфа-Банк», — добавляет Михаил Васильев.
Возьмем для примера обслуживание клиентов в контакт-центре. Один из принципов кодекса гласит: использование ИИ не должно ухудшать пользовательский опыт и приводить к дискриминации. В Альфа-Банке отслеживают, насколько каждый клиент доволен общением с чат-ботом, разбирают каждый случай недовольства и проводят собственную оценку работы ИИ. Если видят, что в каких-то ситуациях алгоритмы не справляются, — отключают их и подключают к диалогу реальных операторов. А обратная связь клиентов помогает совершенствовать ботов и другие ИИ-решения.
Эту практику Альфа-Банк развивает с 2018 года, когда в приоритет поддержки поставили две метрики — удовлетворенность клиента (Voice of Customer, VOC) и процент автоматизации. Стартовали с очень низких показателей: VOC около двух баллов, автоматизация — не выше 15–20%. Технологии усиливали постепенно: сначала улучшали каждое решение так, чтобы оно нравилось клиентам, а затем подключали ИИ к новым категориям обращений. Подход принес результаты: сегодня порядка 60% обращений обрабатывают боты, а клиенты оценивают общение с ними на 4,5+ баллов из 5. Интересно, что внутренние эксперты банка часто ставят ботам более низкие оценки, чем сами пользователи.
С другими процессами похожая история. В кодексе есть положение о контроле качества и достоверности работы ИИ. В Альфа-Банке уделяют повышенное внимание управлению модельным риском, и эти процессы были отлажены задолго до публикации документа. Есть единый реестр, в котором описаны все модели (их в банке несколько тысяч), классификация по уровню влияния на бизнес-процессы, мониторинг отклонений в реальном времени, ежемесячный анализ работы каждого ИИ-решения, А/Б-тестирование разных версий и много других приемов и практик.
Вопрос не только в этике. Все это необходимо, чтобы нейросети и другие модели не деградировали и работали стабильно, с предсказуемым качеством и результатом, а также своевременно учитывали изменения в экономике.
Кодекс не закон: почему это хорошо
Обобщать сложившиеся нормы в кодексах — полезная практика: они помогают наблюдать за тем, в каком направлении движется рынок, и соответствовать тенденциям. Документ ЦБ для финансовых компаний — не единственный. Например, в России есть общий (не только для банков) Кодекс этики в сфере искусственного интеллекта, аналогичные документы создают и в других странах.
Добровольность участия в таких проектах работает в плюс: ИИ находится в фазе активного развития, и многие практики еще не устоялись. Людям только предстоит узнать, как все будет работать на практике (а не гипотетически) и действительно ли технология создает новые риски, которые нужно жестко регулировать.
Часто разговоры об ИИ-этике связаны с пугающими сценариями: мошенничество, дипфейки, подделка голоса. При этом большинство таких кейсов не нуждается в отдельных законах — необходимое регулирование уже есть и работает. Например, мошенничество остается уголовно наказуемым преступлением независимо от того, использовал злоумышленник ИИ или нет.
«Если технология порождает специфические риски — деградация моделей, галлюцинации, ошибки в принятии автоматических решений, — под них нужно учиться выстраивать защитные системы. Со временем они станут стандартом и естественным образом превратятся в регуляторное требование. Но если ИИ — это новый способ сделать то, что уже регулируется, то, возможно, отдельные законы не нужны. Ответственность за последствия в любом случае несет человек, а не алгоритм», — добавляет Михаил Васильев.
Еще один аргумент в пользу мягкого регулирования через кодексы — высокая стоимость технологий. В сфере ИИ дорого все: оборудование, специалисты, интеграция. Нельзя просто «воткнуть» модель — каждый раз нужно перестраивать процесс, в котором она работает. Если на это наложится тяжелое регулирование с дополнительными расходами, заниматься развитием ИИ станет невыгодно, особенно в условиях сегодняшней гонки технологий.
ИИ-маркировка: всегда ли она нужна?
Когда речь заходит о маркировке результата работы «умных» технологий, многие путают две основные технологии — классический ИИ и генеративные решения, которые рисуют котиков, пишут тексты, музыку и говорят голосом знаменитостей.
Кодекс эти ветви четко разделяет. Например, важно маркировать сгенерированные картинки, чтобы человек понимал — это создал не художник, а машина.
В реальных бизнес-процессах банки в основном используют классический ИИ. Скажем, в оформлении кредитов такие модели обрабатывают заявки и принимают решения. Алгоритмы здесь — только часть процесса, который проходит фоново и без генерации контента. В этом случае маркировка не обязательна.
«Например, в чат-ботах мы прямо даем понять клиенту, что он взаимодействует с ИИ, — это понятный кейс общения с генеративным решением. Но если бы правила маркировки были едиными для любого применения алгоритмов, было бы неясно, как обозначать такие многосоставные процессы с использованием классического ИИ, как принятие решения по кредиту», — комментирует Михаил Васильев.
Что дальше: агенты и лимиты
Главный кандидат на появление в будущих версиях кодекса новых пунктов — ИИ-агенты. Пока реально работающих агентов на рынке мало, но технология набирает популярность.
Агент, в отличие от привычного ИИ, не только считает, генерирует или принимает решение, — он совершает действие. Например, не просто объясняет клиенту, почему не пришел кешбэк, а в случае ошибки сам доначисляет средства. Главный вопрос, который придется регулировать, — как устанавливать лимиты на автоматические действия агента. Сейчас над решением думают все участники рынка, но ясная картина сложится, вероятно, через 2–3 года практики.
«В целом ажиотаж вокруг ИИ может повторить сценарий блокчейна, который семь лет назад называли новой нефтью. Потом хайп спал: технология нашла рациональное применение в нескольких конкретных нишах, а в остальных тихо отошла в сторону. Постепенно и в применении ИИ все встанет на свои места — технологии продолжат развиваться там, где действительно эффективны. И уйдут оттуда, где обходятся слишком дорого или вовсе не работают», — резюмирует Михаил Васильев.
