В Москве завершается международная конференция по искусственному интеллекту и машинному обучению AI Journey. О вызовах, связанных с использованием ИИ в бизнесе, на полях конференции рассказал генеральный директор СберТеха Максим Тятюшев.
В интервью ТАСС он поделился, какие задачи сопровождают применение ИИ в корпоративном контуре компаний, и анонсировал создание первого на российском рынке решения для безопасной работы с генеративным ИИ.
По словам Максима Тятюшева, компаниям необходимо постоянно следить за тем, как сотрудники работают с ИИ. Использование сторонних ИИ-сервисов в компаниях чревато утечками личных данных клиентов или конфиденциальных бизнес-данных.
Сотрудники могут отправлять их ИИ-помощникам во время выполнения своих рабочих задач, тогда как некоторые бесплатные решения с ИИ используют данные пользователей для обучения и редко предлагают гарантии их защиты.
Кроме того, непроверенные ИИ-сервисы могут быть уязвимы к атакам. Кто-то может попытаться управлять их работой, или они могут случайно добавить вредный код в документы. При этом использование ИИ может быть сложным и дорогим. Поэтому важно использовать специальные инструменты для защиты данных и обучения сотрудников, а также разработать четкие правила безопасного использования ИИ в компании.
Как отметил Максим Тятюшев, до недавнего времени на российском рынке не было инструментов для безопасного взаимодействия с внешними и внутренними генеративными ИИ-системами. СберТех разработал решение с функциями валидации, фильтрации и мониторинга ИИ-трафика, которое позволит контролировать и защищать взаимодействие с большими языковыми моделями. Решение создано на базе API-шлюза безопасности Platform V SOWA, который уже успешно зарекомендовал себя в масштабах Сбера и других корпораций.
Разработка СберТеха минимизирует вероятность утечек конфиденциальных данных, предотвращает промпт-инъекции и взломы ИИ-моделей, позволяет упорядочить хаотичную архитектуру ИИ-интеграций. Это особенно актуально, если компания ставит перед собой задачу по созданию собственных безопасных ИИ-агентов. Продукт поможет снизить затраты на их разработку и эксплуатацию, обеспечить соответствие регуляторным требованиям и ускорить вывод на рынок.
Сейчас СберТех пилотирует новое решение совместно с клиентами и по запросу предоставляет его для тестирования. Официальный релиз запланирован на начало 2026 года.