Баги судного дня: как ИИ превратил поиск уязвимостей в угрозу для банков и государств

Багмагеддон близко
В индустрии информационной безопасности все чаще обсуждают сценарий «Багмагеддона» — ситуации, при которой автоматизированные системы смогут массово находить и эксплуатировать десятки тысяч скрытых уязвимостей в глобальной цифровой инфраструктуре. Если раньше время между обнаружением ошибки и выпуском патча обычно измерялось неделями, то теперь оно может сократиться до часов. В таком случае технологический сбой может привести к макроэкономическому шоку: спровоцировать распродажи на финансовых рынках, дефицит ликвидности, перебои в расчетах, кредитовании и цепочках поставок.
Реальные очертания этот сценарий начал приобретать после появления новостей о возможностях новой ИИ-модели Claude Mythos, способной массово и автономно находить уязвимости в коде, включая так называемые уязвимости нулевого дня — скрытые угрозы, для которых еще не разработаны механизмы защиты. Обсуждение привлекло внимание регуляторов: Министерство финансов и ФРС США созвали в Вашингтоне руководителей крупнейших американских банков, а ЕЦБ начал обсуждать с финансовыми организациями еврозоны новые технологические риски для банковской системы.
В конце мая к дискуссии об ИИ подключился Ватикан: папа римский Лев XIV посвятил угрозам технологии энциклику (основной папский документ по важнейшим социально-политическим, религиозным и нравственным вопросам, адресованный верующим, епископам или архиепископам отдельной страны) Magnifica Humanitas, сравнив нынешнюю гонку с возведением Вавилонской башни. Он призвал подчинить развитие ИИ человеческому достоинству и социальной справедливости, а также обеспечить этому процессу правовые рамки и независимый общественный контроль. На презентации документа выступил сооснователь и самого Anthropic Кристофер Ола, заявивший, что вопросы ИИ не могут оставаться делом одних компьютерщиков: AI-лаборатории действуют под давлением коммерческих, геополитических и карьерных стимулов, поэтому им нужны внешние критики — религиозные объединения, гражданское общество, ученые, правительства и независимые моральные авторитеты.
Сама Anthropic два месяца назад проявила некоторую сознательность и, оценив риски, отказалась от широкого релиза Mythos Preview, вместо этого запустив закрытую инициативу Project Glasswing. На первом этапе доступ к новой модели получили Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks, а также другие организации, отвечающие за критически важную программную инфраструктуру. По данным Anthropic, Mythos Preview уже выявил тысячи, а позднее — более 10 000 высоко и критически опасных уязвимостей в системно значимом ПО.
Операционный директор международной компании — разработчика ИИ-ассистентов Youkeeps Осип Бурлов сравнивает такой подход с врачебным принципом «не навреди». «Дыры и костыли в софте копились годами, их латали, но такой объем кода никто не мог детально проработать. А здесь — машина, способная искать уязвимости круглосуточно», — рассуждает эксперт. По его мнению, поэтапный доступ, при котором технология сначала внедряется в важнейшие узлы — банки, промышленность и логистику, абсолютно логичен. При этом параллельно ИИ-лабораториям предстоит выработать механизмы внутреннего сдерживания, чтобы система могла блокировать свое собственное использование в незаконных операциях.
Тем не менее удержать технологию в полной изоляции не удалось. В день анонса Mythos, 7 апреля 2026 года, доступ к модели получила небольшая группа из закрытого Discord-чата, посвященного поиску невыпущенных ИИ. Участники просто угадали интернет-адрес тестовой версии — по аналогии с тем, как Anthropic называла предыдущие модели, — а войти помогла учетная запись одного из них, работавшего на стороннего подрядчика компании. Об инциденте 21 апреля рассказал Bloomberg: источник из самой группы передал журналистам скриншоты и провел живую демонстрацию работы с Mythos. На следующий день Anthropic подтвердила расследование инцидента и заверила, что ее системы не пострадали.
Хакеры средней руки
Способность массово взламывать код проявилась у Mythos как эмерджентное свойство: разработчики не тренировали искусственный интеллект специально для хакерских атак — умение обходить песочницы и системы защиты памяти возникло органически, по мере увеличения вычислительных мощностей и расширения контекстного окна. Внутренние тесты показывают разительный контраст: если предыдущая флагманская модель Claude Opus 4.6 смогла превратить уязвимости браузера Firefox в работающий эксплойт лишь дважды из сотен попыток, то Mythos успешно выполнила ту же задачу 181 раз.
В ходе закрытых тестов модель обнаружила критическую брешь в операционной системе OpenBSD, скрытую от аудиторов на протяжении 27 лет, и нашла серьезные дефекты в системно значимой медиабиблиотеке FFmpeg. Не менее тревожным прецедентом стал созданный моделью эксплойт для криптографической библиотеки wolfSSL, потенциально позволяющий злоумышленникам подделывать сертификаты безопасности и создавать абсолютные клоны сайтов банков или почтовых сервисов.
«Прогресс способностей моделей в области «понимания» программного кода и архитектуры программных продуктов нельзя недооценивать. Современные мультиагентные системы уже способны реализовать полный цикл разработки и тестирования пусть и не сложных пока, но полноценных программных продуктов, — поясняет Сергей Марков, директор по развитию технологий искусственного интеллекта в Сбербанке. — Поиск уязвимостей при помощи современных моделей напоминает использование огромной команды средних по уровню, но очень прилежных экспертов для тщательного тестирования всех компонентов системы. И выяснилось, что многие уязвимости реальных систем никогда не были изучены, просто потому что не хватало рук».
Марков сравнивает происходящее с революцией поисковых систем: только машинам под силу найти нужную информацию среди миллиардов документов. Эту угрозу, по его словам, не стоит недооценивать, но и предаваться панике причин нет. Во-первых, прогресс не так внезапен, как может показаться: системы автоматизированного поиска уязвимостей существовали и раньше, и прирост эффективности не столь радикален, как кажется неспециалистам. Во-вторых, поиск уязвимостей с помощью больших моделей сам по себе недешев, поэтому атака не будет бесплатной и для атакующего. «Сейчас важно сосредоточиться на поиске и устранении уязвимостей в наиболее распространенных платформах и компонентах, массово используемых по всему миру, и в этом смысле подход Anthropic по крайней мере выглядит как ответственный», — резюмирует он.
Финансовый сектор оказался идеальной мишенью для новых возможностей искусственного интеллекта. Банки исторически опираются на сложный симбиоз ультрасовременных приложений и устаревшего, унаследованного годами кода. Основатель консалтинговой компании TLPBLACK Костин Рэйю называет древние архитектуры IBM, на которых до сих пор работает значительная часть финансовой индустрии, невероятно плодородным полем деятельности для подобных алгоритмов. Исполнительный директор Guardrail Technologies ТиДжей Марлин добавляет, что способность Mythos анализировать колоссальные объемы данных позволяет ей видеть архитектуру целиком, извлекая на свет давно забытые уязвимости в базовой инфраструктуре. Ситуацию усугубляет глубокая взаимосвязанность сектора: банки используют одни и те же решения и программные стеки, что создает огромную унифицированную поверхность для потенциальной атаки.
Помимо финансов, под ударом и другие отрасли. Венчурный инвестор и футуролог Евгений Кузнецов полагает, что наиболее уязвимыми могут оказаться системы, которые трудно быстро обновлять, — прежде всего старая промышленная и критическая инфраструктура, где цифровой слой уже жизненно важен, а процессы меняются медленно. Отдельный риск, по его словам, связан с цепочками поставки программного обеспечения: если проблема возникнет в широко используемой библиотеке или готовом программном модуле, она может затронуть тысячи компаний, в чьи продукты этот модуль встроен.
При этом Багмагеддон может не ограничиться одними лишь техническими багами. Осип Бурлов предупреждает о рисках комбинированных атак, когда возможности ИИ по поиску уязвимостей совмещаются с фишингом. «С помощью ИИ создается фиктивная компания с брендбуком, сайтом и активными ботами. Эта компания рассылает похожие на сообщения в Teams коммерческие предложения или вредоносные ссылки сотрудникам условной энергетической корпорации. И пока жертву взламывают «вхолодную», уже найденные программные уязвимости ждут момента, чтобы провести атаку изнутри: украсть данные или внедрить троян», — описывает возможный сценарий Бурлов. Сильнее всего от таких комплексных ударов, по мнению эксперта, могут пострадать инфраструктурные гиганты и государственные структуры.
Обратный отсчет пошел
Хакерские возможности передовых моделей растут быстрее прогнозов: британский AI Security Institute оценил, что если в ноябре 2025 года сроки удвоения мощностей оценивались примерно в восемь месяцев, то к февралю 2026 года оценка сократилась до 4,7 месяца.
В начале апреля министр финансов США Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл провели в штаб-квартире Минфина экстренное закрытое совещание с руководителями системно значимых банков. Вице-председатель ФРС по надзору Мишель Боуман в своем выступлении назвала новую модель вызовом для всего надзорного руководства, требующим пересмотра базовых подходов к киберзащите.
В начале мая глава JPMorgan Chase Джейми Даймон вместе с генеральным директором Anthropic Дарио Амодеи заявили, что ИИ усложнил киберзащиту, но выразили надежду, что в долгосрочной перспективе именно такие инструменты позволят выстроить новую непробиваемую архитектуру. По словам Амодеи, у западных корпораций и правительств есть окно в полгода-год на устранение уязвимостей, прежде чем китайские разработчики создадут ИИ сопоставимого уровня.
В Европе ситуация осложняется технологической зависимостью от США. Европейский центральный банк созвал крупнейших кредиторов еврозоны, где вице-председатель наблюдательного совета ЕЦБ Фрэнк Элдерсон выступил с обращением: банки должны ускорить установку патчей, и отсутствие прямого доступа к новой нейросети не может служить оправданием для бездействия. Европа вынуждена выстраивать цифровую оборону вслепую, так как передовые технологии оказались монополизированы узким кругом американских корпораций. ЕЦБ уже готовит защитные меры на случай, если инструмент попадет в руки враждебных государств с большими вычислительными ресурсами. Руководитель банковского надзора Бундесбанка Михаэль Тoйрер призвал власти ЕС официально потребовать от США предоставления доступа к технологии, чтобы европейская экономика не оказалась в критической зависимости. На фоне растущего давления еврокомиссар по экономике Валдис Домбровскис заявил, что ЕК контактирует с Anthropic по Mythos: компания уже провела для Брюсселя технический брифинг о кибервозможностях и рисках модели, а ЕС добивается, чтобы компании и банки могли использовать ее для тестирования киберустойчивости. При этом, по его словам, доступ к модели жестко контролируется из-за риска злоупотреблений.
В Индии тем временем Mythos тоже тестируют на уровне критически важной инфраструктуры. По информации Bloomberg, правительство совместно с Infosys, Tata Consultancy Services и другими технологическими компаниями проверяет уязвимости публичных финансовых и государственных приложений в закрытой защищенной среде. Особое внимание уделяется банковскому ПО Finacle от Infosys: компания пытается заранее подготовить патчи для системы, которая широко используется финансовыми институтами.
Пиар судного дня
«Судя по опубликованным цифрам бенчмарков, Mythos — это серьезный шаг вперед, но эффект в виде множества найденных уязвимостей во многом обусловлен не столько революционными возможностями модели, сколько, по всей видимости, кратным увеличением объема проверок», — отмечает Марков. Он напоминает, что значительный рост показателей на бенчмарках в новейшей истории ИИ часто был связан с явными или неявными утечками тестов, поэтому специалисты относятся к высоким результатам с изрядной долей осторожности. «Возможно, Mythos на практике и не лучше последних продуктов OpenAI или топовых китайских моделей, но само применение передовой модели для аудита уязвимостей в больших масштабах и результаты этого применения впечатляют», — добавляет эксперт.
По данным британского Института безопасности ИИ (AISI), базовая GPT-5.5 стала второй моделью в мире, успешно смоделировавшей многоступенчатую кибератаку.
По мнению Евгения Кузнецова, в обсуждении вокруг Mythos смешаны реальный риск и сильная коммуникационная кампания Anthropic: ИИ уже заметно ускоряет поиск уязвимостей, поэтому разговор о безопасности имеет основания, но вокруг модели явно выстраивается образ почти запретной технологии, доступ к которой должны контролировать несколько «ответственных» игроков. «Для Anthropic такая рамка удобна перед IPO, в разговоре с регуляторами и в конкурентной борьбе», — считает футуролог. Историю «партнерства» с папой римским он тоже рассматривает как иллюстрацию того, насколько компания тяготеет к громкому «экзистенциальному пиару».
Похожим мнением поделился и глава OpenAI Сэм Альтман в подкасте Core Memory: по его словам, «маркетинг, основанный на страхе» со стороны Anthropic помогает сохранить ИИ в руках небольшой и эксклюзивной элиты. «В мире есть люди, которые уже давно хотят, чтобы ИИ оставался в руках более узкой группы людей. Это можно оправдать самыми разными способами», — сказал Альтман. Он назвал такую риторику «невероятно сильным маркетинговым ходом»: «Мы создали бомбу и вот-вот сбросим ее вам на голову. Мы продадим вам бомбоубежище за $100 млн».
При этом похожий эпизод был и в истории самой OpenAI. В 2019 году компания отказалась сразу публиковать полную версию GPT-2, объяснив это рисками злоупотреблений — от генерации фейковых новостей до спама. Позже OpenAI все же выпустила модель целиком, признав, что не увидела «убедительных доказательств» ее массового злонамеренного использования. Решение о поэтапном релизе тогда вызвало споры: наряду с дискуссией о безопасности звучала и критика, что драматичная подача угроз могла быть всего лишь инструментом пиара.
«Если в 2019 году еще можно было поверить, что компании вроде OpenAI смогут надолго сохранить монополию на продвинутые ИИ-технологии, поскольку для обучения моделей нужны значительные вычислительные бюджеты, то сегодня, когда способности систем все больше определяются обвязкой (harness) больших моделей и грамотным применением вычислений на этапе инференса (test-time compute), рассчитывать, что продвинутый ИИ будет только у хороших парней, не приходится», — отмечает Сергей Марков. Тем более, добавляет он, что в условиях роста международной напряженности и регионализации совсем не очевидно, насколько хорошими остаются вчерашние хорошие парни.
Единственным действенным ответом Марков считает повышение открытости и развитие международного диалога в сфере ИИ, а также модернизацию защитных технологий за счет существенного роста вложений в информационную безопасность. «Массовый открытый аудит публичных репозиториев программного кода, развитие платформенных инструментов защиты и внутреннего тестирования, внедрение продвинутых ИИ-инструментов для предупреждения атак — это, как мне кажется, единственные действенные инструменты в наши дни», — заключает он.
