Регуляторы США предупредили Уолл-стрит о новой эре киберугроз из-за модели Anthropic
Главы Минфина США и ФРС провели экстренное совещание с руководителями крупнейших американских банков, чтобы убедиться, что те осведомлены о киберугрозах, связанных с новой моделью ИИ от Anthropic, и принимают меры предосторожности для защиты своих систем. 7 апреля Anthropic анонсировала модель Claude Mythos Preview, которая способна выявлять и использовать уязвимости во всех основных операционных системах и веб-браузерах
Глава Минфина США Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл провели экстренное совещание с руководителями крупнейших американских банков из-за опасений, что появление новейшей модели искусственного интеллекта от компании Anthropic предвещает эру повышенных киберугроз, сообщили Bloomberg и Financial Times со ссылкой на информированные источники.
В ходе встречи, состоявшейся в штаб-квартире Минфина США в Вашингтоне 7 апреля, Бессент и Пауэлл хотели убедиться, что банки осведомлены о возможных будущих рисках, связанных с моделью Mythos от Anthropic и потенциальными аналогичными моделями, и принимают меры предосторожности для защиты своих систем.
Совещание было организовано в сжатые сроки. В нем приняли участие руководители Citigroup, Morgan Stanley, Bank of America, Wells Fargo & Co. и Goldman Sachs Group (глава JPMorgan не смог присутствовать). Все эти банки классифицируются Минфином США как системно значимые, и их стабильность является приоритетом для глобальной финансовой системы страны, отмечает Bloomberg. Регуляторы считают возможность появления нового типа кибератак одним из самых больших рисков для финансовой индустрии, подчеркивает агентство.
7 апреля американская Anthropic анонсировала свою новейшую языковую модель Claude Mythos Preview. Она способна выявлять и затем использовать уязвимости во всех основных операционных системах и веб-браузерах по указанию пользователя, отметили в компании.
За несколько недель тестирования Claude Mythos, которая способна работать автономно без участия человека, выявила тысячи уязвимостей, многие из которых являются критическими, отмечает американский Forbes. При этом многие уязвимости существовали в течение десятилетий и оставались незамеченными при повторных тестированиях, проводимых людьми.
Само руководство Anthropic признало, что возможности Claude Mythos могут стать опасным оружием в руках хакеров и шпионов, и решило пока не выпускать модель в широкий доступ. Anthropic проинформировала высокопоставленных чиновников «в правительстве США» о всех наступательных и оборонительных кибервозможностях Mythos, заявил по этому поводу CNN руководитель группы Anthropic, отвечающей за защиту моделей ИИ, Логан Грэм. Он отметил, что компания «готова оказать поддержку правительству в тестировании и оценке технологии».
На начальном этапе руководители Anthropic решили дать допуск к Claude Mythos выборочно — лишь нескольким крупным технологическим компаниям и банкам, в том числе Amazon.com Inc., Apple Inc. и JPMorgan Chase & Co. Все они являются частью «Проекта Glasswing», цель которого — обеспечить безопасность наиболее важных систем до появления других аналогичных моделей ИИ, отмечает Bloomberg.
Ранее, в начале марта, Anthropic подала иск к Минобороны США, его главе Питу Хегсету и нескольким федеральным ведомствам и чиновникам администрации президента США Дональда Трампа за то, что они признали компанию угрозой национальной безопасности и попытались расторгнуть с ней контракты. Как подчеркивал гендиректор Anthropic Дарио Амодеи, компания выступает против использования Пентагоном ее ИИ-моделей для массовой слежки или обеспечения работы полностью автономного оружия по той причине, что «передовые системы ИИ просто недостаточно надежны».
В результате федеральный судья в Сан-Франциско заблокировала распоряжение Пентагона. Федеральный апелляционный суд округа Колумбия временно отклонил это решение. Но окончательное решение пока не принято, отмечает Bloomberg.