Anthropic подтвердила утечку исходного кода Claude Code из-за человеческого фактора
Американская Anthropic признала, что по ошибке опубликовала исходный код своего ассистента по разработке ИИ-модели Claude Code. Ошибка была вызвана человеческим фактором и не связана со взломом, отметили в компании. Anthropic добилась удаления 96 репозиториев на GitHub
Американская Anthropic по ошибке опубликовала исходный код своего ассистента по разработке ИИ-модели Claude Code, сообщили The Register и Bloomberg.
При очередном обновлении программы в открытый доступ случайно попал отладочный файл с почти 500 000 строк внутреннего кода. Разработчики по всему миру скопировали утекший код, чтобы понять, как Anthropic использует большую языковую модель (LLM), лежащий в основе приложения, и поделились им на платформе программирования GitHub.
Представитель Anthropic подтвердил инцидент. «Это была проблема с упаковкой релиза, вызванная человеческой ошибкой, а не нарушением безопасности», — заявил он (цитата по The Wall Street Journal).
Anthropic немедленно потребовала от GitHub удалить более 8000 копий и адаптаций исходного кода Claude Code, которыми разработчики поделились на платформе. Позднее компания сузила свои требования до 96 репозиториев, которые защищены авторским правом.
По словам представителя Anthropic, в результате инцидента пользователи не получили доступ к данным клиентов и весам (внутренним математическим вычислениям) моделей ИИ.
Но утечка раскрыла методы, инструменты и инструкции Anthropic, которые позволяют пользователям контролировать и направлять эти модели, отмечает WSJ. В результате конкуренты Anthropic, а также множество стартапов и разработчиков имеют подробную дорожную карту для клонирования функций Claude Code. А хакеры получили информацию для поиска ошибок, которые они могли бы использовать для взлома программного обеспечения Claude Code или манипулирования моделью ИИ Claude для осуществления кибератак, указывает газета.
Ранее, в начале марта, Anthropic подала иск к Минобороны США, его главе Питу Хегсету и нескольким федеральным ведомствам и чиновникам администрации президента США Дональда Трампа за то, что они признали компанию угрозой национальной безопасности и попытались расторгнуть с ней контракты. Как подчеркивал гендиректор Anthropic Дарио Амодеи, компания выступает против использования Пентагоном ее ИИ-моделей для массовой слежки или обеспечения работы полностью автономного оружия по той причине, что «передовые системы ИИ просто недостаточно надежны».
В результате федеральный судья в Сан-Франциско заблокировала распоряжение Пентагона. Но ее постановление не является решающим: отдельное дело, связанное с другим законом, рассматривается в другом федеральном суде — в Вашингтоне.