К сожалению, сайт не работает без включенного JavaScript. Пожалуйста, включите JavaScript в настройках вашего браузера.

WSJ сообщила о взломе систем OpenAI белыми хакерами с помощью Claude от Anthropic


Независимые исследователи в области кибербезопасности использовали софт Claude от Anthropic для получения доступа к внутренней системе кода OpenAI, сообщает WSJ. Команда, участвовавшая в программе разработчика ChatGPT по поиску уязвимостей, получила вознаграждение в размере $6500. Ранее разработчики искусственного интеллекта призвали приостановить разработку ИИ, указав на опасения по поводу безопасности технологии

Независимые исследователи в области кибербезопасности получили доступ к внутренней системе кода OpenAI с помощью софта ИИ-модели Claude от Anthropic, сообщает The Wall Street Journal (WSJ). Они смогли взломать аккаунт сотрудника OpenAI в ChatGPT, что позволило им читать и предлагать изменения в приватном хранилище ПО компании, говорится в материале.

Команда Hacktron участвовала в программе OpenAI по поиску уязвимостей и быстро сообщила компании о своих находках, пишет издание. В результате разработчик ChatGPT выплатил им вознаграждение в размере $6500, рассказали исследователи WSJ.

В OpenAI заявили, что хакеры обнаружили две уязвимости. Одна из них была выявлена в стороннем сервисе Discourse, на котором размещен форум для обсуждения в сообществе компании, а вторая — в системах самой компании, уточнили там. Разработчик ChatGPT заверил, что обе проблемы уже устранены, и поблагодарил исследователей за то, что они сообщили о находках.

Как отмечает WSJ, этот взлом пополняет череду аналогичных инцидентов за последнее время. Несмотря на месяцы предупреждений о возможностях ИИ-систем, новый взлом показывает, насколько сложность современных компьютерных систем затрудняет их защиту, указывает газета.

Эта атака свидетельствует о том, что продвинутые команды, поддерживаемые государствами, имеют вполне реальный шанс подсмотреть «ИИ-секреты» США, предупредили исследователи. «Я не думаю, что мы так же сильны, как китайские субъекты угроз», — заявил WSJ технический директор Hacktron AI Мохан Педхапати. 

 

Представитель Anthropic отказался от комментариев изданию.

О том, что этот инцидент демонстрирует сложность защиты корпоративных секретов в эпоху ИИ-хакерства, заявил также главный технический директор Abundant Security Джошуа Сакс. Если до прошлого года навыками в поиске уязвимостей обладали лишь несколько тысяч человек, теперь благодаря ИИ-агентам такую возможность получили люди с меньшими навыками, отметил он.

Ранее в этом месяце глава Anthropic Дарио Амодеи призвал замедлить темпы развития ИИ для решения проблем, связанных с контролем над такими системами. С ним согласились также глава OpenAI Сэм Альтман (№1309 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 18 сентября, — $3,3 млрд) и глава xAI, основатель Tesla и SpaceX Илон Маск (№1, $948,1 млрд ).