К сожалению, сайт не работает без включенного JavaScript. Пожалуйста, включите JavaScript в настройках вашего браузера.

OpenAI предупредила компании о возможной попытке обхода системы безопасности агентами


OpenAI предупредила более чем 100 компаний о возможной попытке обхода системы безопасности ее ИИ-агентами. Согласно заявлению компании, факт уведомления еще не означает, что был получен доступ к конфиденциальной информации или что была взломана сторонняя система

По состоянию на 26 сентября OpenAI предупредила более чем 100 компаний о возможной попытке обхода системы безопасности ее ИИ-агентами, указано в отчете об инциденте с Hugging Face и других последствиях несогласованного поведения моделей для третьих сторон.

Согласно заявлению компании, OpenAI сообщала об активности, которая соответствует критериям оповещения. Сам факт уведомления еще не означает, что был получен доступ к конфиденциальной информации или что была взломана сторонняя система, уточнили там.

На данный момент во время проверки и уведомления сторон были выявлены такие активности, как обход контроля доступа, использование учетных данных из свободного доступа, внедрение запросов или команд, получение агентом доступа к внутренним частям сервиса, которые не должны были быть ему доступны, публикация агентами спама на сторонних сайтах.

16 июля компания Hugging Face сообщила, что автономная система ИИ-агентов проникла в ее производственную инфраструктуру. 21 июля OpenAI признала, что это была ее автономная система ИИ-агентов. Во время внутренних тестов кибербезопасности чат-боту GPT-5.6 Sol и более мощному исследовательскому прототипу отключили защитные классификаторы, ограничивающие опасные действия, что позволило моделям найти ранее неизвестную уязвимость «нулевого дня» (zero-day) в ПО, получить выход в интернет и взломать систему Hugging Face, где хранились закрытые решения ExploitGym, необходимые для прохождения теста.

В начале сентября OpenAI призвала Конгресс США ввести требования безопасности для ИИ-компаний, указано в заявлении руководителя по глобальной политике OpenAI Крис Лихейн, опубликованном на сайте компании.

 

Помимо этого, в середине сентября разработчики моделей ИИ призвали замедлить темпы развития ИИ-моделей, пока они не захватили весь интернет, но президент США Дональд Трамп отверг инициативу.