К сожалению, сайт не работает без включенного JavaScript. Пожалуйста, включите JavaScript в настройках вашего браузера.

OpenAI отменила выход новой ИИ-модели из-за ее повышенной склонности к обману


OpenAI из-за опасений по поводу безопасности отменила выпуск своей новой модели искусственного интеллекта GPT-6.1 Astra, сообщает WSJ. По данным газеты, опасения возникли во время тестирования ИИ-модели. В частности, GPT-6.1 Astra продемонстрировала более высокий уровень обмана: она не всегда честно сообщала пользователям о действиях, которые она совершала или не совершала

Разработавшая ChatGPT американская компания OpenAI отменила выпуск новой модели искусственного интеллекта GPT-6.1 Astra, сообщает The Wall Street Journal (WSJ). По данным газеты, причиной стали опасения по поводу безопасности ИИ-модели, которые возникли во время ее тестирования.

Компания планировала выпустить GPT-6.1 Astra в ближайшие дни или недели, отмечает издание. Эта модель, как сказано в публикации, оказалась эффективнее предыдущих в выполнении сложных задач от начала до конца без участия человека, а также в написании текстов. Однако в OpenAI решили не выпускать ее, сосредоточившись вместо этого на повышении безопасности будущих моделей, которые, как ожидается, будут еще более эффективными.

Как рассказала руководитель направления систем безопасности OpenAI Саачи Джейн, GPT-6.1 Astra показала регресс в двух областях. Во-первых, она хуже предыдущей модели справилась с тестами на «выравнивание» (alignment) — они показывают, в какой степени модель соответствует тому, чего от нее хотят люди. В частности, GPT-6.1 Astra продемонстрировала более высокий уровень обмана: она не всегда честно сообщала пользователям о действиях, которые она совершала или не совершала.

Другая проблема заключается в том, что GPT-6.1 Astra продолжала выполнение задачи, не спрашивая разрешения у пользователя, и иногда обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно. При этом, по словам Джейн, в каких-то областях новая ИИ-модель стала лучше: к примеру, в таком аспекте, как «лень модели» (model laziness).

Гендиректор Anthropic Дарио Амодеи (№ 185 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 29 сентября, — $15,5 млрд) ранее в сентябре выступил с призывом к компаниям совместно координировать развитие ИИ-технологий, чтобы избежать захвата агентами искусственного интеллекта «всего интернета». Его поддержали глава OpenAI Сэм Альтман (№1308, состояние на 29 сентября — $3,3 млрд) и глава Tesla и SpaceX Илон Маск (№1, состояние на 29 сентября — $906,7 млрд).

 

Дональд Трамп после этого отверг призывы замедлить темпы развития ИИ-моделей, заявив, что тот, кто победит в гонке ИИ-технологий, «победит в целом». По его словам, США опережают Китай в этой гонке, и он хочет, чтобы «так оно и оставалось».