К сожалению, сайт не работает без включенного JavaScript. Пожалуйста, включите JavaScript в настройках вашего браузера.

Глава OpenAI призвал мир принять некоторые риски ради преимуществ ИИ


Глава OpenAI Сэм Альтман заявил в подкасте Decoded издания Politico, что мир должен принять некоторые негативные моменты ради преимуществ искусственного интеллекта и сохранения у людей свободы выбора. Альтман указал на сохраняющееся различие во взглядах между OpenAI и конкурирующей Anthropic на регулирование ИИ, хотя, как отмечает Politico, за последние месяцы эти разногласия сократились

Глава OpenAI Сэм Альтман (№1303 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 4 октября, — $3,3 млрд) заявил в подкасте Decoded издания Politico, что мир должен принять некоторые негативные моменты ради преимуществ искусственного интеллекта (ИИ) и сохранения у людей свободы выбора. По его словам, между OpenAI и конкурирующей Anthropic сохраняется фундаментальное различие во взглядах на регулирование ИИ.

Anthropic считается главным сторонником регулирования ИИ в отрасли, и до недавнего времени эта позиция расходилась с более мягким подходом, которого придерживалась OpenAI, замечает Politico. Однако за последние месяцы разногласия между двумя ведущими ИИ-компаниями сократились, пишет издание. Так, OpenAI поддержала более жесткие правила, столкнувшись с резонансными случаями взлома и неконтролируемым поведением своих моделей.

В конце сентября OpenAI отложила выпуск своей новой модели искусственного интеллекта GPT-6.1 Astra, сообщала The Wall Street Journal. По данным газеты, опасения возникли, когда модель при тестировании не всегда честно сообщала пользователям о совершенных или не совершенных действиях. Компания планировала выпустить GPT-6.1 Astra в ближайшие дни или недели. Модель оказалась эффективнее предыдущих в выполнении сложных задач от начала до конца без участия человека, а также в написании текстов. Однако в OpenAI решили не выпускать ее, сосредоточившись вместо этого на повышении безопасности будущих моделей, которые, как ожидается, будут еще эффективнее.

Примерно тогда же, в конце сентября, ведущие американские технологические компании договорились с президентом США Дональдом Трампом о совместных обязательствах в сфере контроля над ИИ. Документ подписали Трамп, а также руководители Google, Anthropic, Meta (признана в России экстремистской организацией и запрещена), OpenAI, xAI и Nvidia. Согласно соглашению, для разработчиков ИИ-моделей будут введены четыре уровня контроля и аудита.

 

Ранее в сентябре гендиректор Anthropic Дарио Амодеи (№185 в глобальном рейтинге миллиардеров Forbes, состояние на 4 октября — $15,5 млрд) выступил с призывом к компаниям вместе координировать развитие ИИ-технологий, чтобы избежать захвата агентами искусственного интеллекта «всего интернета».