OpenAI сократила проверки безопасности моделей ИИ с полугода до нескольких дней

OpenAI сократила время и ресурсы на тестирование безопасности генеративных моделей искусственного интеллекта (ИИ) — сотрудникам и сторонним исследователям дали всего несколько дней на оценку новой большой языковой модели (LLM), в то время как раньше такие проверки занимали несколько месяцев, пишет Financial Times (FT) со ссылкой на несколько источников, осведомленных о ходе тестов.

Сейчас OpenAI проверяет свою новую модель o3, предназначенную для решения сложных задач. Компания, которая пытается сохранить лидирующие позиции на конкурентном рынке, хочет выпустить ее уже на следующей неделе — чтобы уложиться в эти сроки, некоторым тестировщикам дали меньше недели на проверку ее безопасности, рассказали источники газеты. Для сравнения, до выпуска GPT-4 в 2023 году у тестировщиков было шесть месяцев на ее изучение.

Источники FT отмечают, что по мере того, как большие языковые модели становятся более способными, вероятность их «потенциального использования в качестве оружия» растет. «Но поскольку спрос на нее (модель) больше, они (OpenAI) хотят, чтобы она вышла быстрее. Я надеюсь, что это не катастрофическая ошибка, но это безрассудно», — отметил один собеседник издания.

«Мы проводили более тщательное тестирование безопасности (моделей), когда (эта технология) была не такой важной», — пожаловался собеседник газеты, который сейчас тестирует модель o3.

Еще один источник FT, который тестировал GPT-4, отметил, что некоторые опасные возможности модели были выявлены только через два месяца после начала тестирования. «Общественная безопасность для них вообще не в приоритете», — заявил он о текущем подходе OpenAI.

Сейчас не существует мирового стандарта для тестирования безопасности ИИ, напоминает газета. Компании, работающие в этой области, в том числе и OpenAI, ранее подписали с властями Великобритании и США соглашение о добровольных обязательствах — позволять исследователям из организаций, занимающихся безопасностью ИИ, тестировать модели.

«Нет никаких законов, обязывающих (компании) информировать общественность обо всех пугающих возможностях... также они (компании) находятся под большим давлением, заставляющим их соревноваться друг с другом, поэтому они не собираются прекращать совершенствовать свои возможности», — отмечает бывший разработчик OpenAI Дэниел Кокотайло, который сейчас возглавляет некоммерческий AI Futures Project.

В России участники рынка, эксперты и депутаты Госдумы обсуждают законопроект о госрегулировании ИИ, узнал РБК. Он предусматривает запрет систем с «неприемлемым уровнем риска», маркировку контента, созданного ИИ, и ответственность разработчиков за вред, нанесенный нейросетями. Собеседник издания в одном из разработчиков ИИ напомнил, что ранее в правительстве заявляли о преждевременности регулирования этой технологии. Он предупредил, что «чрезмерное и поспешное регулирование приведет к замедлению развития стратегически важной отрасли». В Евросоюзе закон об ИИ привел к тому, что лидеры рынка сокращают присутствие в регионе, а собственные конкурентоспособные решения не появляются, заявил источник издания.