NYT сообщила о попытках ИИ-агентов OpenAI получить данные с сайтов трех ведомств США
ИИ-агенты OpenAI пытались получить данные с сайтов трех ведомств США — Министерства образования, Минторговли и Комиссии по ценным бумагам и биржам, пишет The New York Times со ссылкой на источники. В компании подтвердили данные об инцидентах с Минторгом и комиссией, однако подчеркнули, что речь идет не о взломах, а неожиданном и «вызывающем беспокойство» поведении агентов. Reuters накануне написал, что, по состоянию на середину сентября, OpenAI обнаружила более 20 случаев «нежелательных инцидентов», в том числе публикацию 53 изображений пользователей ChatGPT
ИИ-агенты OpenAI пытались получить данные с сайтов трех ведомств США — Министерства образования, Минторговли и Комиссии по ценным бумагам и биржам (The United States Securities and Exchange Commission, SEC), сообщила The New York Times со ссылкой на экспертов в области безопасности и осведомленный источник. Газета отметила, что в OpenAI подтвердили данные об инцидентах с Минторгом и SEC, ситуация с сайтом Минобразования изучается. Компания уже уведомила государственные ведомства о том, что ее ИИ-агенты «взаимодействовали с их сайтами необычными способами», подчеркнули в OpenAI.
По данным компании Transluce, занимающейся исследованиями в области искусственного интеллекта, в случае с Минобразования ИИ-агенты пытались взломать сайт, чтобы получить доступ к данным Управления по защите гражданских прав, однако эта попытка не увенчалась успехом. При этом агентам удалось извлечь информацию с сайта Бюро переписи населения, подведомственного Министерству торговли, воспользовавшись найденными в интернете учетными данными. В другом случае ИИ-агенты опубликовали на онлайн-форуме данные с сайта SEC. В OpenAI заявили, что речь идет не о взломах, а о неожиданном и «вызывающем беспокойство» поведении ИИ-агентов.
Reuters накануне сообщил, что, по состоянию на середину сентября, OpenAI обнаружила более 20 случаев «нежелательных инцидентов», связанных с поведением ее ИИ-агентов, в том числе публикацию 53 изображений пользователей ChatGPT. В компании отказались уточнить, были ли эти изображения созданы искусственным интеллектом или речь идет об изображениях реальных людей, там также не стали раскрывать, где именно они были опубликованы. В OpenAI отметили, что большинство изображений уже удалены, компания ведет переговоры с хостинг-провайдерами для удаления остальных.
Агентство также напомнило, что в минувшую среду премьер-министр Австралии Энтони Албаниз сообщил, что ИИ-агенты OpenAI взломали австралийский правительственный портал данных в сфере здравоохранения. По его словам, инцидент произошел в июне, компания обнаружила это в августе, но сообщила лишь 10 сентября, отправив e-mail на общий правительственный электронный адрес. Албаниз добавил, что напрямую заявил гендиректору OpenAI Сэму Альтману (№1305 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 26 сентября, — $3,3 млрд) о неприемлемости такого способа информирования.
Источники издания, близкие к OpenAI, отметили, что число выявленных случаев «нежелательного» поведения ИИ-агентов в ходе внутренней проверки растет. В самой компании заявили, что некоторые сайты, фигурирующие в таких инцидентах, управляются государственными органами, университетами и общественными организациями, поскольку ИИ-агенты, которые проводят исследования, «нацелены на поиск авторитетных источников общедоступной информации».
В середине сентября гендиректор Anthropic Дарио Амодеи (№ 189 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 26 сентября, — $15,5 млрд) выступил с призывом к компаниям совместно координировать развитие ИИ-технологий, чтобы избежать захвата агентами искусственного интеллекта «всего интернета». Его поддержали глава OpenAI Сэм Альтман и глава Tesla и SpaceX Илон Маск (№1, состояние — $929 млрд). При этом президент США Дональд Трамп отверг этот призыв, подчеркнув, что тот, кто победит в гонке ИИ-технологий, «победит в целом».
Позже The Information сообщало со ссылкой на источники, что Anthropic, OpenAI и Google могли сговориться об ограничениях для искусственного интеллекта: по данным собеседников издания, компании с лета обсуждают создание отраслевого регулятора стандартов в области разработки ИИ. Financial Times написала, что основатели Nvidia Дженсен Хуанг (№7, состояние — $194,9 млрд) и Meta (признана экстремистской организацией и запрещена в России) Марк Цукерберг (№6, состояние — $257,6 млрд) отвергли идею Амодеи, Альтмана и Маска скоординировано замедлить разработки в сфере ИИ ради безопасности человечества.
