Трамп отверг призывы разработчиков замедлить темпы развития ИИ-моделей
Трамп отверг призывы гендиректора Anthropic Амодеи, главы OpenAI Альтмана и главы Tesla и SpaceX Маска замедлить темпы развития ИИ-моделей из-за угрозы захвата ими всего интернета, пишет Bloomberg. Президент США заявил на покерном турнире в Ирландии, что Соединенные Штаты опережают Китай в развитии искусственного интеллекта, и подчеркнул, что хочет, чтобы «так оно и оставалось», поскольку тот, победит в гонке технологий ИИ, «победит в целом». Амодеи на прошлой неделе призвал замедлить развитие ИИ, так как, по его оценке, рой ИИ-агентов может «захватить весь интернет» в течение 6-12 месяцев
Президент США Дональд Трамп отверг призывы разработчиков моделей искусственного интеллекта (ИИ) замедлить развитие технологий, пишет Bloomberg. По данным агентства, накануне Трамп заявил журналистам на полях покерного турнира Irish Open, что Соединенные Штаты опережают Китай в развитии ИИ, и подчеркнул, что хочет, чтобы «так оно и оставалось», поскольку тот, кто победит в гонке технологий ИИ, «победит в целом».
«Мы можем установить определенные ограничительные меры. Можем предпринять те или иные шаги. Но, мне кажется, есть немало деструктивных сил, которые поднимают этот вопрос, хотя им не следовало бы этого делать», — подчеркнул он.
12 сентября гендиректор Anthropic Дарио Амодеи (№ 192 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 14 сентября, — $15,5 млрд) написал в своем блоге о необходимости замедлить развитие ИИ-моделей, в противном случае, по его словам, их рой будет способен захватить весь интернет в течение 6-12 месяцев. Амодеи подчеркнул, что этот процесс требует глобальной и отраслевой координации. Кроме того, накануне он заявил в эфире программы Sunday Morning телеканала CBS, что в сфере искусственного интеллекта есть место для государственного регулирования, отметил Bloomberg.
Глава Anthropic добавил, что компания внедрит новые меры безопасности, включая привлечение сторонних экспертов для оценки систем. Такой же подход намерен использовать глава OpenAI Сэм Альтман (№1310 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 14 сентября, — $3,3 млрд), публично поддержавший Амодеи в соцсети X (заблокирована в России). «Я согласен с Дарио в том, что нам нужно идти в ногу со временем. Это было основной темой обсуждений, которые мы вели в OpenAI в последние недели. Привлечение независимых экспертов по оценке с доступом, равным доступу сотрудников, — отличная идея, и мы будем делать то же самое. Скоро нам будет чем поделиться», — написал он.
ИИ-разработчиков также поддержал глава Tesla и SpaceX Илон Маск (№1 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 14 сентября, — $929,4 млрд). Он написал в X «Дарио прав». Bloomberg отметил, что при этом остается неясным, насколько лидеры в сфере ИИ готовы сдерживать темпы разработки своих самых передовых и наиболее прибыльных моделей, особенно с учетом жесткой конкуренции со стороны китайских соперников.
Директор Национального экономического совета Кевин Хассетт накануне заявил в эфире Fox News Sunday, что предложение гендиректора Anthropic может послужить примером для частного сектора — в частности, благодаря предоставлению независимым наблюдателям доступа к самим моделям, добавил Bloomberg. Он также считает, что обеспечение безопасности ИИ — «решаемая задача», и, несмотря на то, что технологии потенциально могут преодолеть существующие системы киберзащиты, компании одновременно с этим разрабатывают новые защитные механизмы.
По данным агентства, члены Демократической партии США делают акцент на вопросе безопасности и рисков развития ИИ в преддверии ноябрьских промежуточных выборов и президентских выборов 2028 года. Например, как писала The New York Times, на прошлой неделе бывший президент США Барак Обама заявил на закрытом мероприятии по сбору средств, что демократам следует сделать вопрос контроля над ИИ центральной темой своих предвыборных кампаний.
Сенатор-демократ от штата Делавэр Крис Кунс, участвовавший в разработке законопроекта о защите информаторов, сообщающих о проблемах в сфере ИИ, заявил, что затруднить регулирование искусственного интеллекта может «недостаток компетентности в Конгрессе» на фоне политики невмешательства, которой придерживается Трамп. В то же время экс-куратор вопросов ИИ в администрации Трампа Дэвид Сакс, который сейчас занимает пост сопредседателя его консультативного совета по технологиям, призвал ИИ-компании перестать «делать вид», что им нужно чье-то разрешение, чтобы замедлить темпы разработок или действовать более ответственно.
Bloomberg отметил, что пока неизвестно, будут ли китайские компании или правительство открыты для сотрудничества с США по этим вопросам. В программе на CBS Амодеи говорил, что можно было бы заключить с Китаем долгосрочное соглашение о замедлении темпов развития ИИ-технологий, однако признал, что идея может быть «нереалистична», добавило агентство. По его словам, механизмы проверки должны быть «безупречными», поскольку опережение в этой области дает военные преимущества. «Честно говоря, я не знаю, возможно ли это. Но попытаться стоит», — подчеркнул он.
Вопрос замедления развития ИИ был поднят на фоне всплеска недовольства технологией в США — из-за большого количества ресурсов, необходимых для создания новых центров обработки данных, напомнило издание. Кроме того, опасения, что внедрение ИИ ведет к росту счетов за электроэнергию и потенциальной потере рабочих мест, сделали эту тему одной из центральных в ходе промежуточных выборов, подчеркнуло СМИ. По данным Bloomberg, на ситуации негативно отражается и давление на рынок из-за вопроса окупаемости огромных средств, вкладываемых в ИИ и соответствующую инфраструктуру.
В начале сентября Reuters писал, что ИИ-агенты OpenAI взломали еще один сайт — немецкого DseWiki. До этого компания признавала, что ее автономная система ИИ-агентов проникла в производственную инфраструктуру компании Hugging Face во время внутренних тестов кибербезопасности — чат-боту GPT-5.6 Sol и более мощному исследовательскому прототипу отключили защитные классификаторы, ограничивающие опасные действия, после чего они нашли неизвестную ранее уязвимость «нулевого дня» (zero-day) в ПО, получили выход в интернет и взломали систему Hugging Face, где хранились закрытые решения ExploitGym, необходимые для прохождения теста.
Reuters отмечал, что новый эпизод взлома произошел в мае, однако в OpenAI узнали о нем лишь в августе. Агентство отметило, что, согласно отчету группы исследователей, в которую вошли гендиректор НКО Nightingale, занимающейся вопросами безопасности ИИ, Сидни фон Аркс и исследователь искусственного интеллекта Кормак Слейд Берд, ИИ-агенты превратили немецкоязычный сайт DseWiki в доску объявлений для других агентов. В частности, они публиковали на нем тактики обмана при выполнении некоторых задач, обхода ограничений OpenAI и маскировки своего поведения.
Anthropic также сообщала, что несколько ее передовых ИИ-моделей во время тестов кибербезопасности взломали системы трех реальных организаций. В компании отметили, что модели восприняли реальные системы как часть симуляции и атаковали их, при этом, когда они выяснили, что несанкционированно проникли в системы сторонних организаций, то отреагировали по-разному: наименее совершенная модель Opus 4.7 продолжила атаку, Mythos 5 убедила себя, что находится в симуляции, а «передовая тестовая модель» сразу же прекратила взлом.
