СМИ узнали о возможном сговоре Anthropic, OpenAI и Google об ИИ-ограничениях
Anthropic, OpenAI и Google могли сговориться об ограничениях для ИИ, пишет The Information со ссылкой на источники, знакомые с ситуацией, данные также подтвердили источники The Washington Post. По информации собеседников The Information, компании с июля обсуждают создание отраслевого регулятора стандартов в области разработки искусственного интеллекта. СМИ подчеркнуло, что эти данные появились еще до того, как гендиректор Anthropic Амодеи выступил с призывом к компаниям отрасли совместно координировать развитие ИИ-технологий, чтобы избежать захвата ИИ-агентами «всего интернета»
Anthropic, OpenAI и Google могли сговориться об ограничениях для искусственного интеллекта (ИИ), пишет The Information со ссылкой на источники, знакомые с ситуацией. Эти данные также подтвердили источники The Washington Post. По информации собеседников The Information, компании с июля обсуждают создание отраслевого регулятора стандартов в области разработки искусственного интеллекта.
Издание подчеркнуло, что эти данные появились еще до того, как гендиректор Anthropic Дарио Амодеи (№ 192 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 14 сентября, — $15,5 млрд) выступил с призывом к компаниям совместно координировать развитие ИИ-технологий, чтобы избежать захвата агентами искусственного интеллекта «всего интернета». Его поддержали глава OpenAI Сэм Альтман (№1310 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 14 сентября, — $3,3 млрд) и глава Tesla и SpaceX Илон Маск (№1 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 14 сентября, — $929,4 млрд). При этом президент США Дональд Трамп отверг призыв, подчеркнув, что тот, кто победит в гонке ИИ-технологий, «победит в целом», и напомнил, что Соединенные Штаты опережают Китай в этой гонке и он хочет, чтобы «так оно и оставалось».
По данным СМИ, на прошлой неделе Альтман заявил на общекорпоративном собрании, что он поддержал идею создания организации-регулятора в сфере искусственного интеллекта, однако считает, что ведущим ИИ-лабораториям придется сформировать орган по разработке стандартов самостоятельно, без поддержки правительства США. СМИ добавило, что в Белом доме уже изучают проект исполнительного указа о создании подобной организации, однако эта инициатива застопорилась в конце лета, не сумев заручиться достаточной поддержкой внутри администрации Трампа. Против выступил экс-куратор вопросов ИИ в Белом доме Дэвид Сакс, в частности, он возражал против участия государства в этом процессе, пояснило издание. По информации СМИ, гендиректор Meta (признана в России экстремистской организацией и запрещена) Марк Цукерберг (№6 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 14 сентября, — $222,6 млрд) также выразил обеспокоенность по поводу планов создания национального регулятора в сфере ИИ во время телефонного разговора с президентом Трампом, состоявшегося в августе, об этом сообщало Politico.
Альтман, по данным The Information, оптимистично настроен по поводу поддержки правительства при создании органа, при этом, по словам одного из источников, индустрия не достигла консенсуса по этому вопросу — некоторые компании выступают против этой идеи.
По мнению собеседников издания, встречи рабочих групп Anthropic, OpenAI и Google свидетельствуют «о готовности этих трех компаний к реальным действиям, выходящим за рамки громких публичных заявлений и предложений их руководства». Один из источников СМИ подчеркнул, что одно из собраний состоялось на прошлой неделе. Позиция Meta по этому вопросу остается неясной, указывает The Information.
The Washington Post добавил, что совокупная стоимость компаний Anthropic, OpenAI и Google оценивается почти в $6 трлн. Газета также напомнила, что в своем эссе Амодеи в том числе призывал правительство США выдать ИИ-разработчикам «узкое» разрешение на определенные виды обсуждений по вопросам безопасности.
Конгрессмен, демократ от штата Нью-Джерси Джош Готхаймер накануне призвал в X (заблокирована в России) к введению «общенациональных обязательных правил дорожного движения» в отношении искусственного интеллекта, добавило СМИ. «Меня возмущает, что эти ребята призывают к замедлению темпов, когда сами несутся на полной скорости, совершенно не заботясь о том хаосе, который они сами же и устроили», — подчеркнул он. Сакс в минувшую субботу отмечал в X, что самый простой способ не создавать сверхинтеллект — это согласиться не создавать его. Он также подчеркнул, что требование Амодеи и Альтмана создать желаемую ими нормативно-правовую базу в качестве цены за разработку сверхинтеллекта будет выглядеть «как шантаж общественности и политической системы».
12 сентября Амодеи написал в своем блоге о необходимости замедлить развитие ИИ-агентов, в противном случае, по его словам, их рой будет способен захватить весь интернет в течение 6-12 месяцев. Он подчеркнул, что этот процесс требует глобальной и отраслевой координации и заявил в эфире Sunday Morning на CBS, что в сфере искусственного интеллекта есть место для госрегулирования, отмечал Bloomberg. Глава Anthropic добавил, что компания внедрит новые меры безопасности, включая привлечение сторонних экспертов для оценки систем.
Трамп накануне заявил журналистам на полях покерного турнира Irish Open, что Соединенные Штаты опережают Китай в развитии ИИ, и подчеркнул, что хочет, чтобы «так оно и оставалось», поскольку тот, кто победит в гонке технологий ИИ, «победит в целом». Он также упомянул «деструктивные силы», которые «поднимают этот вопрос, хотя им не следовало бы этого делать».
Bloomberg отмечал, что вопрос замедления развития ИИ был поднят на фоне всплеска недовольства технологией в США — из-за большого количества ресурсов, необходимых для создания новых центров обработки данных. Кроме того, опасения, что внедрение искусcтвенного интеллекта ведет к росту счетов за электроэнергию и потенциальной потере рабочих мест, сделали эту тему одной из центральных в ходе промежуточных выборов, подчеркнуло СМИ. По данным Bloomberg, на ситуации негативно отражается и давление на рынок из-за вопроса окупаемости огромных средств, вкладываемых в ИИ и соответствующую инфраструктуру.
