Google убрал из принципов обещание не использовать ИИ для разработки оружия и слежки

Google обновил свои принципы и убрал из них обещание не использовать искусственный интеллект (ИИ) для разработки технологий слежения и производства оружия, на это обратила внимание The Washington Post.

Ранее принципы Google относительно применения ИИ включали раздел, в котором перечислялись четыре «приложения (ИИ), которые мы не будем рассматривать». В частности, компания обещала не использовать ИИ для разработки оружия, наблюдения, технологий, которые «наносят или могут нанести общий вред», а также в случаях, противоречащих принципам международного права и правам человека, старая версия страницы доступна в веб-архиве.

В блоге Google во вторник, 4 февраля, был опубликован пост от имени главы подразделения искусственного интеллекта компании Демиса Хассабиса и старшего вице-президента по технологиям и взаимодействию с обществом Джеймса Маньики. В нем говорится, что компания обновляет свои принципы по работе с ИИ, поскольку сейчас нужны компании из демократических стран, которые будут работать с клиентами из правительств и сферы национальной безопасности.

«Мы считаем, что демократические страны должны играть лидирующую роль в разработке ИИ, руководствуясь такими ключевыми ценностями, как свобода, равенство и уважение прав человека», — говорится в посте. «И мы считаем, что компании, правительства и организации, разделяющие эти ценности, должны работать вместе над созданием ИИ, который защищает людей, способствует глобальному росту и поддерживает национальную безопасность», — отметили руководители Google.

Хассабис присоединился к Google в 2014 году после того, как компания приобрела основанный им стартап DeepMind. В 2015 году он заявил в интервью, что условия сделки предусматривали, что технологии DeepMind никогда не будут использоваться в военных или разведывательных целях.

В обновленный свод принципов Google включены положения, что компания будет опираться на человеческий надзор и обратный отклик, чтобы гарантировать, что ее технологии используются в соответствии с «общепризнанными принципами международного права и прав человека». Кроме того, в принципах сказано, что компания будет тестировать технологии, чтобы «смягчить непреднамеренные или опасные последствия».

Конкурирующие с Google Microsoft и Amazon уже давно сотрудничают с американским Минобороны, напоминает газета. В конце прошлого года OpenAI (крупнейший инвестор и партнер компании — Microsoft) заявила, что будет в сотрудничестве с производителем военной техники Anduril разрабатывать технологии для Пентагона.

Microsoft и OpenAI заподозрили китайский стартап DeepSeek в несанкционированном доступе к большому массиву данных американской компании, сообщил в конце января Bloomberg со ссылкой на источники. Советник президента США Дональда Трампа по вопросам искусственного интеллекта Дэвид Сакс заявил, что есть «существенные доказательства» того, что DeepSeek использовала сгенерированные данные моделей OpenAI для разработки собственной технологии. В интервью телеканалу Fox News он рассказал о методе «дистилляции», при котором одна ИИ-модель обучается на результатах работы другой для достижения схожих возможностей.

DeepSeek представила свою модель искусственного интеллекта R1 20 января: она оказалась конкурентоспособной по сравнению с ChatGPT от OpenAI, но, по заявлению компании, потребовала меньших затрат. DeepSeek утверждает, что потратила на обучение модели $5,6 млн. При этом глава ИИ-стартапа Anthropic Дарио Амодеи приводил диапазон подобных расходов в $100 млн — 2$1 млрд. Это заставило инвесторов задуматься, оправданы ли многомиллиардные траты на сферу искусственного интеллекта, если можно создать мощную модель с куда меньшими расходами, отмечала The Wall Street Journal.

Успех DeepSeek стал причиной обвала котировок крупных технологических акций. Бумаги Nvidia, которая считается главным бенефициаром бума ИИ, рухнули 27 января на 17%, ее капитализация снизилась на $590 млрд. 28 января акции Nvidia выросли почти на 9% в рамках коррекции.