К сожалению, сайт не работает без включенного JavaScript. Пожалуйста, включите JavaScript в настройках вашего браузера.

WP узнала об исключении Россией и США в ООН требования о контроле над военным ИИ


Делегаты от России и США исключили требование о человеческом контроле над военным ИИ из проекта ООН по регулированию автономного оружия, пишет The Washington Post со ссылкой на источники и документы. По данным издания, из текста были вычеркнуты положения о том, что военный искусственный интеллект должен работать «предсказуемо» и «надежно», и что перед атакой проверять цели, выбранные алгоритмами, обязан человек. Делегации также убрали пункт об учете этических соображений при применении такого оружия. Один из собеседников газеты охарактеризовал процесс правок как «смерть от тысячи порезов»

Делегаты от России и США исключили требование о человеческом контроле над военным искусственным интеллектом (ИИ) из проекта ООН по регулированию автономного оружия, пишет The Washington Post со ссылкой на источники и документы. Газета уточнила, что речь идет о переговорах в Женеве на площадке Группы правительственных экспертов по смертоносным автономным системам вооружений, заседания проходили с 31 августа по 4 сентября. 

По данным WP, делегации вычеркнули из документа требование о том, что военный искусственный интеллект должен работать «предсказуемо» и «надежно», и что перед атакой проверять цели, выбранные алгоритмами, обязан человек. Кроме того, было исключено положение об учете этических соображений при применении такого оружия. Один из собеседников газеты охарактеризовал процесс правок как «смерть от тысячи порезов».

Собеседники WP утверждают, что российская и американская команды состояли примерно из десяти юристов с каждой стороны, что почти в два раза больше, чем у любого другого государства на переговорах. Заседание, на котором обсуждался военный ИИ, было закрытым, представителей общественных организаций попросили покинуть зал, добавили источники издания. Кроме того, по их данным, изменения в документ обсуждались настолько быстро, что небольшие делегации не успевали за ходом переговоров. Госдепартамент США, российский МИД и ООН не ответили на запросы газеты.

Исполнительный директор коалиции Stop Killer Robots Николь ван Ройен рассказала The Washington Post, что Россия и США выступают против юридически обязательных правил для автономного оружия. Поскольку решения принимаются консенсусом, обе страны могут заблокировать предложения, поддержанные большинством участников, отметила она.

Согласованный текст на данный момент не имеет обязательной юридической силы. В ноябре участники Конвенции о конкретных видах обычного оружия снова соберутся в Женеве, чтобы обсудить возможность перевода этих консультаций в официальный мандат или юридически обязывающее соглашение, напомнила WP. 

 

В середине сентября гендиректор Anthropic Дарио Амодеи (№ 189 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 27 сентября, — $15,5 млрд) выступил с призывом к компаниям совместно координировать развитие ИИ-технологий, чтобы избежать захвата агентами искусственного интеллекта «всего интернета». Его поддержали глава OpenAI Сэм Альтман (№1305, состояние — $3,3 млрд)  и глава Tesla и SpaceX Илон Маск (№1, состояние — $929 млрд). При этом президент США Дональд Трамп отверг этот призыв, подчеркнув, что тот, кто победит в гонке ИИ-технологий, «победит в целом». 

Позднее The Information сообщало со ссылкой на источники, что Anthropic, OpenAI и Google могли сговориться об ограничениях для искусственного интеллекта: по данным собеседников издания, компании с лета обсуждают создание отраслевого регулятора стандартов в области разработки ИИ. Financial Times писала, что основатели Nvidia Дженсен Хуанг (№7, состояние — $194,9 млрд) и Meta (признана экстремистской организацией и запрещена в России) Марк Цукерберг (№6, состояние — $257,6 млрд) отвергли идею Амодеи, Альтмана и Маска скоординировано замедлить разработки в сфере ИИ ради безопасности человечества.