Аутсайдеры ИИ-индустрии: почему создатели Anthropic выступили против Дональда Трампа
После громкого конфликта с Пентагоном глава ИИ-гиганта Anthropic Дарио Амодеи навлек на себя и свою компанию гнев президента США Дональда Трампа. «Левые психи из Anthropic совершили катастрофическую ошибку, пытаясь давить на Министерство войны и заставить его подчиняться их условиям обслуживания вместо нашей конституции», — написал Трамп в Truth Social на прошлой неделе.
Федеральное правительство ополчилось на Anthropic после того, как компания отказалась предоставить Министерству войны неограниченный доступ к своей ИИ-модели Claude — особенно в тех сферах, которые, по мнению компании, подразумевают создание систем массовой слежки или разработку полностью автономного оружия.
Однако в некоторых случаях выбор в пользу морального превосходства может обернуться серьезными последствиями: в ответ министр обороны США Питер Хегсет объявил компанию «риском для цепочки поставок» и запретил всем подрядчикам, поставщикам и партнерам, сотрудничающим с Вооруженными силами США, использовать разработки Anthropic. Несмотря на угрозы, Амодеи не изменил своего решение. «Мы не можем с чистой совестью согласиться на их требования», — написал Амодеи в блоге, объясняя свою позицию. На следующий день Трамп распорядился, чтобы все федеральные агентства немедленно прекратили использовать технологии Anthropic.
27 марта Федеральный судья Северного округа Калифорнии Рита Лин временно заблокировала попытку администрации Дональда Трампа признать Anthropic «угрозой цепочкам поставок» (беспрецедентный шаг в отношении американского предприятия) за отказ компании разрешить Пентагону использовать ее технологии в военных целях без ограничений.
«В данном случае компания Anthropic была готова разрушить важные отношения с правительством, чтобы остаться верной своим принципам, — заявил Пол Шарр, бывший сотрудник Министерства обороны США, где он отвечал за разработку политики в отношении автономного оружия. — Они готовы отстаивать свою позицию, несмотря на определенные издержки. И я считаю, что это достойно внимания. Не все компании способны на такое».
Медийный резонанс вокруг отказа Anthropic обеспечил компании поддержку со стороны ярых противников Трампа. За выходные приложение Claude взлетело на вершину рейтинга Apple App Store, впервые обогнав ChatGPT (впрочем, стабильный рост популярности приложения начался после проведения Супербоула и был подкреплен выходом высоко оцененных обновлений модели). Кроме того, поп-звезда Кэти Перри опубликовала в X (соцсеть заблокирована в России) скриншот страницы регистрации в Claude Pro с сердечком, а сторонники компании расписали мелом тротуар у офиса в Сан-Франциско, оставив такие ободряющие сообщения, как «Вы не одни» и «Бог любит Anthropic». Несмотря на то что компания работала над расширением своих систем, чтобы справиться с резкой волной популярности, 2 марта произошел сбой в работе сервиса Claude, который, по словам представителя компании, был вызван технической проблемой, а не наплывом пользователей.
Представитель Anthropic отказался комментировать позицию Амодеи и политические последствия его решения. Однако для тех, кто следил за пятилетней историей компании, ее позиция по этому вопросу не стала чем-то неожиданным.
Более того, это не первый конфликт Anthropic с правительством. По сообщениям, Амодеи сравнил Трампа с «феодальным военачальником» в удаленном теперь посте в Facebook (теперь Meta, которая признана в России экстремистской и запрещена), в котором призывал своих подписчиков голосовать за Камалу Харрис. В прошлом году Anthropic выступала против знакового для Трампа «большого, прекрасного законопроекта» из-за его намерения ограничить регулирование ИИ с помощью 10-летней приостановки действия соответствующих законов на уровне штатов. Anthropic одержала победу, и в конечном итоге это положение не было включено в законопроект.
В октябре соучредитель Anthropic Джек Кларк, бывший технологический журналист, проработавший два года в Bloomberg, опубликовал эссе «Технологический оптимизм и обоснованный страх» (Technological Optimism and Appropriate Fear). В своей работе он утверждал, что с надеждой смотрит на будущее развитие ИИ, однако в то же время «испытывает глубокий страх». «Мы создаем чрезвычайно мощные системы, которые не до конца понимаем», — написал он. В ответ на это «ИИ-царь» Белого дома Дэвид Сакс, венчурный инвестор и член «мафии PayPal», обвинил компанию в приверженности воук-культуре (объединяет людей с повышенной чувствительностью к вопросам социальной справедливости) и в «нагнетании страха».
Некоторые из соучредителей Anthropic также высказали свое мнение по социальным вопросам, связанным с политикой Трампа. После гибели Алекса Претти, медбрата отделения интенсивной терапии, застреленного федеральными иммиграционными агентами в Миннесоте, Дарио назвал произошедшее настоящим «ужасом». «То, что мы наблюдаем в последние дни, не соответствует ценностям Америки», — написала в LinkedIn Даниэла Амодеи, президент Anthropic и сестра Дарио. Соучредитель Крис Ола также присоединился к осуждению, заявив, что эти события «глубоко шокируют».
Дарио и Даниэла Амодеи, которые, судя по всему, являются членами Демократической партии, по данным OpenSecrets, пожертвовали тысячи долларов в поддержку демократов и независимых кандидатов, а вот республиканцы ничего от них не получили. Трое других соучредителей, по всей видимости, также зарегистрированы как демократы; четвертый, по-видимому, не является гражданином США, а личность последнего по документам установить не удалось.
Через два дня после убийства медбрата отделения интенсивной терапии Дарио опубликовал свое эссе «Юность технологий» (The Adolescence of Technology) на 20 000 слов, посвященное рискам ИИ. Несмотря на то что в тексте правительство США не критикуется напрямую, он указал на потенциальное злоупотребление технологиями ИИ со стороны демократических правительств: «Демократические страны обычно устанавливают меры безопасности, которые не позволяют их военным и разведывательным структурам подавлять сограждан. Однако, поскольку инструменты ИИ для работы требуют участия очень незначительного числа людей, существует потенциал обхода мер безопасности». Он также упомянул нежелание других технологических компаний критиковать правительство США и поддержку крайне антирегуляторной политики в области ИИ.
Как сообщает The Information, в минувшую пятницу Амодеи разослал сотрудникам меморандум, в котором более откровенно обозначил взаимоотношения компании с президентом США. «Настоящая причина, по которой [Министерство войны] и администрация Трампа не жалуют нас, заключается в том, что мы не отчисляли пожертвований Трампу (в то время как OpenAI/Грег пожертвовали значительные суммы), — написал он, имея в виду президента OpenAI Грега Брокмана, крупного спонсора Трампа. — Мы не льстили Трампу, пытаясь угодить диктатору (в отличие от Сэма), — мы выступали за регулирование ИИ, что противоречит их повестке, мы честно высказывались о ряде проблем в области ИИ, включая замещение рабочих мест, и четко обозначали границы, за которые не перейдем».
Борьба с Пентагоном не только противопоставляет Anthropic федеральному правительству, но и выставляет Амодеи в ином свете по сравнению с его коллегами-миллиардерами из техиндустрии. Пока он предпочитает держать дистанцию, многие другие идут к Трампу «на поклон», появляясь на мероприятиях в Белом доме и Виндзорском замке. На сентябрьском ужине, посвященном запуску национальной стратегии администрации в области ИИ, по обе стороны от президента и первой леди США сидели Марк Цукерберг (не раз бывавший на ужинах в Мар-а-Лаго) и соучредитель Microsoft Билл Гейтс. Напротив, за столом, украшенным желтыми и белыми розами, сидели соучредитель Google Сергей Брин и гендиректор Apple Тим Кук.
Не обошлось и без других дружественных жестов: Тим Кук также посетил Трампа в Овальном кабинете и подарил ему специально изготовленную табличку Apple на подставке из 24-каратного золота. По сообщениям, основатель Amazon Джефф Безос отменил планировавшуюся кампанию в поддержку бывшего вице-президента (и оппонента Трампа) Камалы Харрис в принадлежащем ему издании The Washington Post. Кроме того, как сообщается, Amazon Prime потратил $35 млн на продвижение документального фильма о первой леди «Мелания».
Также не стоит забывать о Сэме Альтмане, который, будучи ранее демократом, по-видимому, несколько лет назад отказался от любой партийной принадлежности. Гендиректор OpenAI несколько раз появлялся на публике вместе с Трампом, в том числе в первый день после возвращения президента на пост, когда был объявлен проект Stargate («Звездные врата») — инициатива по созданию инфраструктуры ИИ стоимостью $500 млрд. «Я считаю, что с действующим президентом легко сотрудничать по вопросам ИИ, — заявил Альтман Forbes USA в прошлом месяце. — Он понимает важность развития инфраструктуры в стране, важность энергетики и многое сделал в этом направлении» (на следующий день после того, как Амодеи отказался выполнять указания Министерства войны, Альтман объявил, что OpenAI заключила сделку с Пентагоном).
Борьба Anthropic с Министерством войны еще больше усугубляет разрыв между компанией и OpenAI. Само возникновение Anthropic произошло в результате раскола с OpenAI по вопросам безопасности ИИ — разногласий, из-за которых Дарио и Даниэла Амодеи вместе с другими соучредителями (Джеком Кларком, Сэмом Маккэндлишем, Крисом Олой, Томом Брауном и Джаредом Капланом) покинули компанию, чтобы создать собственную ИИ-фирму. Недавно Anthropic, судя по всему, решила пойти в атаку на OpenAI, выпустив во время Супербоула рекламу, которая иронизировала над решением конкурента встраивать рекламу в ChatGPT. Еще один небольшой инцидент произошел в прошлом месяце на саммите в Индии: Дарио Амодеи и Сэм Альтман отказались взяться за руки для совместного фото в отличие от всех остальных участников.
Сейчас Anthropic позиционирует себя как прямую противоположность OpenAI и уже пожинает плоды резкой волны популярности. Тем не менее это не первый случай, когда технологическая компания получает хороший пиар благодаря конфликту с правительством. В 2016 году Apple отказалась разблокировать iPhone, который ФБР изъяло у одного из участников массовой стрельбы в калифорнийском Сан-Бернардино, произошедшей годом ранее. Apple, традиционно делавшая ставку на заботу о конфиденциальности, своим отказом укрепила свой статус принципиального стража интересов пользователей, дополнив все сопутствующими маркетинговыми кампаниями в этом направлении. В последнее время Кук не занимал подобной позиции.
Дарио и Даниэла Амодеи выросли в районе Мишн-Дистрикт в Сан-Франциско в 1980-х годах. Их отец, итальянский эмигрант, был мастером по кожевенному делу. Он умер, когда его дети только вступали во взрослую жизнь. Их мать была менеджером проектов для библиотек — курировала строительство и ремонтные работы. «Они дали мне понимание добра, зла и того, что действительно важно в этом мире, — говорит Дарио. — Они привили мне сильное чувство ответственности».
Дарио c детства увлекался математикой и физикой. Свое изучение физики он продолжил в Стэнфордском университете, а затем в Принстонском университете, где получил степень доктора наук. В 2015 году он присоединился к престижной исследовательской лаборатории Google Brain, а год спустя перешел в быстроразвивающуюся ИИ-лабораторию OpenAI, где в конечном итоге занял пост вице-президента по исследованиям. По сообщениям, некоторые сотрудники Anthropic называют его профессором Пандой, а в его офисе стоит плюшевая игрушка, которую он зовет «мудрым осьминогом».
Его сестра Даниэла, которая с детства увлекалась классической игрой на флейте, поступила в Калифорнийский университет в Санта-Крузе, где изучала английскую литературу, а затем погрузилась в политику, присоединившись к команде бывшего конгрессмена от Пенсильвании Мэтта Картрайта. Позже, после пяти лет работы в платежном гиганте Stripe — сначала в отделе подбора персонала, а затем в отделе управления рисками и политики компании, — она присоединилась к своему брату в OpenAI, где занимала должность вице-президента по безопасности и политике. Брат и сестра, как и другие соучредители Anthropic, пообещали отдать 80% своего состояния на благотворительность — сумму, которая, по оценкам Forbes USA, на данный момент составляет $39,2 млрд.
В конечном итоге именно гуманистический подход отличает Anthropic от своих конкурентов. В февральском видеоинтервью Даниэла, сидя в библиотеке компании, сказала, что изучение гуманитарных наук будет «важнее, чем когда-либо», в эпоху ИИ. Символичным подтверждением ее слов может служить написанная мелом цитата Нельсона Манделы у офиса Anthropic: «Мужество — это не отсутствие страха, а триумф над ним».
Перевод Ксении Лычагиной