К сожалению, сайт не работает без включенного JavaScript. Пожалуйста, включите JavaScript в настройках вашего броузера.
Рассылка Forbes
Самое важное о финансах, инвестициях, бизнесе и технологиях

Новости

 

Биометрические границы и аборты при помощи нанороботов: страшный сценарий развития ИИ

Кадр из фильма "Матрица. Революция"
Кадр из фильма "Матрица. Революция"
Как может выглядеть наше будущее уже в 2049 году, если «большая девятка» — крупнейшие мировые технологические компании — упустят время, когда искусственный интеллект еще можно контролировать. Апокалиптический сценарий от футуролога Эми Уэбб

Глава института Future Today Эми Уэбб входит в список «женщин, меняющих мир» по версии Forbes и занимается стратегическим прогнозированием будущего. Ее книга, посвященная истории и возможным векторам развития искусственного интеллекта в 2019 году вошла в лонглист лучших бизнес-книг по версии Financial Times и Mckinsey. 

Эми Уэбб рассказывает о том, как и почему возможности повлиять на развитие искусственного интеллекта сосредоточилась в руках «большой девятки» — девяти крупных мировых техногигантов. Это группа BAT (Baidu, Alibaba и Tencent) в Китае и G-MAFIA (Google, Microsoft , Amazon, Facebook (принадлежит Meta, признанной экстремистской и запрещенной на территории России), IBM и Apple) в Америке. По мнению Уэбб, именно сейчас эти компании и мы, как общество, принимаем решения, которые по мере развития ИИ будут отражаться в решениях, которые машины будут принимать за нас. 

В книге «Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе», которая выходит в январе в русском переводе в издательстве «Бомбора», Уэбб предлагает три возможных сценария, по которым может пойти искусственный интеллект в ближайшие тридцать лет — оптимистический, прагматичный и катастрофический. Forbes публикует отрывок из главы, описывающей катастрофический сценарий на 2049 год. 

 

«G-MAFIA теперь просто GAA: Google, Apple и Amazon. Первой объявила себя банкротом Facebook. Остатки Microsoft и IBM купила Google. 

Наступила сотая годовщина Китайской революции и провозглашения Китайской Народной Республики Мао Цзедуном. Во  всех подконтрольных Китаю странах запланированы масштабные торжества в честь покойного Си Цзиньпина и возвышения так называемой династии Жэнь-гун Чжи-нэн (то есть ИИ). 

Все человечество теперь окружено системами, изначально созданными для того, чтобы сделать нашу жизнь свободнее и счастливее. С самого начала племена ИИ в США говорили, будто хотят, чтобы мы раскрыли все лучшее в себе, занимались творчеством, совместно решали труднейшие проблемы человечества. Это был утопический идеал, рожденный в пузыре Кремниевой долины, основатели которой окончательно утратили связь с внешним миром. 

Все эти системы построены, чтобы сделать нашу жизнь проще, а вместо этого поддерживали нашу лень. Они убили в  нас чувство производительного труда и  цели. Мы предоставляем системам принимать решения за нас. Мы соглашаемся на ограниченный выбор. Мы выполняем заранее запрограммированные движения, составляющие нашу ежедневную жизнь, оптимизированные сильным ИИ для каждого человека на планете. 

Развитие сильного ИИ привело многие системы к конкуренции, а  не  сотрудничеству. Вы в тюрьме ИИ, которую сами же и построили. Вас постоянно лишают доступа в  вашу  же духовку, чулан, туалет, и вы уже оставили попытки тщетного сопротивления. Это бессмысленно. Разумная реакция, как вас учили, —  это сесть и переждать. «Зеленые» семьи Google и все семьи Apple могут приобрести премиальный апгрейд, призванный защищать от подобных атак. Он заключается в посылке заплатки, сильного ИИ, который теоретически должен записаться поверх вредоносного кода. На деле сильный ИИ оказывается пойман в бесконечный цикл самосовершенствования. На все деньги мира нельзя купить дом, свободный от бесконечных системных сбоев. 

 

Концентрация богатства позволила GAA добиться выдающихся достижений в здравоохранении. Компания Google была первой, кто запустил вводимых путем инъекции микроскопических роботов, которые умели доставлять лекарство только к заданному участку тела или помогать при проведении микрохирургии. Теперь нанороботов существует множество. Например, автономный молекулярный робот, изготовленный из одной цепи ДНК, который рассматривает внутренность человеческого тела как склад-распределитель. Наноробот может передвигаться по нему, брать молекулы, складывать их в указанные места. Другой вариант наноробота, приводимый в движение газовыми пузырьками, может доставлять микроскопические количества лекарства к нужному участку тела, ничего не  травмируя. Появление коммерчески доступных нанороботов, которые обмениваются информацией с нашей PDR, заменило традиционные медикаменты и терапию, работавшие по принципу «годится для большинства», и теперь лечатся именно наши конкретные заболевания, причем без побочных эффектов. 

Теперь, когда и  Amazon, и  Apple предлагают лечение, специально составленное для конкретного пациента, большинство людей добровольно впрыскивают себе органических нанороботов. Даже семьи Amazon имеют доступ к ним через специальные программы, субсидируемые правительством США. Нанороботы непрерывно следят за нашим состоянием и лечат нас, поэтому ожидаемая средняя продолжительность жизни в США взлетела с 76,1 года до 99,7. 

Нам не понадобилось много времени, чтобы осознать отрицательные последствия введения нанороботов. Они делают в точности то, для чего их предназначали создатели: ведут себя непредсказуемо и учатся. Оглядываясь назад, можно сказать, что построить и обучить систему ИИ, способную принимать решения, которые мы представить себе не могли, всегда было основной целью племен ИИ. Именно в этом заключался ключ к решению задач головоломной сложности, неподвластных человеку. Когда AlphaGo Zero самостоятельно разработала стратегию игры в го, мы назвали это этапным явлением в истории ИИ. Впрочем, внутри наших тел у нанороботов и сильного ИИ, которому они подчиняются, определенно больше власти принимать решения, чем нам хотелось бы. 

Мы столкнулись с экономическим химеризмом у человека. Дома Apple и «зеленые» дома Google могут открыть дверь к сверхспособностям и получить доступ к улучшенной когнитивной функции, исключительному обонянию и повышенному осязанию. 

Члены «синих» и «желтых» семей Google не только не имеют доступа к апгрейдам — они ограничены в биологическом смысле. Когда женщина беременеет, сильный ИИ постоянно запускает предиктивные модели, призванные определить здоровье и жизнеспособность плода. Чего никто не предвидел, что ИИ в достижении поставленной цели не остановится перед крайними средствами. Поскольку цель, на  которую он запрограммирован — поддерживать человека в той мере, в которой он выращивает жизнеспособный плод, сильный ИИ пытается обнаружить отклонения в развитии его тканей. Найдя таковые, он автоматически абортирует плод, не давая родителю возможности обдумать это решение. 

Подобным же образом нанороботы следят за  вашим состоянием по мере того, как вы стареете, и рассчитывают, в какой момент поддержание вашей жизни будет для вас болезненнее смерти. Как только вам потребуется уход на дому и вы превратитесь в обузу для системы социального обеспечения, ИИ вмешается в ход событий. Смерть происходит безболезненно, так что ни вам, ни вашей семье не приходится решать, когда наступит момент ухода. 

Законы стран GAA перестали иметь значение, когда сильный ИИ обзавелся функциональностью, позволяющей решать, кому из нас жить, а кому умереть. Поэтому правительства всего мира в  спешке провели новые правила и законы. Но  это бесполезно. Запрет нанороботов означал бы возвращение к традиционным медицинским практикам, а крупные фармацевтические компании больше не  производят всех необходимых лекарств. Даже самые оптимистические прогнозы показывают, что снова запустить нашу старую систему здравоохранения можно не меньше чем за десять лет, и в это время миллионы людей будут страдать от самых разных болезней. 

Вместо этого ученые разработали новый тип сильного ИИ в виде наноробота, который способен управлять другими нанороботами внутри нашего тела, подобно тому, как клетки крови борются с вирусом. Как и все в ИИ, идея была вдохновлена биологией человека. Когда наши тела борются внутри себя с нежелательными нанороботами с сильным ИИ, симптомы куда хуже тех, что мы переживали при гриппе, и куда опаснее.  

Крупные корпорации теперь возглавляют CAIO, chief artificial intelligence officers, директора по ИИ, рассчитывающие стратегические риски и возможности. Генеральные директора-люди работают совместно с директорами по ИИ и берут на  себя роль «лица» компании. Мелкие и  средние предприятия: рестораны, ремонтные мастерские, салоны красоты —  все они партнеры одной из компаний GAA. В дополнение к личным записям персональных данных и записям домохозяйств, у каждого бизнеса и  некоммерческой организации теперь есть запись данных об организации, organization data record, ODR. 

И тем не менее очень многие в США и наших странах партнерах оказались без работы. Достаточно надежной страховочной сетки, то есть системы социального страхования, нет, в  экономике западных стран резкий спад, и  нужно как-то восстанавливаться после всех волн неожиданной технологической безработицы. Тем самым создается уязвимость —  и окно возможностей для инвестиций из Китая. Вскоре главы правительств вынуждены выбирать между жизнеспособностью экономики и демократическими идеалами —  что особенно трудно для политиков, которым предстоит избираться на второй срок и которым нужно при этом решать острые проблемы внутри страны. 

 

В отместку Соединенные Штаты пытаются сдержать расширение влияния Китая путем торговой блокады, ответных санкций и других дипломатических мер. Однако Америка обнаруживает, что больше не  обладает прежним геополитическим влиянием. Лидеры США провели слишком много времени, думая о Китае, а не действуя. Они совершали слишком мало поездок в Латинскую Америку, Африку и Юго-Восточную Азию. Они так и не сумели заработать доверие, благосклонность и дружбу своих зарубежных партнеров. 

Инициативы Китая в области ИИ набирают ход. Рейтинг социальной гармонии действует уже больше чем в 100 странах мира и заменяет традиционные документы, необходимые для поездок. Китаю всегда великолепно удавалось строительство стен, и Великая Китайская ИИ стена не  исключение. Она одновременно служит защитным барьером против пришельцев извне и способом получения и анализа данных о каждом. Те, у кого рейтинг социальной гармонии достаточно высок, получают свободный доступ (при этом за ними наблюдают, разумеется) в любую страну из сети связанных с Китаем. Китай установил биометрические границы с функцией распознавания лиц, которые определяют, кому можно разрешить доступ в страну. Больше нет службы иммиграции, которую нужно проходить, или паспортов, куда ставить штамп. 

На южной границе Соединенных Штатов теперь тоже стоит стена. Она изготовлена из датчиков и была построена на мексиканской границе китайцами, чтобы удерживать нас в рамках нашей территории. Поскольку у американцев нет доступа к  системе социального кредита, вас не пускают на ваши бывшие любимые курорты: на Багамы, на Ямайку, в Канкун, Плайя-дель-Кармен, Косумель, Коста-Рику и Арубу. Если попытаться пересечь биометрическую границу нелегально, вы получите звуковой удар от сильного ИИ, вызывающий тошноту, сотрясение мозга, кровотечение из  ушей и  долговременный психологический стресс. 

Америка и ее союзники заперты внутри своих границ и лишены возможности общаться с друзьями и членами семьи в сети стран, связанных с Китаем, поскольку КПК контролирует всю сетевую инфраструктуру, управляющую ими. Если вам нужно связаться с кем-то внутри страны КПК, это можно сделать только через Китай, зная, что к каждому вашему слову внимательно прислушиваются. 

GAA со временем создают коалицию с правительством США и остатками их союзников. При экономических запретах и ограничениях на перемещение, введенных Китаем, на создание работоспособного решения денег практически нет. Выход — создать сильный ИИ, задачей которого будет решить для нас проблему Китая. Но система видит только два варианта: сдаться Китаю или истребить человечество». 

 

2069: цифровое истребление 

«Когда Китай занимался долгосрочным планированием и национальной стратегией в области ИИ, Соединенные Штаты интересовались устройствами и долларами. 

Китаю больше не нужны Соединенные Штаты в качестве торгового партнера, ему не интересна наша интеллектуальная собственность. Он построил сеть из более чем 150 стран, которые руководствуются принципами хартии «Глобальный единый Китай». В качестве платы за послушание эти страны получают доступ к сети, возможность торговать и стабильную финансовую систему, поддерживаемую Пекином. Их граждане могут свободно передвигаться внутри границ Единого Китая — конечно, при достаточно высоком показателе социального кредита. 

Никогда раньше не ощущалась так остро невозможность свободно путешествовать, которую американцы привыкли воспринимать как данность. Дело в том, что население Америки, как и многих других стран, резко растет. Население Земли превысило 10 млрд человек. Мы рожали детей слишком легко и слишком часто и настаивали на продлении срока жизни до 120 лет. 

Население планеты представляет собой проблему еще и потому, что мы не сумели вовремя отреагировать на изменение климата, даже после того, как главенство в  области экологически устойчивой жизнедеятельности и  защиты окружающей среды перешло к Китаю. Мы потеряли две трети земель, пригодных для сельского хозяйства. Хотя мы прикладываем большие усилия к строительству подземных ферм, мы все же не можем выращивать продукты достаточно быстро, чтобы прокормить жителей. Всемирные санкции заблокировали торговые пути и отрезали нас от союзников среди стран, производящих продукты питания, но даже Китай и страны Единого Китая испытывают трудности. 

В какой-то момент семьи Apple начинают страдать от  странной болезни. Их PDR показывают аномалию, но не дают подробностей. Вначале мы списываем происходящее на дефект нового поколения нанороботов, поэтому менеджеры по продукции как можно быстрее разрабатывают новый сильный ИИ, который возьмет на себя роль заплатки. Затем болезнь поражает дома Google, причем не только в Америке, но  все домохозяйства за  пределами границ Единого Китая. Состояние пораженных таинственной болезнью быстро ухудшается. 

 

Китай построил супер-ИИ, задача которого — истребить население Америки и ее союзников. То, что осталось от ресурсов Земли, нужно странам Единого Китая, и Пекин рассчитал, что единственный способ выжить заключается в том, чтобы отобрать эти ресурсы у нас. 

То, свидетелями чего мы становимся, хуже, чем любая бомба, когда-либо созданная человечеством. Бомба действует мгновенно и сурово. Истребление при помощи ИИ медленно и неостановимо. Вы сидите беспомощно, и тела ваших детей бессильно повисают у вас на руках. Вы видите, как ваши коллеги теряют сознание за рабочими столами. Вы чувствуете острую боль. Кружится голова. Вы делаете последний слабый вдох. 

Это конец Америки. 

Это конец союзников Америки. 

Это конец демократии. 

 

Воцаряется династия Жэнь-гун Чжи-нэн (人工智能 — искусственный интеллект). Ее власть жестока, нерушима и абсолютна. 

В настоящем присутствуют сигналы, указывающие на все три сценария. Теперь нам предстоит сделать выбор. Вам предстоит сделать выбор. Я прошу вас выбрать оптимистический сценарий и построить лучшее будущее для ИИ и для человечества».

Рассылка:

Наименование издания: forbes.ru

Cетевое издание «forbes.ru» зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций, регистрационный номер и дата принятия решения о регистрации: серия Эл № ФС77-82431 от 23 декабря 2021 г.

Адрес редакции, издателя: 123022, г. Москва, ул. Звенигородская 2-я, д. 13, стр. 15, эт. 4, пом. X, ком. 1

Адрес редакции: 123022, г. Москва, ул. Звенигородская 2-я, д. 13, стр. 15, эт. 4, пом. X, ком. 1

Главный редактор: Мазурин Николай Дмитриевич

Адрес электронной почты редакции: press-release@forbes.ru

Номер телефона редакции: +7 (495) 565-32-06
Перепечатка материалов и использование их в любой форме, в том числе и в электронных СМИ, возможны только с письменного разрешения редакции. Товарный знак Forbes является исключительной собственностью Forbes Media Asia Pte. Limited. Все права защищены.
AO «АС Рус Медиа» · 2023
16+