Станут ли роботы Терминаторами: физики и лирики против прагматиков | Forbes.ru
$59.36
69.67
ММВБ2130.39
BRENT62.37
RTS1128.72
GOLD1280.36

Станут ли роботы Терминаторами: физики и лирики против прагматиков

читайте также
+10 просмотров за суткиЧеловечество в опасности: Илон Маск призвал регулировать искусственный интеллект +1 просмотров за суткиСтивен Хокинг увидел в искусственном интеллекте угрозу гибели человечества +2 просмотров за суткиСтивен Хокинг отправится в космос на корабле Ричарда Брэнсона +1 просмотров за суткиЧто Россия успела подарить Франции за 300 лет дипломатических отношений Влюбленный Штирлиц: фильм недели — «Союзники» +3 просмотров за суткиСамый умный Форбс: зачем читать биографию математика Джона Форбса Нэша +1 просмотров за суткиСССР без партии: русский хит в прокате — «28 панфиловцев» +2 просмотров за суткиДиректор Большого театра Владимир Урин: «Англичане научат нас петь Бриттена» +8 просмотров за суткиСамые громкие провалы Голливуда - 2016. Рейтинг Forbes История хвоста: фильм недели — «Зоология» Из любви к искусству: деньги и женщины в биографии Льва Бакста Улететь и посмотреть: кино в Макао, оперу в Лондоне, сериал на «России» Мы были максималистами: русский хит в прокате – «Хороший мальчик» Павел Лунгин: «Герман в «Даме Пик» — Че Гевара, который восстает против закона мира и хочет, чтобы выпала другая карта» Пятьдесят оттенков красного: фильм недели – «Девушка в поезде» Воспоминание о нашем будущем: фильм недели – «В лучах солнца» +2 просмотров за суткиЧетыре причины пойти на «Доктора Стрэнджа» в эти выходные Последние герои СССР: русский хит в прокате – «Ледокол» Рождение чернорубашечника: фильм недели — «Ученик» +9 просмотров за суткиОт Старка до Дюкасса: главные дизайнерские рестораны мира Прикончи монстров своих: фильм недели – «Дом странных детей мисс Перегрин»

Станут ли роботы Терминаторами: физики и лирики против прагматиков

REUTERS/Patrick T. Fallon
Протест ученых против бесконтрольного развития искусственного разума требует культурологического осмысления

Письмо против бесконтрольного использования A. I. (artificial intelligence) — искусственного разума — в военных целях, подписанное более чем тысячей ученых мира, компьютерных бизнесменов и экспертов в области новых технологий (Стивен Хокинг, Илон Маск, Стив Возняк, Ноам Хомский и др.), породило едкие комментарии прагматиков. Мол, ненатуральному интеллекту далеко до принятия собственных решений.

Письмо, напомню, появилось на фоне громкого научного эксперимента, доказавшего, что уже сейчас примитивный искусственный разум способен к самостоятельному мышлению. Тем не менее нас заверяют, что беспокоиться человечеству не о чем, в реальной жизни Терминаторы не появятся, — читайте опубликованный на Forbes комментарий консультанта ПИР-Центра Олега Демидова. Он доказывает, что боевые роботы еще долго не будут обладать высокоразвитым интеллектом, способным выйти из-под контроля. Подлинные угрозы, по Олегу Демидову, это компьютерные сбои и атаки хакеров.

По мне, компьютерные сбои и атаки — сами по себе достаточный повод для запрета роботов в военной отрасли. Но спорить с профессионалом не буду. Меня занимает иной парадокс. Что бы сделал Стивен Хогинг, если бы ему предложили подписать письмо против бесконтрольного использования и развития A. I. всего-то лет десять назад? Полагаю, он заявил бы примерно следующее: «Если бы я мог, то покрутил бы пальцем у виска». Ведь бояться искусственного разума еще недавно могли лишь психопаты-лирики, опасающиеся даже собственной тени.

Но уже сегодня впервые в истории современной науки, истории новых технологий и современного бизнеса, впервые в истории человечества ученые приняли позицию дилетантов-поэтов: писателей, режиссеров, которые давно предрекали, что развитие искусственного разума грозит человечеству.

Причем позицию не только серьезных писателей и режиссеров, но и создателей массовой культуры. Ведь «Терминаторы» — это безусловно масскульт, хотя первые два фильма 1984 и 1991 годов сделал талантливый Джеймс Кэмерон. Массовая культура, к которой принято относиться свысока, оказалась — по отношению к будущему человечества — более провидческой, нежели наука. Что наука теперь признала сама — спустя лет тридцать.

Если говорить о кино, наиболее важными для формирования той идеологии опасений перед A. I., которой в итоге заразились «физики», подписавшие письмо вместе с Хокингом, представляются три фильма. Первый, разумеется, «2001: Космическая Одиссея» Стенли Кубрика, сделанный еще в 1968 году по сценарию, написанному режиссером вместе с Артуром Кларком. Там человечество отправляется на встречу с иноземным интеллектом. И компьютерный разум, управляющий кораблем, приходит к выводу, что более достойно представит человечество, нежели те примитивные астронавты, что находятся на его борту. Следовательно, людей надо уничтожить.

На втором месте в этом списке — два первых «Терминатора», утверждающих, что искусственный разум взял в будущем власть в свои руки и ведет войну на полное уничтожение остатков человечества.

Третий — недооцененный и даже не увиденный многими триллер Алекса Пройаса «Я — робот» (сделанный по мотивам сочинений фантаста Айзека Азимова), вышедший в 2004 году. Там действие происходит в 2035-м и детектив, которого играет Уилл Смит, расследует убийство знаменитого ученого, «папы» роботов нового поколения, по всем признакам, совершенное роботом. В подозреваемых оказывается робот по имени Санни. В отличие от своих бездушных собратьев, Санни испытывает эмоции, видит сны, способен лукавить. Это фактически человек, но не просто, а с приставкой «сверх-».

На фоне детективного расследования развиваются две коллизии:

1) Сверхмозг — суперкомпьютер будущего, — которому доверено защищать человечество от всех неприятностей, в какой-то момент при помощи подчиненных ему роботов фактически решает загнать людей в тюрьму. Почему? Именно потому, что в него заложена программа защиты человечества. А что есть главная угроза человечеству? Само агрессивное и глупое человечество. С его войнами, экологическим саморазрушением и пр. Вот сверхмозг приходит к выводу, что человечество надо спасать от него самого и единственная возможность защитить — взять его под тотальный контроль. Если говорить о военных роботах, против которых выступили сейчас Хокинг и др., то эта тема уже сейчас актуальна. Военные роботы, всякие там дроны с боевой начинкой, запрограмированные на защиту человечества, ради этой защиты способны уничтожить кого угодно;

2) Сверхмозг побежден, контролируемые им роботы покорно бредут под конвоем в собственные тюрьмы — попросту на склады. И тут на возвышенности перед ними появляется свободный робот, уже упомянутый Санни (который в фильме, похоже, и замыслил всю сложную интригу и только притворялся нашим слугой) — и роботы поднимают головы. Они видят своего Мессию. В их затуманенных командами, еще секунду назад подконтрольных железных мозгах явно начинают зарождаться первые несанкционированные мысли. Пробуждается самосознание.

Вы скажете: ерунда полная. Отвечу: нет. Бояться искусственного разума — логично. Дело даже не в том, что любая компьютерная программа может дать сбой или ее могут сбить с толку хакеры. Дело в том, что мы сейчас наблюдаем малое дитя, которому предстоит взрослеть и развиваться. И если уже сегодня, на самом первом этапе нашей с ним совместной жизни, это дитя способно сильно нас озадачивать (пусть и благодаря заложенным в него программам) и даже болеть, подхватывая и передавая вирусы, и уже обыгрывает в шахматы чемпиона мира, то отчего не предположить, что со временем оно обретет способность к саморазвитию и создаст свою идеологию, свою религию, только до поры прикидываясь, будто навечно смирилось с уготованной ему обслуживающей ролью? От обезьян к нам, от нас – к искусственному разуму.

Но бог с ними, с роботами. Обратим внимание на другую важную вещь. 

Письмо Стивена Хокинга и др. об опасности искусственного интеллекта, похоже, положило конец одному из самых давних и принципиальных споров в послевоенной истории XX века. А именно: кто значимее для судьбы человечества — физики или лирики?

В СССР были уверены, будто этот спор — наш фирменный, истинно человеческий, социалистический. Начало ему положило опубликованное в «Комсомольской правде», кажется, 1959 года письмо инженера Полетаева, который написал, что наше время — для рациональных людей, не всяких там мечтателей-поэтов, а для тех, кто дело делает. Ему страстно возразил Илья Эренбург. Дискуссия перекатилась в переполненные молодежью залы. Оттепель была, однако.

На Западе, между тем, дискуссия возникла раньше. Еще в 1957-м знаменитый швейцарский писатель Макс Фриш опубликовал роман «Homo Faber», по которому в 1991-м не менее знаменитый немецкий режиссер Фолькер Шлёндорф сделал фильм «Странник». Эта трагическая история человека, который, не зная того, становится любовником собственной дочери, глубоко концептуальна.  Естественно, Фриш был на стороне «лириков» — и жестоко потрепал в своем романе «физика». Судьба, то бишь правящая миром иррациональность, наказывает в его романе не случайного человека, а мутанта с новым типом мышления — строгого, научно-технического. Наказывает идеолога рациональности, ни признающего ни Бога, ни искусство. По теории вероятности он никак не мог на просторах мира – а он по служебным обязанностям перелетает из страны в страну и с континента на континент – натолкнуться на собственную дочь от какой-то связи черт его знает когда и где. Но судьба эту дочь ему мстительно подсовывает.Так и с роботами. Ну никак они не должны стать Терминаторами, уверяют нас сегодняшние, все рассчитавшие рационалисты. А ведь кто его знает.

Письмо Хокинга об опасности искусственного разума — удивительнейшее признание физиков не только в том, что лирики в данном вопросе оказались прозорливее. Это еще и констатация факта, что лирики для мира важнее. Они точнее предсказывают его перспективы и угрозы. 

Наконец-то подведен итог дискуссии: рацио или интуиция? Интуиция. Теперь физики и лирики — по одну сторону баррикады против совсем уже закостенелых прагматиков. Будь ты поэт, будь ты ученый — не проворонь мир облученный.

Закрыть
Уведомление в браузере
Будь в курсе самого главного.
Новости и идеи для бизнеса -
не чаще двух раз в день.
Подписаться