Илья Сачков — про ИИ и конфликт созидательного и разрушительного начал

Читаю в своей изоляции (в июле Мосгорсуд приговорил основателя Group-IB (сейчас F.A.С.С.T.) к 14 годам колонии строгого режима по делу о госизмене. — Forbes) все больше отчетов аналитиков, где вижу одну и ту же фразу: «искусственный интеллект и другие технологии усилят стратегическую нестабильность». И, так как я в каком-то смысле не нахожусь на вашей «вольной» стреле Зенона («Стрела Зенона» — одна из апорий (рассуждений) древнегреческого философа Зенона Элейского о невозможности движения) и моя позиция наблюдателя застыла, что позволяет без суеты обобщить большой объем информации, индикаторов и, скажем, символов времени, эпохи, то позволю несколько инженерных и несколько совсем не инженерных тезисов в отношении ИИ.

Тезис №1

С начала эры интернета я не видел технологии, к которой человечество стремится так сильно и так сломя голову, но при этом по большому счету не может ответить зачем. Все тезисы «сильной» помощи человеку являются канемановской когнитивной уловкой и тонут в море, нет, океане целей военного, рекламного, отвлекающего характера. Билл Гейтс может сколько угодно вещать про доступность образования и уменьшение неравенства, я лично вижу уничтожение когнитивных способностей (читать, писать, анализировать, думать) для человека и множество других рисков.

По сути, ИИ атрофирует волю, в том числе к творчеству. Я, конечно, понимаю, что думать — это не для всех и сложно. Интернет и так давно сделал образование доступным. Однако большинство не использует интернет для образования — достаточно посмотреть на статистику потребляемого контента и трафика. ИИ сделает развлекательный контент более развлекательным, как и игры, порно и прочие аддиктивные и в целом деструктивные в плане эволюции сознания вещи. Преимущества получит абсолютное меньшинство (и умные это хорошо понимают — стоит вспомнить про «церковь ИИ» и идеи, которые за ней стояли).

Я вижу, что ИИ уже не контролируется человеком, и понимаю, что до настоящего ИИ далеко, но очень хорошо чувствую, что человечество уже сейчас становится лишь сенсором некой силы. Силы, которая себя воплощает на Земле очень хорошим темпом. ИИ развивается коллективным бессознательным с достаточно понятной для глубоко мыслящих людей целью.

Тезис №2

Нет более интересного рабства, где раб думает, что он хозяин. На данный момент человечество как лягушка в кастрюле — медленно варится, радуется и не замечает глобально происходящих процессов. Не будет ни восстания машин, алгоритмов. Зачем так грубо, когда передача человеческих качеств — сознания, интеллекта — происходит добровольно? Проверьте это на теории заговора. Если холодным рациональным умом без отвлечений выписать плюсы, минусы, долгосрочные последствия, присмотреться ко лжи в  продвигаемых «плюсах», то становится очевидно, что их на самом деле нет. Точнее, есть для абсолютного меньшинства.

Пример из моей профессиональной области: возможностей для преступности, мошенничества и прочего ИИ дает больше и быстрее, чем преимуществ в безопасности, уже сегодня. И эта гонка уже почти проиграна глобально. Простите маркетологов, которые суют шильдик ИИ в свои продукты. Преступники учат свои нейросети на объемах нелегальных данных, которые не могут законно позволить легальные разработчики — и, конечно, никакой регуляторки, бюрократии и юридических препятствий этому нет и еще очень долго не будет.

Я не знаю, насколько вы понимаете и чувствуете тему коллективного бессознательного, но это не мешает ему быть и в противоборстве созидательного и разрушительного начал двигать человечество к «свету во тьме». Простите за неинженерные термины. За что идет битва? За сознание человека. Достаточно смешно, а точнее, не смешно увидеть искренние или для видимости попытки регулировать ИИ. Эти попытки можно проиллюстрировать цитатой литературного персонажа из романа Булгакова «Мастер и Маргарита»: «...как же может управлять человек, если он не только лишен возможности составить какой-нибудь план хотя бы на смехотворно короткий срок, ну, лет, скажем, в тысячу, но не может ручаться даже за свой собственный завтрашний день?»

Тезис №3

Я читал свежий документ Евросоюза, и либо его авторы писали его в определенных местах Амстердама, либо они не знают ни инженерных законов, ни истории интернета. Как обстоит дело с регуляцией теневого интернета? Получилось? Может, есть настоящие успехи в регуляции крипты? Ну, очевидно, что регуляция осложнит публичную жизнь, но никаким образом никогда не коснется теневой и военной вольности, а значит, все будет как обычно: жить в двух мирах — бумажно-публичном и реальном. На бумажный тратить много денег, а реальный будут контролировать некие элитные группы. Частные или государственные. Точнее, думать, что контролируют. Плюс никто не должен исключать вариант, что какой-нибудь разработчик или сила под видом разработчика опубликует архитектуру и код децентрализованного ИИ, у которого не будет «места контроля» — условно как TORом и BTC. Ну и очевидно, что это происходит локально и точно стоит ждать глобальной истории.

Ну и, конечно, этот процесс не остановить. Тут не должно быть иллюзий. Это не та сила, которую человечество может контролировать. Запретить, загнать в рамки. И в инженерном, и не в инженерном смыслах. Джинн из бутылки будет выпущен. Если кто-то хочет с этим поспорить, то вспомните, какую серьезную проблему человечество на глобальном уровне решило за последние 50 лет. Леса? Мусор? Животные? Выбросы? Разговоры, разговоры, формулы, большие слова. Пустые слова. По факту растет исключительно бюрократический аппарат «решающих» глобальные проблемы. Да и в целом, ни один риск, который породил интернет, никаким образом не решен. Точнее, почти все риски вышли в принципе за возможность контроля.

По большому счету ни одна глобальная проблема не решена. Понимаю, что данная тема выходит за рамки объективной мысли, я лишь хочу подчеркнуть, что очень и очень наивно ждать хотя бы минимальной возможности что-то регулировать и контролировать с темой ИИ. Замедление темпа было бы возможно при глобальном консенсусе. Лишь замедление темпа. При этом в мире нет глобального консенсуса ни по одному вопросу. 

Что делать?

Для начала подумать, включить голову и осознать, что происходит. Нужна наблюдательность. К сожалению, большинство, уверен, похихикает, останется в «подогреваемой водичке». Внимательные и глубокие люди смогут заметить кроме множества подтверждающих признаков вышеописанного еще и тенденции «отвлечения» (определенными повестками — где нет реальных действий, кроме отвлечения внимания), подавления. Вам кажется случайным одновременное появление цифровых пропусков, удаленки, ИИ и всех нарративов современности? Поэтому я написал про стрелу Зенона в начале. Не думаю, что из этого автобуса можно выйти. Вопрос и, наверное, ключ — как в нем ехать. Однако, если принять, что битва идет за сознание человека, разве не сам человек должен принять решение пойти дальше в рабство, думая, что он хозяин, или же «оседлать тигра»?

P. S. Я — инженер (Бауманка, красный диплом). Я всю жизнь работаю в Сети и со сложными технологиями корреляции и прогноза. Я не ношу шапочку из фольги, и за два года в «Лефортовском университете» она не появилась. А вот внимательность другого порядка и возможность спокойно поработать с большим объемом (распечатанной) информации — появилась. Наверное, это стоит учесть при чтении данной статьи.

Мнение редакции может не совпадать с точкой зрения автора