Электронные рабы и системы автономного интеллекта

Фото Стомахина Игоря / PhotoXPress
Чем ближе подойдет машина к «естественному интеллекту», тем с большей вероятностью она не будет всегда слушаться человека

В современной науке существует очень важная, актуальная тема — создание искусственного интеллекта. Иногда этим термином называют аппаратно-программные системы, решающие интеллектуальные задачи, доступные ранее только человеку. Например, игровые компьютеры (в том числе шахматные), электронные переводчики, системы управления робототехническими устройствами и т. д.

Действительно, играть в шахматы или переводить текст с одного языка на другой раньше мог только человек. А сейчас эту работу могут выполнять машины. Но действительно ли такие машины обладают интеллектом?

Где мы видим интеллект в природе? Прежде всего, у человека. При этом интеллект человека, как мы его понимаем, это результат последовательного развития интеллекта всех его предков, начиная с самых простых организмов. При этом играть в шахматы, доказывать теоремы и переводить с одного языка на другой умеют далеко не все люди. И тут возникает вопрос: почему же мы хотим сразу создать программу или компьютер, которые будет делать то, что могут делать не все, а только «продвинутые» математики, переводчики, шахматисты?

Любой человек, даже самый необразованный, весьма интеллектуален, так как постоянно решает очень сложные задачи управления. Более того, любое животное тоже решает весьма непростые задачи. Посмотрите, например, на фигуры высшего пилотажа у птиц, на то, как они строят гнезда или воспитывают птенцов. Воспроизвести это в своих технических системах мы пока не можем.

Поэтому более важным, чем конструирование компьютеров, способных обыграть чемпиона мира по шахматам, было бы создание модели мозга, нервной системы, основным свойством которых является адаптивность, то есть способность обучаться. И пусть эта модель начинает с каких-то очень простых вещей: с выработки навыков управления, с поиска эффективных для выживания действий, с приспособления к окружающей среде и т. д. Если мы дадим такой машине соответствующие количественные возможности: большой объем памяти, достаточное быстродействие, — то мы увидим, как она постепенно, шаг за шагом, начнет обучаться. Мы увидим, как она, может быть, научится ходить, управлять своим телом, разговаривать. Может быть, она даже способна будет научиться играть в шахматы (если это очень кому-то нужно), и ее можно будет как-то сопоставить с человеком. Но не надо сразу моделировать последний шаг — высокоинтеллектуальные функции.

Если естественный интеллект, тем более человеческий, представить в виду пирамиды, в основании которой лежат простейшие навыки и способности, то игра в шахматы будет вершиной этой пирамиды. И если мы будем моделировать только эту вершину, тогда у нас получится самый верхний кирпичик, стоящий на тоненькой ножке без пирамиды - интеллектуальный кирпичик, который будет уметь играть в шахматы. Понятно, что пользы от него, кроме как при игре в шахматы, никакой не будет.

Поэтому надо создавать всю пирамиду.

Пускай она будет маленькая, главное, чтобы она могла расти и обучаться. Иначе говоря, гораздо важнее создать алгоритм самообучения, чем демонстрировать автоматическое решение задач, соответствующих высшим достижениям интеллекта человечества.

Хотелось бы также обратить внимание на то, что, когда мы говорим о задаче создания искусственного интеллекта, мы немножко лукавим. Потому что на самом деле мы хотим создать систему, которая будет нам полезна, которая будет выполнять наши команды и которой мы сможем поручать какие-то сложные интеллектуальные задачи. Например, мы будем говорить ей: реши эту задачу, докажи эту теорему. И в этом мы склонны видеть искусственный интеллект.

Но возьмем любую зверушку — кошку, мышку, — которые, безусловно, обладают интеллектом в моем понимании, поскольку решают такие сложнейшие задачи управления, которые нашим машинам не снились. Они самообучаются, распознают очень сложные образы, ситуации, принимают сложнейшие решения по управлению своим телом, адаптируются к обстановке, воспитывают своих детей, общаются и так далее. И мы сегодня не можем создать ничего похожего ни на эту мышку, ни на эту кошку. Если же мы создадим такую модель, которая будет иметь возможность развиваться, тогда мы и получим то, что надо — настоящий искусственный интеллект.

Лукавство же заключается в том, что, на самом деле, мы не хотим создавать настоящий искусственный интеллект.

Давайте вообразим такую ситуацию: мы создали компьютер, равносильный мозгу животного или даже человека. Мы включаем его и говорим: «Проложи маршрут из точки А в точку Б». А компьютер отвечает: «Знаешь, я сегодня еще не завтракал, и вообще у меня другие желания, я хочу заняться своими проблемами». Это естественная реакция для живого организма, и его естественное право. И мы приходим к вопросу: «Зачем нам такой компьютер, который не будет нас слушаться?»

Так что же именно мы хотим создать? Интеллект, похожий на естественный? Но тогда он наверняка начнет нам возражать и станет заниматься своими собственными проблемами. Или же мы хотим создать исполнителя любых наших желаний, который 24 часа в сутки, как раб, без отдыха будет решать наши задачи, а не свои? Понятно, что это совершенные разные задачи.

Создать электронного раба достаточно просто. Мы их уже очень успешно создаем. А вот создать организм, который будет жить согласно собственным целям, и с которым нам надо будет еще найти общий язык, — то ли это, к чему мы стремимся, говоря, что хотим создать искусственный интеллект?

Таким образом, возможны два типа систем искусственного интеллекта.

Первый — это электронные рабы, то есть машины, которые работают исключительно над теми задачами, которые мы им задаем. Как они будут устроены — это совершенно неважно, лишь бы они играли в шахматы, продавали билеты, прогнозировали погоду и делали еще что-то полезное. Такие системы уже во множестве создаются. Я их называю системами «подчиненного искусственного интеллекта».

Второй тип — это модели нервной системы, мозга, демонстрирующие «естественный интеллект», наблюдаемый в природе, то есть такие свойства, как способность к самообучению и целеполаганию. Они не всегда будет слушаться нас и будет жить своей жизнью, как живет ею живой организм. Такие системы я называю системами «автономного искусственного интеллекта». И при создании таких систем, помимо разработки алгоритма самообучения, возникает еще одна задача: необходимо понять, как именно адаптивные системы работают в природе.

Потому что, даже если мы построим систему автономного искусственного интеллекта, способную к самообучению, то прежде, чем она станет по мощности, по своим проявлениям сравнима с человеком, ей нужно будет пройти длительный путь эволюционного развития. Нет ни одного алгоритма самообучения, обладающего такой мощностью, чтобы он с нуля обучился поведению, сравнимому с человеком. Любой алгоритм самообучения обладает очень ограниченной мощностью. Ему надо задать массу априорной информации, ввести разные правила, ограничения и т.д.

Например, нет такого самообучаемого алгоритма распознавания, который в предъявленном объекте мог бы распознать все, что в нем можно распознать. Такие исходные правила надо как-то этому алгоритму предварительно задать. А для этого их надо сначала найти, т.е., они сами по себе являются результатом работы адаптивных алгоритмов другого уровня.

Возьмите любого человека, у него еще до рождения многое уже приспособлено под те условия, в которых он будет жить. Это набор его «датчиков», набор его «исполнителей», физических характеристик, врожденные «алгоритмы» поведения. Это все результаты адаптации на протяжении миллионов лет эволюции. И без них — этих миллионов лет эволюции — трудно обойтись. Если мы создадим искусственный мозг, его нужно будет долго обучать. И чем заменить эти миллионы лет эволюции и развития вида, в том числе – адаптации мозга — это отдельная проблема. Но без этого никакого интеллекта, сравнимого с человеческим, не будет.

Новости партнеров