Виртуальный угол. Как искусственный интеллект будет воспитывать наших детей
Своим отношением к искусственному интеллекту человечество напоминает рыбака из восточной сказки, которому вместо рыбы в сети попала бутылка с волшебным джином. Рыбак потирает бутылку с джином, но не представляет, чего от него ждать: то ли исполнит любое желание, то ли испепелит на месте. По частным вопросам ясности не намного больше. Например, как отразится внедрение искусственного интеллекта на формировании личности ребенка? Робкие попытки внедрить зачатки ИИ в сферу образования и воспитание детей предпринимаются уже сегодня. Во что это выльется завтра? Начнем с прописных истин.
Наши представления об искусственном интеллекте включают два взаимоисключающих сценария. Негативный: ИИ в процессе развития начинает воспринимать человечество как помеху и решает от него избавиться. Дальше Терминатор, Сара Коннор и ИИ с ними. Позитивный: ИИ обеспечивает людей всем необходимым для счастливой жизни, избавляя их от обязательности умственного и физического труда. Результат — новый Эдем на отдельно взятой планете. Между крайними точками существуют промежуточные сценарные линии, но они отличаются от основополагающих вариантов лишь деталями. Оставим апокалиптический сценарий кинорежиссерам и рассмотрим тот, в рамках которого люди и умные машины мирно сосуществуют. В системе координат «воспитание-образование» он неизбежно поставит перед цивилизацией ряд проблем, не имеющих очевидных решений. Вот лишь некоторые из них:
Ситуация 1. Вкалывают роботы, счастлив человек?
Далекое будущее. Всемирная гармония достигнута: машины производят, люди потребляют. Перед человечеством встает вопрос: как воспитывать и чему учить детей, когда целенаправленная совместная деятельность не только перестала быть объединяющей функцией, но и потеряла всякий прикладной смысл? Какие знания, умения и навыки потребуются в мире, где все потребности удовлетворяются машинами?
Из очевидных ответов на ум приходит только развитие творческих способностей. Но в таком случае на выходе мы, скорее всего, получим общество физических и интеллектуальных импотентов, мало чем отличающихся от элоев из уэллсовской «Машины времени». То ли это будущее, к которому мы стремимся? Вряд ли.
Ситуация 2. Любимый учитель
Другая вводная: развитие технологий достигло такого уровня, что искусственный интеллект в состоянии отвечать за становление личности ребенка, начиная с самых ранних этапов его развития. В отличие от живых родителей, нейротьютор не проводит на работе по восемь часов в день, не уходит по вечерам в маникюрный салон или выпить пива с друзьями. Он посвящает воспитанию и образованию подопечного всего себя без остатка. Нетрудно догадаться, кого ребенок будет воспринимать как источник истины в последней инстанции, чьим мнением руководствоваться, с кого брать пример.
Отложим в сторону этическую составляющую вопроса. Главные проблемы, скорее всего, возникнут на уровне социализации. Дети, сегодня отбрыкивающиеся от детского сада, чтобы не разлучаться с родителями, завтра будут воспринимать коллектив себе подобных как досадную помеху, отвлекающую от общения с любимым ИИ-наставником. В результате мы рискуем получить принципиально новую форму гаджетозависимости, от которой рукой подать до массовой социофобии.
Ситуация 3. Не только людям свойственно ошибаться
Безупречных систем не существует. Любая, даже самая совершенная, накапливает ошибки, которые рано или поздно приводят к системным сбоям. Предположим, нечто подобное произошло с ИИ-системой, отвечающей за воспитание подрастающего поколения, и из-под ее опеки вместо гармонично развитого члена общества вышел футуристический вариант Чикатило.
Возникает резонный вопрос: кто виноват? Производители «железа»? Разработчики нейросетевых алгоритмов? Или виновником будет признан сам искусственный интеллект, допустивший подобное безобразие? Если так, то как его наказывать? Отключать от сети, пытать перебоями напряжения, ставить в виртуальный угол? Вопросов явно больше, чем ответов.
Ситуация 4. По законам роботехники
Еще частный случай. Представим, что ИИ-робот участвует в воспитании ребенка наравне с родителями и в один прекрасный момент понимает, что родительские методы наносят чаду ощутимый вред: его перекармливают, балуют, потакают капризам, далее по списку.
Теперь вспомним азимовские законы роботехники, первый (и главный) из которых гласит: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». В полном соответствии со своим основным предназначением наш робот обязан действовать: защитить ребенка от происков родителей-вредителей, изолировав его от негативного влияния. Во что это может вылиться, страшно представить.
Все это подводит нас к выводу: интегрируя искусственный интеллект в систему образования и воспитания детей, мы покупаем кота в мешке.
Котик может оказаться ласковым и пушистым. А что если нет?