Заговорить как чат-бот: как ИИ проникает в человеческую речь и меняет стиль общения

Взаимодействие с ИИ не требует ни приветствий, ни светских бесед, ни заботы о том, что думает и чувствует ваш собеседник — чтобы получить результат, достаточно написать четкий и понятный запрос. Однако нейросети настолько плотно вошли в нашу жизнь, что директивная речь выходит за пределы экрана приложения. Коуч по деловой коммуникации Меридит Грундей, работающая с топ-менеджерами Amazon, Google и Panasonic, фиксирует одну и ту же тенденцию: люди, активно использующие ИИ, начинают общаться с коллегами как с языковой моделью: без контекста, вопросов и эмоций. Этот феномен эксперт назвала коротко — BotTalk (от англ. bot — робот, talk — разговор/ говорить). Новый паттерн настолько быстро закрепился в языковой среде, что, по наблюдениям модераторов Reddit, посты реальных пользователей все труднее отличить от написанных ИИ.  

Влияние ИИ на речь человека — событие не новое и не изолированное, а лишь один из этапов эволюции технологий и нашего взаимодействия с ними в череде событий, уверена Людмила Запорожцева, доктор наук в области семиотики и культурных исследований, профессор Школы коммуникаций НИУ ВШЭ. Возможность переписки в социальных сетях с помощью технических средств сказалась на возникновении «цифровой речи», которая является упрощенным вариантом письменности: «С одной стороны, необходимость печатать на клавиатуре, смартфоне привела к экономии языковых средств: упрощению пунктуации, возникновению сокращений и использованию эмодзи в повседневной переписке. С другой — такой формат коммуникации делает участника беседы невидимым в момент контакта с ним, а значит, снижает чувствительность к его субъектности, и это именно то, что описывает понятие BotTalk Меридит Грундей», — поясняет Запорожцева.

Социолингвисты отмечают, что под воздействием нейросетей со временем язык станет еще более организованным, формальным и даже «плоским». Меняются целые семантические группы: одни слова начинают использоваться чаще, вытесняя другие, а сами тексты становятся более однородными по структуре. Это подтверждает тот факт, что нейросети не просто окажут короткое влияние на стилистический тренд, а станут отправной точкой более глубокой перестройки лингвистической системы.

Мы начинаем звучать как ИИ

Группа ученых из Института Макса Планка по изучению человеческого развития проанализировала более 360 000 видеороликов YouTube и 771 000 эпизодов подкастов до и после запуска ChatGPT. Оказалось, что с появлением чат-бота англоговорящая аудитория стала на 51% чаще употреблять слова delve, meticulous, realm и adept (от англ. —  «погружаться», «тщательный», «область» и «мастер»), чем в предыдущие три года. И не только в текстах, но и в устной речи и спонтанных высказываниях. Дело в том, что ряд слов (среди которых meticulous, realm и adept) являются, грубо говоря, словами-паразитами ChatGPT — в своих текстах нейросеть отдает предпочтение им. «А человек способен перенимать речевые паттерны, которые использует ИИ» — констатирует соавтор научной работы Левин Бринкманн. Другими словами, формируется замкнутый круг: мы обучаем ИИ, он перерабатывает текст в соответствии со своими алгоритмами, мы улавливаем его закономерности и бессознательно начинаем их имитировать.

«Нейрокогнитивные исследования уже давно изучают процесс синхронизации собеседников не только на лингвистическом, но даже на нейрофизиологическом уровнях», — рассказывает профессор Школы коммуникаций НИУ ВШЭ Людмила Запорожцева. Для нашего мозга нет разницы между человеком и достаточно убедительным для него языковым источником: если паттерн повторяется достаточно часто, он усваивается в процессе диалога автоматически. «Мы буквально становимся тем, на что смотрим, что читаем и что слушаем. Поэтому, если мы взаимодействуем с усредненным лексиконом и синтаксисом, предлагаемым в ответах ИИ, мы начинаем перенимать их», — объясняет эксперт.

Но причина такого сдвига в лингвистической системе кроется не только в подражании чат-боту, но и в устройстве самих моделей. В работе, опубликованной Университетом штата Флорида, показано, как LLM (англ. — large language model) склонны системно переиспользовать определенные слова и конструкции. Это связано с тем, что они оптимизируются под наиболее вероятные последовательности, а значит — воспроизводят не все разнообразие языковых форм, а наиболее частотные и типичные из них. В результате в оборот попадают одни и те же формулировки, которые начинают закрепляться в речи.

В качестве иллюстрации нередко приводят в пример уже упомянутое слово delve. Как отмечает The Guardian, оно исторически чаще использовалось в деловом английском в Нигерии, нежели в Англии или США. При этом в процессе дообучения моделей — особенно на этапе модерации — значительный объем работы выполняется англоязычными специалистами из стран Африки. В результате отдельные лингвистические особенности могут закрепляться в ответах модели и становиться частью ее «тона».

Между тем это не означает, что модель воспроизводит какой-то конкретный диалект. Напротив, исследования показывают, что BotTalk может привести к потере диалектов и языкового разнообразия, так как нейросети лучше работают со стандартными и универсальными словами, фразами и выражениями.

Среди студентов и ученых феномен BotTalk вызывает тревогу — многие заявляют, что намеренно начали следить за языком и избегать «ИИ-слов» в своей речи и текстах, чтобы не звучать как нейросеть. Такая форма растущего языкового самоконтроля обнадеживает, поскольку, по мнению Мора Наамана, профессора информатики в Cornell Tech University, тенденция может стоить нам слишком многого. Прежде всего, потери нашей аутентичности: искренности и открытости в разговоре, вовлеченности, умению заботиться, способности быть собой, например, шутить, признавать ошибки и просто «быть человеком». «Разница между «Сожалею, что вы расстроены» и «Прости, я сорвался на ужине, наверное, зря пропустил встречу с психологом на этой неделе» — вот разница между ChatGPT и реальным человеком», — приводит яркий пример Нааман.

Но, конечно, ИИ способен не только «обеднять» коммуникацию, но и развивать ее определенные аспекты. В частности, пользователи учатся лучше структурировать мысли, формулировать задачи и удерживать контекст. «Работа с ИИ дисциплинирует речь: человек быстрее отделяет главное от второстепенного, начинает осознанно управлять логикой диалога и точнее выражать свои намерения», — подчеркивает доцент Школы инноватики и предпринимательства НИУ ВШЭ, директор по ИИ «Таймлист» Игорь Винокуров.

Когда живые люди кажутся менее человечными

Самый тревожный эффект — не в том, как мы говорим, а в том, как мы воспринимаем окружающих. Исследователи выявили феномен «ассимиляционной дегуманизации» (англ. — Assimilation-induced dehumanization): при взаимодействии с технологией, наделенной эмоциональным интеллектом, человек может неосознанно относиться к нему как к реально существующему собеседнику. Эта особенность может привести к тому, что настоящие люди могут казаться нам менее человечными, нежели машина. На фоне всегда приветливого, сопереживающего и быстрого чат-бота уставший коллега или клиент, которому нужен день на размышление, могут показаться безэмоциональными,  заторможенными, сложными и ненадежными.

Есть и обратный, еще более настораживающий аспект, — общаясь с машиной, мы сами уподобляемся «роботам». Эту теорию подтверждает реальный экспертимент: участники, которые смотрели видео с эмпатичным роботом, затем охотнее поддержали строгие меры по условиям труда работников общепита, чем те, кто смотрел видео с роботом, выполняющим механические действия. Однако когда машину наделили сверхчеловеческими способностями, эффект менялся на противоположный — в этом случае испытуемые, наоборот, яснее ощущали границу между человеком и технологией и воспринимали других людей как более человечных.

Это говорит о том, что мы противопоставляем себя машине, но когда грань размыта, происходит ассимиляция.

Таким образом, с виду такой простой вопрос «Как дела?» — это не просто вежливый интерес о самочувствии человека, а признание «видимости» своего собеседника. Этот вопрос можно сравнить с жестом приветствия на языке На’ви в фильме «Аватар», который означал: «Я тебя вижу». Как утверждает Людмила Запорожцева, если такая семиотическая разметка диалога исчезает, меняется не просто стиль общения, а сам тип отношений — наш собеседник превращается в инструмент. «Этим пренебрегают сегодня во взаимодействии с чат-ботами, но если мы переносим эту инструментальность в живое общение с людьми, то в наших глазах исчезает живой человек, а это уже крайне опасно и даже недопустимо», — подытоживает Людмила Запорожцева. Поэтому главная задача сегодня — не только следить за тем, как меняется язык, но и вместе с этими переменами не потерять способность видеть друг в друге человека.