К сожалению, сайт не работает без включенного JavaScript. Пожалуйста, включите JavaScript в настройках вашего броузера.
Наш канал в Telegram
Самое важное о финансах, инвестициях, бизнесе и технологиях
Подписаться

Новости

Чем ChatGPT не шутит: как нейросети помогают бизнесу заботиться о пользователях

Фото Mojahid Mottakin / Unsplash
Фото Mojahid Mottakin / Unsplash
В июле 2023 года OpenAI, разработчик ChatGPT, опубликовала список обязательств по повышению безопасности и надежности технологий искусственного интеллекта. Один из важнейших пунктов — решение с помощью нейросетей общественных проблем, в том числе угроз в онлайне. Как цифровому бизнесу использовать нейросети и подобные технологии для защиты психологического комфорта пользователей и какие перспективы они открывают для заботы о людях, рассуждает директор по модерационной политике и взаимодействию с пользователями «ВКонтакте» Иван Корнеев

За темным углом онлайн-коридора

Очевидно, что технологии и новые медиа фундаментально изменили взаимодействие между людьми. Мы даже не заметили, как оказались в мире, где можем сделать практически все с помощью нескольких нажатий на экран. Где одновременное общение с несколькими собеседниками стало нормой. Где наше внимание порой не успевает переключаться между чатами, видеовстречами и разговорами в реальной жизни.

К 2023 году количество пользователей социальных сетей достигло 4,76 млрд. Интернет давно стал продолжением физического мира и общества с аналогичными социальными проблемами: травлей, одиночеством или, наоборот, переизбытком внимания. Кто-то ищет социального одобрения, кто-то — уединения, а кто-то — платформы для самовыражения. За счет того, что сами площадки — соцсети, мессенджеры, блоги и форумы — развиваются с точки зрения функциональности, люди получают все больше способов, чтобы делиться мыслями и опытом. Растет и объем негативного опыта.

Исследование Microsoft о безопасности в интернете показало, что 69% пользователей в 16 странах сталкивались в онлайне с дезинформацией, разжиганием ненависти, кибербуллингом, угрозами насилия и вредоносным контентом. По данным исследовательского центра Пью, мужчины в интернете чаще всего имеют дело с оскорблениями, а женщины — с сексуализированными домогательствами и онлайн-преследованием.

 

Вся эта статистика говорит о том, что за ментальное здоровье пользователей интернета во многом несут ответственность сами онлайн-платформы. У них есть две задачи: с одной стороны, помочь людям узнать обо всех рисках, с которыми можно столкнуться в онлайне. С другой — защитить их ментальное здоровье с помощью эффективных инструментов, чтобы создать максимально комфортный баланс между самовыражением и благополучием пользователей. Важным этапом в решении этой задачи стало использование искусственного интеллекта.

Нейросети и психология

ChatGPT и прочие системы генеративного ИИ (Generative AI, ИИ, который способен генерировать тексты, изображения и пр.), по данным Gartner, стали колоссальным драйвером прогресса, приближающего нас к гипотетическому Общему искусственному интеллекту (Artificial General Intelligence) — тому, который мы часто видим в научпоп-лентах или про который читаем у Азимова и Дика. В таких фильмах и книгах зачастую мы видим роботов, общающихся с людьми на естественном языке или даже заменяющих героям человеческую коммуникацию. Сегодня подобные практические сценарии находят применение в реальной жизни.

 

Ученые по всему миру исследуют новые способы использования ИИ для помощи людям. Научная сотрудница чикагского Северо-Западного университета Стиви Чанселлор изучила миллионы сообщений в соцсетях, чтобы установить вероятность того, что пользователи испытывают стресс, депрессию, расстройство пищевого поведения или могут причинить себе вред. Она выяснила, что с помощью нейросетей выявить эти состояния можно с точностью от 80% до 90%.

Также в начале этого года в ВОЗ отметили, что искусственный интеллект в ближайшие несколько лет заставит системы здравоохранения меняться и адаптироваться к использованию новых технологий в лечении пациентов. Например, с помощью нейросетей можно будет более эффективно и быстро анализировать медицинские данные. При этом в организации заявили, что в использовании ИИ в психотерапии все еще есть «значительные пробелы», а также недостаточная оценка рисков.

Несмотря на это, имеющиеся на сегодняшний день эксперименты показали, что беседы с ChatGPT действительно помогают справиться с психологическими проблемами. Однако специалисты предупреждают: обсуждать свои проблемы с ИИ лучше параллельно с посещениями психолога.

 

Фокус на пользователя

Весь цифровой мир и бизнес сейчас разворачиваются в сторону личности пользователя, стремясь быть более гибкими и адаптивными к его интересам. Задача цифровых сервисов — обеспечить комфорт и удобство для каждого пользователя с учетом многообразия характеров, потребностей и предпочтений. Соответственно, использование подхода, центрированного вокруг пользователя, на сегодня ключевая необходимость для любого цифрового бизнеса.

Все социальные платформы так или иначе используют автоматизированные алгоритмы для модерации и фильтрации контента. Алгоритмы позволяют масштабировать и классифицировать информацию при обработке больших объемов данных, сокращать взаимодействие людей-модераторов с потенциально негативным контентом, а также анализировать и модерировать контент даже в реальном времени.

Как следует из руководства портала Women’s Aid по безопасности в интернете, чаще всего соцсети позволяют добавлять пользователей в черный список, закрывать комментарии под постами, фото и видео, жаловаться на какой-либо контент или аккаунт. У каждой социальной сети есть и свои фишки. Например, X (бывший Twitter) позволяет защищать посты — при подключении функции их могут видеть только подписчики. А в TikTok человек может ограничить круг лиц, у которых есть возможность смотреть понравившиеся ему ролики и отмечать его на видео.

Например, пользователи «ВКонтакте» могут включить режим «Личное пространство»: алгоритмы автоматически выявляют всплески негативной активности в профилях пользователей — ругательства и оскорбления в постах и комментариях. С начала 2023 года этой функцией воспользовались более 1,3 млн человек. Мы считаем важным не только ограничиваться конечной функциональностью, но и помогать пользователю справляться с внутренними переживаниями путем таргетирования материалов, которые позволяют приблизиться к решению проблемы.

Доверяй, но проверяй

Очевидно, что, как и любой научный прорыв или новую технологию, внедрять нейросети нужно очень осторожно. Их использование в таких тонких процессах, как психологическая поддержка, требует еще более ответственного подхода к этике. Необходимо точно знать, что нейросеть не сделает своим советом хуже, в какой момент должен быть подключен реальный человек и многое другое. Человечеству еще только предстоит определить механизмы и нормы такого применения технологий.

 

Было предпринято немало попыток подойти к решению этой проблемы. Можно вспомнить популярный эксперимент Массачусетского технологического института Moral Machine. Исследователи создали онлайн-платформу, на которой любой пользователь интернета может голосовать за то, какое действие необходимо предпринять беспилотному автомобилю в чрезвычайных ситуациях. Миллионы людей приняли участие в эксперименте, чтобы помочь найти наиболее этичный, по мнению большинства, подход. Эксперимент помог не только приблизиться к решению заданных дилемм, но и в целом поднял важный вопрос этики ИИ, подсветив то, что разные люди имеют разное мнение об этичном выборе.

Именно поэтому, если речь идет об этике, очень важно, чтобы ни одна компания или человек не действовали в одиночку. У многих организаций есть собственные этические комитеты по использованию ИИ. В нашей компании все решения по модерационной политике принимаются в рамках специального совета.

Следовательно, на мой взгляд, для корректного ответа на нетривиальный вопрос, как использовать нейросети в защите психологического комфорта интернет-пользователей, необходимо взаимодействие разных специалистов и организаций: психологов, разработчиков, представителей бизнеса, специалистов по этике, онлайн-платформ и социальных сетей.

За горизонтом

Стремительно развивается многовекторный процесс: алгоритмы совершенствуются, технологии все глубже проникают в нашу жизнь, и под влиянием этого меняются паттерны поведения пользователей. Применение ИИ для защиты психологического и цифрового комфорта человека будет напрямую зависеть от успешного решения ряда сложных вопросов и проведения большего количества исследований.

 

Я считаю, что несмотря на то, что сфера еще довольно мало изучена и имеет не так много практических кейсов, она может принести существенную пользу бизнесу, обществу и каждому отдельному человеку. В будущем с помощью ИИ социальные сети и интернет-платформы смогут еще более гибко адаптировать предлагаемое содержание под индивидуальные потребности пользователей, при этом избегая негативного влияния на их ментальное состояние.

Нейросети смогут помочь разработать для пользователей более эффективные системы поддержки, которые будут автоматически обнаруживать признаки тревоги, депрессии или других психологических проблем и предлагать соответствующие ресурсы или профессиональную помощь специалистов.

Также будет появляться все больше интеллектуальных ассистентов, которые позволят людям справляться со стрессом, тревогой или другими некомфортными состояниями. Такие помощники смогут становиться собеседниками, давать советы, а также направлять к профессионалу в нужный момент.

Безусловно, использование ИИ и нейросетей для сохранения ментального благополучия пользователей интернета — комплексная тема, которая должна развиваться с учетом целого ряда этических, психологических и технологических норм и принципов. Но подобные технологии действительно имеют колоссальный потенциал, который в перспективе может изменить наши подходы к разработке и ежедневному использованию цифровых сервисов.

 

Мнение редакции может не совпадать с точкой зрения автора

Мы в соцсетях:

Мобильное приложение Forbes Russia на Android

На сайте работает синтез речи

иконка маруси

Рассылка:

Наименование издания: forbes.ru

Cетевое издание «forbes.ru» зарегистрировано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций, регистрационный номер и дата принятия решения о регистрации: серия Эл № ФС77-82431 от 23 декабря 2021 г.

Адрес редакции, издателя: 123022, г. Москва, ул. Звенигородская 2-я, д. 13, стр. 15, эт. 4, пом. X, ком. 1

Адрес редакции: 123022, г. Москва, ул. Звенигородская 2-я, д. 13, стр. 15, эт. 4, пом. X, ком. 1

Главный редактор: Мазурин Николай Дмитриевич

Адрес электронной почты редакции: press-release@forbes.ru

Номер телефона редакции: +7 (495) 565-32-06

На информационном ресурсе применяются рекомендательные технологии (информационные технологии предоставления информации на основе сбора, систематизации и анализа сведений, относящихся к предпочтениям пользователей сети «Интернет», находящихся на территории Российской Федерации)

Перепечатка материалов и использование их в любой форме, в том числе и в электронных СМИ, возможны только с письменного разрешения редакции. Товарный знак Forbes является исключительной собственностью Forbes Media Asia Pte. Limited. Все права защищены.
AO «АС Рус Медиа» · 2024
16+