Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Фото REUTERS / Fabian Bimmer
Фото REUTERS / Fabian Bimmer
Все большее внедрение в разные сферы экономики систем искусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Нужно успеть установить правила

Любопытно, что не заре эры информационных технологий, женщины стояли у истоков формирования отрасли: Ада Лавлейс создала программирование, Бетти Холбертон разработала первый цифровой компьютер общего назначения, Маргарет Гамильтон написала программное обеспечение для проекта Apollo. Сейчас только 15% специалистов по искусственному интеллекту во всем мире — женщины, что вызывает разочарование у многих сторонников гендерного равенства. Некоторые беспокоятся, что будущее будет создано мужчинами для мужчин. Наличие женщин — аналитиков данных облегчает ситуацию, так как они указывают на проблемы с продуктами, которые не так легко обнаружить тем, кто сам не ощущает дискриминацию каждый день. 

Женщины и так тратят много эмоциональных усилий на то, чтобы обеспечить честное и справедливое отношение к себе. Возможно, должна быть правовая база, позволяющая облегчить это бремя. Некоторые регулирующие органы уже озаботились этим вопросом. Например, Общий регламент ЕС по защите данных (GDPR) требует, чтобы компании были способны объяснить причины принятия решений системами с ИИ и контролировали отсутствие дискриминации любого рода. Пока только крупные компании и правительства могут позволить себе программное и аппаратное оборудование, необходимое для запуска самых современных моделей ИИ. Этот барьер может помочь установить некоторые основные правила, прежде чем технология станет более доступной.

Новые навыки — новые вызовы

Многие футуристы с оптимизмом смотрят на шансы женщин преуспеть. Почему? Наиболее ценны в дивном новом мире те навыки, которые не подвластны алгоритмам: применение социального и эмоционального интеллекта. Так, 83% опрошенных Capgemini организаций считают, что эмоциональный интеллект будет необходимым условием успеха в ближайшие годы. Новый рынок труда ценит сочувствие, многозадачность, сотрудничество и эмпатию — качества, традиционно ассоциируемые с женщинами, так что женщины будут иметь больше шансов быть нанятыми. Но и здесь есть нюанс. Чтобы преуспеть в мире, управляемом ИИ, потребуется значительная степень переподготовки и адаптации. В конечном счете выживает не самый умный, а самый адаптивный.

Дополнительные риски для женщин заключаются не только в сокращении рабочих мест, но и в невозможности перестроиться. Новые вызовы автоматизации накладываются на традиционные сложности, создающие препятствия на пути к достижению гендерного равенства. Сейчас возникает потребность в мобильности и гибкости работников, ведь сейчас как никогда легко менять профессии, работодателей, отрасли и даже страны. Женщины же зачастую менее мобильны, чем мужчины, из-за «второй работы» по дому. Кроме того, они часто исключены из нетворкинга, который позволяет мужчинам совершенствовать свои навыки, находить наставников и новые возможности трудоустройства.

С другой стороны, компании будут более мотивированы развивать у сотрудников навыки, не поддающиеся автоматизации. Если женщины будут проактивны и смогут адаптироваться, то у них появится больше возможностей для трудоустройства. Нужно помнить, что самая бесполезная трата времени — хорошо делать то, что вообще не нужно делать. В будущем важнее всего будут две категории навыков: умение вести переговоры и отстаивать свою точку зрения, а также способность видеть тенденции и выстраивать стратегии.

Организациям нужны сотрудники, умеющие разговаривать как с машинами, так и с людьми. За последнее время технологии значительно демократизировались, а значит, не нужно обладать докторской степенью, чтобы работать с ИИ. Сейчас самое подходящее время для того, чтобы разобраться в основах, на первый взгляд, сложной технологии, даже если профессия пока никак не связана с разработкой алгоритмов. Руководителям будет полезно поверхностно ознакомиться с методами машинного обучения для анализа разного рода данных. Такой анализ поможет оценить потенциал применения ИИ в своей предметной области и грамотно выстроить стратегию цифровой трансформации. Более углубленное погружение и приобретение прикладных навыков вроде программирования и создания моделей машинного обучения будет полезно тем, кто по роду своей деятельности много времени проводит за рутинным анализом и хочет автоматизировать процесс принятия решения.

Реализованные проекты из более зрелых по уровню внедрения ИИ-отраслей — ИТ-компаний, банков и ретейла — могут быть хорошими источниками вдохновения. Даже в такой консервативной отрасли, как промышленность, начали запускаться программы оптимизации производства, например по предсказанию выхода из строя оборудования. 

К 2021 году, по прогнозу IDC, системы ИИ уже будут использоваться в том или ином виде на 75% предприятий. Таким образом, соответствующие навыки будут, без преувеличения, необходимы практически во всех сферах жизни. Потратьте час и посмотрите видео о принципах работы машинного обучения. Только когда есть четкое представление о том, как оно работает, получается задавать правильные вопросы и формулировать задачу. Знание немногих принципов важнее понимания конкретной реализации алгоритмов в программном пакете.

После изучения основных принципов нужно понять, на каких задачах наиболее релевантно применение ИИ, и попробовать делегировать часть обязанностей машине, повысив качество и продуктивность работы. Изучая успешные сценарии применения ИИ, многие осознают, что этот инструмент можно использовать для широкого спектра процессов и задач, предусматривающих работу с большим объемом данных. Нужно учиться находить применение новым технологиям в работе и быть достаточно мотивированным, чтобы самостоятельно искать ответы и взять под контроль свое обучение и карьеру.

Навыки анализа данных широко применимы в самых разных профессиях от маркетолога до механика станочного парка, они, например помогут автоматически выявлять аномалии из большого потока данных техпроцесса. В области науки о данных (data science) и искусственного интеллекта в настоящий момент нехватка кадров. Проблема стоит настолько остро, что крупные компании предлагают бесплатные платформы для обучения. После них вы, возможно, не сможете сходу анализировать данные как опытный исследователь, но уже сможете поставить правильную задачу исполнителю, например по анализу набора резюме и даже написанию музыки.

«Потребность в специалистах по искусственному интеллекту уже появилась практически в каждой сфере жизни», — считают в Институте инженеров электротехники и электроники (Institute of Electrical and Electronics Engineers), международной некоммерческой ассоциации специалистов в области вычислительной техники. Эксперты призывают обучать методам ИИ специалистов в таких областях, как здравоохранение, сельское хозяйство и логистика.

Привычные способы выполнения работы стремительно устаревают. Человечество снова оказывается перед выбором: сетовать на судьбу и говорить про восстание машин или подготовиться к будущему и обучиться наиболее востребованным на рынке навыкам. Луддиты проиграли свое сражение против машин, просто потому что машины действительно экономили деньги. И, как мы знаем сейчас, внедрение машин в конечном счете создало намного больше рабочих мест, чем было сокращено, и внесло большой вклад в экономический рост. Наиболее проницательные работники были готовы не бояться индустриализации, а использовать ее и получить от нее преимущества, ставшие доступные с новыми технологиями. Так почему же и женщинам не поступить так же?