Google распустил совет по вопросам этики в области искусственного интеллекта после протестов сотрудников

Фото Carsten Koall / Getty Images
Причина, по которой новый консультативный орган не проработал и двух недель, — в подборе участников. Присутствие некоторых из них в совете сотрудники компании и сторонние наблюдатели сочли спорным

Google распустил недавно созданный Внешний консультативный совет по передовым технологиям (ATEAC), который должен был рассматривать этические вопросы, связанные с развитием искусственного интеллекта (ИИ) и других новых технологий. Причина — критика как со стороны сотрудников компании, так и от сторонних наблюдателей в адрес кандидатур экспертов, вошедших в совет. Представители Google заявили, что «начнут всё с чистого листа» и попытаются другими способами собрать мнение людей по вопросу разработки и использования инновационных ИИ-технологий.

С самого момента создания на Внешний консультативный совет по передовым технологиям, в состав которого вошло восемь человек, обрушился шквал критики. По мере развития технологий искусственного интеллекта вопрос этики в данной области становится все более важным, ведь ИИ уже применяется при подборе персонала и проверке соискателей, а также в системах наблюдения. Тем не менее как сотрудники Google, так и сторонние эксперты выступили против кандидатур некоторых членов совета.

1 апреля сотрудники Google создали петицию, требующую отстранения от работы совета Кей Коулс Джеймс, главы консервативного стратегического исследовательского института The Heritage Foundation, в связи с ее резкими высказываниями об ЛГБТ-сообществе и иммигрантах. Более 2350 сотрудников Google подписали петицию. Кроме того, петицию подписали еще около 300 человек, среди которых были эксперты в области разработки ИИ и представители организаций, занимающихся вопросами использования ИИ, например движения под названием Лига алгоритмической справедливости (AJL).

В петиции сотрудники Google обвинили руководство компании в том, что оно встало на защиту Джеймс. По мнению руководства Google, присутствие Кей Коулс Джеймс в совете обеспечивало «плюрализм мнений». Авторы петиции считают, что на деле ее включение в совет «значительно подрывает позиции Google в отношении вопросов этики и равноправия в области ИИ», поскольку при поборе персонала представители меньшинств, например члены ЛГБТ-сообщества или иммигранты, подвержены большему риску дискриминации или исключения из списка потенциальных кандидатов со стороны ИИ-систем.

Петиция была создана после того, как профессор по информационным технологиям и государственной политике Алессандро Акисти добровольно ушел в отставку 30 марта. Он заявил, что больше не считает ATEAC «подходящим форумом» для себя. 3 апреля еще один член совета, профессор Лучано Флориди, занимающийся вопросами цифровой этики, написал на своей странице в Facebook, что рекомендует руководству Google исключить Кей Коулс Джеймс из совета. При этом он сам не планировал уходить в отставку.

Внимательному изучению подвергли также и кандидатуру Дайан Гиббенс, CEO стартапа Trumbull Unmanned, занимающегося производством дронов. Ранее компания Trumbull Unmanned разрабатывала БПЛА для Вооруженных сил США. Пристальное внимание к кандидатуре Дайан Гиббенс было связано с прошлогодним решением Google не продлевать спорный контракт с Пентагоном, по которому компания должна была создать ИИ-систему для анализа видеозаписей с военных беспилотников. Тогда тысячи сотрудников американского IT-гиганта выступили против вовлечения Google в «военный бизнес».

В итоге 4 апреля руководство Google заявило о роспуске ATEAC. «Стало ясно, что в нынешних условиях совет не может работать так, как мы хотели. Поэтому мы распускаем совет и начинаем все с чистого листа», — сообщил Forbes официальный представитель компании. По его словам, Google и далее будет ответственно подходить к решению важных вопросов, связанных с технологиями искусственного интеллекта. Представитель компании добавил, что Google будет искать другие способы сбора мнения сторонних наблюдателей в отношении использования ИИ.

В 2019 году руководство Google планировало четыре раза встретиться с членами Внешнего консультативного совета по передовым технологиям. Впоследствии компания должна была опубликовать отчет, подводящий итоги дискуссий.

В Twitter создатели петиции против Кей Коулс Джеймс поблагодарили поддержавших движение за «нежелание мириться с ненавистью».

Но не только руководство Google на прошлой неделе призвали изменить политику по вопросам этики в области ИИ. 3 апреля группа экспертов по технологиям искусственного интеллекта опубликовала открытое письмо, в котором руководство Amazon призвали прекратить продажу технологии по распознаванию лиц Rekognition правоохранительным органам. Ранее исследователи выяснили, что программа чаще ошибается при распознавании лиц темнокожих женщин, чем при распознавании лиц светлокожих мужчин.

«Нет никаких законов или установленных норм, которые бы обеспечивали использование программы Rekognition без нарушений гражданских свобод людей», — говорилось в письме экспертов.

Несмотря на то что общественность уже не раз призывала к регламентации использования технологий искусственного интеллекта, никаких подобных правил пока что не было создано.

Перевод Полины Шеноевой

Новости партнеров