Крупнейший поставщик камер полиции в США отказался от функции распознавания лиц

Моника Мелтон Forbes Contributor
Фото David McNew / Getty Images
Axon, крупнейший производитель полицейских нательных камер в США, объявил, что не будет добавлять функцию распознавания лиц в видеорегистраторы для правоохранительных органов до тех пор, пока не будут решены этические проблемы

«Мы думаем, что сейчас не следует монетизировать эту технологию до тех пор, пока не будут решены этические вопросы», — рассказал Forbes генеральный директор Axon Рик Смит.

«Проблемы точности и предвзятости, которые существуют сегодня, в будущем, вероятно, будут решены, и это породит новые препятствия, — говорит Смит. — Как только технология будет усовершенствована, нам придется работать с этическими ограничениями».

Угроза тотальной слежки

Смит говорит, что использование технологии полицией сейчас таит опасность массовой слежки за гражданами. Пока же Axon использует распознавание лиц при обработке записей с нательных камер для решения более простых задач.

«Предположим, случилась перестрелка с участием полиции и общественность требует опубликовать видеозапись, тогда полиции придется скрывать лица. В некоторых случаях нужно скрыть только часть лиц, но оставить все остальные, и в такой ситуации вам нужно, чтобы программа могла отличить «те самые лица».

Смит говорит, что такое использование технологии распознавания лиц в работе полиции может способствовать увеличению прозрачности правоохранительной системы, однако эта технология пока еще на стадии разработки.

Кто ограничит власти?

Axon (ранее был известен под названием Taser International — по названию своего первого электрошокера) тесно работает со своим советом по этике, который сотрудничает с представителями правозащитных организаций, включая Американский союз защиты гражданских свобод (ACLU), говорит Смит. Принятое решение основывается на 42-страничном отчете Совета по этике искусственного интеллекта и полицейских технологий Axon, который компания создала в прошлом году.

ACLU одобрил решение Axon отложить внедрение технологии распознавания лиц в официальном заявлении, содержащем отсылки к закону о требованиях к нательным камерам, который запрещает использование функции распознавания лиц и других биометрических систем наблюдения в нательных камерах правоохранительных органов. Законопроект был принят в Калифорнии в мае и одобрен Сенатом в июне.

Смит говорит, что этот законодательный акт выглядит как шаг в правильном направлении, однако важно, чтобы и компании задумывались о последствиях использования своих технологий.

«Это [решение] не было принято из-за требований закона, — говорит Смит. — Мы понимаем, что такое саморегулирование может привести к более качественному законодательству в долгосрочной перспективе. Если бы компания начала продавать нательные камеры с распознаванием лиц просто потому, что у нас есть такая возможность, при всех существующих сегодня этических проблемах это привело бы к быстрому принятию новых законов, которые позднее оказались бы контрпродуктивными».

А что конкуренты?

Впрочем, конкуренты пока готовы продавать технологию правоохранительным органам. В мае акционеры Amazon проголосовали против того, чтобы запретить компании продавать правительству программу Rekognition, в которой, как было доказано, заложены предубеждения в отношении гендера и расы.

Член совета по этике Axon Барри Фридман не считает, что решение компании нанесет ущерб ее финансовым показателям. «Я не думаю, что, если отрасль поступит должным образом, прибыль корпораций сократится», — заявил Forbes Фридман, который также руководит проектом по исследованию работы полиции в Университете Нью-Йорка. «Просто то, что мы изобрели технологию, не означает, что мы должны завтра же начать ее применять», — добавил он.

Выручка Axon в первом квартале 2019 года выросла на 14% по сравнению с прошлым годом и достигла $116 млн, причем $50 млн были получены от продажи нательных камер. В 1990-х годах компания стала лидером рынка электрошокеров и начала разрабатывать более продвинутые инструменты вроде программы Redaction Studio, которая с помощью искусственного интеллекта находит и замазывает лица в видеозаписях, используемых полицией. В некоторых случаях сокрытие лиц позволяет опубликовать записи, что используется для повышения прозрачности работы полиции.

«Это тот случай, когда некоторых клиентов может сманить конкурент, который в отличие от нас предлагает [функцию распознавания лиц], но мы думаем, что правильные решения укрепляют бизнес», — уверен Смит.

Новости партнеров