Как «Наташа» оказалась «Пратикшей»: почему естественный интеллект часто выдают за ИИ

Искусственный интеллект XVIII века

Описанная схема не нова — ее корни уходят в XVIII век. Еще в 1770 году венгерский изобретатель Вольфганг фон Кемпелен представил публике необычного шахматного робота. Восковая фигура в османском одеянии сидела за большим деревянным ящиком, на котором располагалась шахматная доска, и демонстрировала «автоматическую» игру.

Робот-шахматист вызывал восхищение. Оппоненты отмечали, что «турок» был невероятно сильным игроком и часто выигрывал даже у опытных соперников. Бросить вызов машине пытались Бенджамин Франклин и Наполеон Бонапарт.

Загадка чудо-робота была разгадана только 50 лет спустя, когда автомат выкупил врач Эдгара Аллана По — Джон Кирсли Митчелл. Его сын Сайлас Митчелл написал серию статей для The Chess Monthly, в которой разоблачил мистификацию: внутри пьедестала скрывался миниатюрный человек-оператор, который тянул и нажимал на различные рычаги, чтобы манекен наверху двигался и играл в шахматы.

«Механический турок» на новый лад

Сегодня история повторяется: если в XVIII веке за шахматным автоматом скрывался один живой игрок, то теперь за громкими заявлениями об искусственном интеллекте нередко стоят тысячи низкооплачиваемых работников.

Яркий пример — скандал 2017 года вокруг сервиса Expensify, который позиционировался как автоматизированное решение для учета расходов. Оказалось, что часть обработки платежных документов выполняли не алгоритмы, а живые люди. Компания тайно отправляла платежные документы на краудсорсинговую платформу Amazon, где сотрудники со всего мира вручную перепечатывали информацию из квитанций. Интересно, что эта платформа получила название Amazon Mechanical Turk (MTurk) — как раз в честь робота-шахматиста фон Кемпелена.

Взял и иди

В 2018 году Amazon снова угодил в скандал. Он представил систему Just Walk Out («Взял и иди»), которая работала в магазинах Amazon Fresh и должна была совершить революцию в рознице. По заявлению компании, технология полностью исключала человеческое участие: покупатели просто брали товары с полок, а на выходе получали автоматически сформированный чек — якобы благодаря работе системы компьютерного зрения и сложных алгоритмов.

Однако расследование The Wall Street Journal вскрыло знакомую схему: за фасадом искусственного интеллекта скрывались сотни индийских сотрудников, вручную просматривавших видеозаписи и сверявших товары в корзинах. Особенно показательным стало расхождение между заявленными и реальными показателями: вместо обещанных 5% случаев человеческого вмешательства (50 из 1000 покупок), по данным The Information, помощь операторов требовалась в 70% случаев.

Аналогичные примеры можно найти и в России — нередко сервисы по распознаванию документов фактически используют технологию Human-in-the-Loop («человек в процессе»), прямого потомка Amazon Mechanical Turk. Случается, что за громкими заявлениями о возможностях ИИ скрывается ручной труд краудсорсеров, которые перепечатывают данные из документов буквально за копейки.

Winter is coming

Проблема псевдоискусственного интеллекта выходит далеко за рамки угрозы приватности пользователей. Каждый такой случай — удар по репутации всей отрасли. Компании, использующие «механических турков» под видом ИИ, не только обманывают клиентов, но и подрывают доверие к настоящим разработчикам, создающим подлинные технологии машинного обучения. Во многих задачах, таких как распознавание паспорта и других документов, ИИ уже превзошел человека и не нуждается в «костылях» из скрытых операторов.

Статистика неутешительна: 60-80% ИИ-проектов терпят неудачу. На этом фоне волна разоблачений может спровоцировать резкое охлаждение рынка. Инвесторы, обжегшиеся на псевдоинновациях, начинают с опаской смотреть на весь сектор. Уже сейчас заметны первые признаки надвигающейся «зимы искусственного интеллекта» — снижение финансирования, заморозка перспективных исследований и рост скепсиса в профессиональном сообществе.

Как и в предыдущие технологические зимы, эта может надолго замедлить прогресс — но на этот раз не из-за ограничений технологий, а из-за банального мошенничества под их прикрытием.

Рекомендации инвесторам

Инвесторам надо быть предельно бдительными и внимательными, чтобы не вложиться в ИИ-«единорога» с «механическими турками» под лакированным капотом инновационного продукта. Одним из способов проверки является изучение патентной активности организации. Компании с реальными технологиями обязательно патентуют разработки и публикуют результаты своей работы, как это делает, например, DeepSeek с открытыми моделями.

Еще один метод — due diligence команды. Личная встреча с разработчиками, проверка их научных публикаций и привлечение отраслевого эксперта для технической оценки — обязательные этапы. Если организация отказывается предоставлять информацию или избегает проверок, это может указывать на отсутствие реальных технологий.

Тщательный анализ перед инвестированием снижает риски и помогает избежать необоснованных вложений в проекты, которые не соответствуют заявленным возможностям.

Мнение редакции может не совпадать с точкой зрения автора