Сейчас все более актуальным становится вопрос, кто будет отвечать за инциденты, связанные с использованием ИИ, считает популяризатор науки, издатель N+1 Андрей Коняев. Перед работой с ChatGPT и другими чат-ботами человек принимает пользовательское соглашение, в котором говорится, что он несет ответственность за все последствия использования нейросети, обращает внимание он. «Под давлением общественности вводится внутренняя цензура, чат-бот не выдает ряд вещей, например связанных с самоубийствами, насилием и др. Однако можно предположить, что корпорации продолжат перекладывать всю ответственность за использование ИИ на пользователей. А это значит, что и обучаться ИИ будет исходя из того, что вся ответственность ложится на конечного пользователя», — говорит эксперт.
«У Айзека Азимова (американский писатель-фантаст, популяризатор науки — Forbes) роботы были разумны, не думаю, что их появление возможно. Мы сейчас имеем дело с машинами, которые управляются большими лингвистическими моделями. У них нет логики, они производят токены, а это совершенно другая процедура», — поясняет Андрей Коняев. Поэтому никаких реальных запретов поставить таким системам нельзя, заключает он.
В авариях со смертельным исходом с участием автопилота или несчастных случаях на производстве ответственность обычно лежит на производителях и операторах техники, рассуждает сооснователь «Промобот» Олег Кивокурцев, добавляя, что, однако, на деле часто возникают споры. «Пока ответственность чаще возлагается на людей или компании, допустившие ошибки или недоработки. Поскольку ИИ принимает решения самостоятельно, важно, чтобы компании обеспечивали безопасность, прозрачность и контроль за роботами. На практике делается большое расследование, и, как правило, основная причина заключается в нарушении условий эксплуатации, а значит, виноват либо оператор, либо интегратор, либо пользователь», — говорит он.
Случаи, когда роботы нанесли людям травмы, несовместимые с жизнью, — в фотогалерее Forbes.
Белый, как облака, грузовик
В 2016 году произошел первый случай гибели человека в результате аварии с участием беспилотного автомобиля. Во Флориде Джошуа Браун ехал по трассе на автомобиле Tesla Model S (на фото), работающем в режиме автопилота, и на полной скорости врезался в большой грузовик с прицепом, который пересекал полосу перед ним. Водитель Tesla погиб на месте, на момент аварии он не держал руки на руле. Водитель грузовика не пострадал.
Tesla всячески пыталась переложить вину на погибшего водителя. В компании заявляли, что автопилот не рассчитан на то, чтобы водитель убирал руки с руля, а также высказывала мнение, что датчики автомобиля просто не распознали белый кузов грузовика на фоне светлого неба. Однако расследование показало, что автопилот машины просто проигнорировал грузовик.
Национальное управление по безопасности движения на трассах США пришло к выводу, что автопилот Tesla работал штатно и не мог стать причиной катастрофы. Автопилот не предназначен для предотвращения столкновений в тех случаях, когда траектории автомобиля пересекаются. Даже при работе автопилота требуется полное внимание водителя к обстановке на дороге, делается вывод в заключении. После аварии Tesla добавила функцию контроля за водителями — автопилот выключается, если человек убрал руки с руля.
Женщина с велосипедом
В 2018 году беспилотный автомобиль впервые насмерть сбил пешехода. Автомобиль Uber ехал со скоростью 64 км/ч в режиме автопилота, в салоне находилась водитель Рафаэла Васкес. Она не следила за дорогой в момент происшествия, позже выяснилось, что Васкес смотрела шоу «Голос» на смартфоне. В результате автомобиль Uber сбил Элейн Херцберг, которая пересекала дорогу, толкая перед собой велосипед.
Расследование показало, что автомобиль распознал препятствие за шесть секунд до столкновения. Однако машина не затормозила, потому что инженеры отключили функцию экстренного торможения из-за частых ложных срабатываний системы обнаружения объектов на дороге. В отчете отмечается, что беспилотный автомобиль Uber полагается на то, что водитель следит за дорогой и вмешивается, если это необходимо. Рафаэла Васкес была обвинена в непредумышленном убийстве и получила три года условно. Прокуратура пришла к выводу, что оснований для уголовной ответственности Uber нет.
Несчастный случай на заводе
В 2015 году рабочий завода Volkswagen в Германии погиб в результате несчастного случая на сборочной линии. Инцидент произошел, когда два сотрудника подрядчика завода собирали нового робота для линии по производству электродвигателей. Такие роботы находятся внутри огороженных отсеков, и один из рабочих находился как раз внутри отсека, когда произошел инцидент.
По так и не обнародованным причинам робот ударил мужчину и прижал его к металлической плите, причинив рабочему серьезные травмы. Позже он умер в больнице.
В Volkswagen сразу сообщили, что вероятной причиной аварии стала человеческая ошибка. Высказывались мнения, что человек не должен был находиться внутри ограждения, однако как монтировать машину, находясь на расстоянии от нее, непонятно. После происшествия никаких публичных заявлений о результатах расследования не было.
Робот, перешедший всякие границы
В 2015 году на заводе по производству автозапчастей Ventra Ionia Main в Мичигане произошел инцидент со смертельным исходом. Промышленный робот покинул свою секцию 130 и ударил техника Ванду Холбрук, которая находилась в секции 140. Женщина погибла.
Робот пытался загрузить узел сцепного устройства в приспособление, которое уже было загружено. Промышленные роботы часто работают в отдельных секциях за ограждением, чтобы обезопасить работающих на производстве людей, потому что такие устройства имеют большую силу и могут быстро двигаться.
Муж Ванды Уильям Холбрук подал иск о возмещении ущерба на пять компаний, участвовавших в проектировании промышленного робота, отмечая, что тот не должен был покидать свою секцию. Выплат от одной из компаний он добился в рамках внесудебного урегулирования иска.
Человек, которого перепутали с коробкой
В 2023 году в Южной Корее сотрудник центра по распределению и упаковке овощей решил проверить работу датчиков робота перед тестовым запуском. Этот робот занимался погрузкой коробок с овощами на поддоны. В какой-то момент роботизированная рука приняла человека за ящик с овощами, схватила его и прижала к конвейерной ленте. Его доставили в больницу, где он умер.
В полиции подчеркивали, что это был не самый продвинутый робот с искусственным интеллектом, а просто машина, которая поднимает коробки и ставит их на поддоны. Высказывалось мнение, что робот среагировал на коробку, которая была в руках у работника центра, хотя машина и обладала датчиками для распознавания коробок.
Это не единственный подобный случай в Корее. По данным корейского Агентства по охране труда и технике безопасности с 2020 по август 2023-го в результате несчастных случаев, связанных с промышленными роботами, погибли 10 рабочих.
Атака автономных дронов
Несмотря на все вышеперечисленные случаи, первым возможным настоящим нападением ИИ эксперты называют атаку турецких полностью автономных дронов-камикадзе в Ливии в 2020 году. Об этих дронах сухо упоминает в своем докладе ООН.
Во время стычки между правительством Ливии и силами, верными Халифе Хафтару — командиру отколовшейся фракции Ливийской национальной армии, повстанцы подверглись бомбардировке «беспилотных боевых летательных аппаратов и летальных автономных систем оружия», пишет Cnews. «Силы Хафтара отступали из столицы Триполи, так как были выслежены и дистанционно атакованы беспилотниками Kargu-2. Так как подразделение Хафтара не было обучено защите от использования новой технологии, повстанцы отступали в беспорядке. Дронами Kargu можно управлять вручную, однако в описываемом столкновении с ливийцами они были самоуправляемыми и использовали бортовые камеры и технологию машинного обучения для самостоятельного поиска врагов и нацеливания на них», — сообщало издание.
Специализирующийся на дронах американский военный аналитик Захари Калленборн указывает, что если кто-то погиб в результате атаки Kargu-2, это стало первым известным случаем использования полностью автономного оружия на основе ИИ для убийства. Он отмечает, что в докладе ООН смерть от рук ИИ «подразумевается» — указывается, что автономные дроны-камикадзе способствовали «значительным жертвам» среди тех, кто обслуживал зенитно-ракетный комплекс «Панцирь С-1».