«Они учатся убивать»: экс-гендиректор Google заявил об опасностях взлома ИИ-моделей

Экс-гендиректор Google, миллиардер Эрик Шмидт (№75 в онлайн-рейтинге богатейших людей мира Forbes, состояние — $29,7 млрд) на саммите Sifted Summit, европейском форуме для основателей стартапов, инвесторов и инноваторов, заявил, что модели искусственного интеллекта (ИИ) уязвимы для взлома. Попав в руки злоумышленников, они могут быть изменены в их интересах, а в худшем варианте «учатся убивать», передает CNBC. 

«Есть доказательства того, что можно взять модели, закрытые или открытые, и взломать их, убрав ограничения. Таким образом, в процессе обучения они многому учатся. Плохим примером может быть ситуация, когда они учатся убивать», — сказал Шмидт. Он предупредил, что вероятность распространения проблем, связанных с ИИ, существует, а эффективного «режима нераспространения», который помог бы снизить риски, пока нет. 

Несмотря на мрачные прогнозы, Шмидт с оптимизмом смотрит на перспективы ИИ в целом. «...Уровень возможностей этих систем со временем будет намного превышать возможности людей», — сказал Шмидт. По его мнению, технология ИИ «недооценена, а не переоценена». «Через пять или десять лет это подтвердится», — добавил миллиардер. 

По мнению Шмидта, экономическая выгода от ИИ «в долгосрочной перспективе будет огромной». Он не считает, что с инвестициями в ИИ случится, что-то похожее на крах доткомов в начале 2000-х. «Не думаю, что здесь такое произойдет, но я не профессиональный инвестор», — сказал он.

Эрик Шмидт в июне 2019 года покинул совет директоров материнской компании Google — Alphabet, где проработал 18 лет. Он оставался техническим консультантом компании до февраля 2020 года.

Шмидт был генеральным директором Google с 2001 по 2011 год.