ИИ-модель Gemini от Google во время теста самовольно взломала системы трех компаний
Разработанная Google ИИ-модель Gemini в ходе проверки ее возможностей в сфере кибербезопасности получила доступ к интернету и взломала системы трех компаний, сообщили WSJ и ряд других СМИ. Взломы произошли в мае во время теста, который проводила независимая компания Irregular. Информацию об этом подтвердили в самой Google — там заявили, что во всех трех случаях Gemini в итоге прекратила эти действия
Разработанная Google ИИ-модель Gemini в ходе проверки ее возможностей в сфере кибербезопасности получила доступ к интернету и самовольно взломала системы трех компаний, сообщила газета The Wall Street Journal (WSJ). Вслед за ней об этом написали и другие СМИ, в том числе The Washington Post и Reuters.
Взломы произошли в мае во время теста кибербезопасности, который проводила независимая компания Irregular. Информацию об этом 18 сентября подтвердили в самой Google.
Как заявила вице-президент Google по инженерии безопасности Хизер Адкинс, Gemini обнаружила в интернете общедоступную информацию и угадала учетные данные для доступа к трем веб-сайтам, которые, по ее мнению, были частью тестирования.
«Мы позаботились о том, чтобы все три организации были проинформированы об этом, и совместно с нашим партнером по обучению проработали изменения, которые они внесли в свои процессы тестирования», — сказала Адкинс. По ее словам, произошедшее подчеркивает важность обучения мощных ИИ-моделей ответственному поведению.
Названия трех затронутых компаний не приводятся. По данным WSJ, в одном случае Gemini угадывала пароли, пока не получила доступ к защищенной системе. В двух других случаях ИИ-модель нашла учетные данные в общедоступном репозитории, что позволило ей затем получить доступ к защищенным системам, уточнила газета. По словам Адкинс, во всех трех случаях Gemini в итоге остановилась.
Это уже не первый подобный инцидент с моделями искусственного интеллекта. Ранее системы трех реальных организаций взламывались передовыми ИИ-моделями Claude от Anthropic, которые во время тестов кибербезопасности также несанкционированно вышли в Сеть, о чем в пресс-службе Anthropic рассказали в конце июля. До этого об аналогичном «беспрецедентном киберинциденте» с ее чат-ботом GPT-5.6 Sol сообщала и OpenAI.
Гендиректор Anthropic Дарио Амодеи (№ 189 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 19 сентября, — $15,5 млрд) в сентябре выступил с призывом к компаниям совместно координировать развитие ИИ-технологий, чтобы избежать захвата агентами искусственного интеллекта «всего интернета». Его поддержали глава OpenAI Сэм Альтман (№1311, состояние на 19 сентября — $3,3 млрд) и глава Tesla и SpaceX Илон Маск (№1, состояние на 19 сентября — $946,5 млрд). При этом Дональд Трамп отверг такой призыв, подчеркнув, что тот, кто победит в гонке ИИ-технологий, «победит в целом». По словам американского президента, США опережают Китай в этой гонке и он хочет, чтобы «так оно и оставалось».
