Anthropic предложила создать механизм приостановки разработки ИИ
Anthropic призвала создать отраслевой механизм замедления или приостановки разработки ИИ при совершенствовании передовых систем быстрее, чем общество сможет адаптироваться. Компания сравнивает идею с международным регулированием ядерного оружия и указывает, что пауза должна сопровождаться проверками, чтобы менее добросовестные лаборатории не продолжали тайно развивать технологию. ИИ развивается настолько быстро, что может сделать труд человека в тысячи раз эффективнее или вовсе заменить его, при этом пауза даст обществу время разобраться с последствиями, пояснили в Anthropic
Следует создать отраслевой механизм замедления или приостановки разработки искусственного интеллекта (ИИ) при совершенствовании передовых систем быстрее, чем общество сможет адаптироваться, указано в большом блоге сооснователя американской ИИ-компании Anthropic Джека Кларка (№189 в глобальном рейтинге миллиардеров Forbes, состояние, по данным Forbes Real-Time Billionaires на 5 июня, — $15,5 млрд) и главы Anthropic Institute Марины Фаваро. Это даст обществу время, чтобы разобраться с огромными последствиями, уточнили в компании.
Компания сравнивает идею с международным регулированием ядерного оружия. Она указывает, что пауза должна сопровождаться проверками, чтобы менее добросовестные лаборатории не продолжали тайно развивать технологию.
Anthropic предупреждает, что одностороннее или плохо скоординированное замедление может привести к обратному эффекту: если менее осторожные участники рынка продолжат наступление, то потенциально снизится общая безопасность. Чтобы пауза была эффективной, нужно согласие лабораторий, работающих с передовыми технологиями, указано в докладе.
Также следует создать правила по поводу того, в каких случаях пауза будет инициирована или отменена и кто будет осуществлять надзор за этим. Если перерыв возьмет только одна компания, то это будет проще в реализации, но будет иметь ограниченное влияние, указали в Anthropic.
Технология развивается настолько быстро, что может сделать труд человека в тысячи раз эффективнее или вовсе заменить его, прогнозируют в Anthropic. По словам Кларка и Фаваро, ИИ может начать самостоятельно улучшать себя и создавать собственных преемников, уменьшая роль человека. Компания предупредила, что разработку ИИ все чаще делегируют самим ИИ для ускорения работы. Это называется рекурсивным самосовершенствованием, сейчас оно не является неизбежным, но такой прогресс может начаться раньше, чем к этому будут готовы большинство учреждений, уточнили в Anthropic.
В ближайшие годы системы ИИ станут гораздо более совершенными, что будет иметь огромные последствия, сообщили Кларк и Фаваро. Человечество может потерять контроль над системами ИИ при полном рекурсивном самосовершенствовании нейросетей, передали в компании. По состоянию на май нейросеть Claude от Anthropic пишет более 80% кода, интегрированного в кодовую базу компании.
Исследовательское подразделение компании — Anthropic Institute — будет предпринимать шаги для создания механизмов, необходимых для реализации заслуживающей доверия паузы или замедления развития ИИ. Компания же в ближайшие месяцы намерена провести дискуссии с участием политиков, исследователей, представителей гражданского общества и других компаний в сфере ИИ, чтобы выработать возможные механизмы координации и реагирования на риски, особенно связанные с рекурсивным самосовершенствованием искусственного интеллекта.
