«Ведомости» узнали о разработке порядка проверки ИИ-моделей на нравственность
В России разработали порядок проверки больших моделей искусственного интеллекта на духовность и нравственность, узнали «Ведомости». Проверками, по данным газеты, займутся независимые испытательные лаборатории, которые с подачи Минцифры сможет создать правкомиссия по цифровизации, рассказал источник. IT-компании будут передавать данные на проверку с одобрения Минцифры. Детали обсуждались с IT-компаниями в конце июля — начале августа в связи с подготовкой подзаконных актов к недавно принятому закону
В России разработали порядок проверки соответствия больших моделей искусственного интеллекта (ИИ) закону и традиционно-духовным нравственным ценностям, рассказали «Ведомостям» источники в одной из компаний — участников встречи и профильной IT-ассоциации. Информацию подтвердил собеседник в Минцифры. Тема обсуждалась на площадке АНО «Цифровая экономика» в конце июля — начале августа в связи с подготовкой подзаконных актов к недавно принятому закону об искусственном интеллекте, узнала газета.
Проверку соответствия ценностям будут проводить независимые испытательные лаборатории с одобрения Минцифры, уточнили источники. Испытательную лабораторию с подачи Минцифры сможет создать правкомиссия по цифровизации, рассказал источник, участвующий в подготовке подзаконного акта. IT-компании будут передавать данные на проверку с одобрения Минцифры, разработавшего базовые правила регулирования ИИ, уточняют «Ведомости». Сейчас с бизнесом прорабатываются требования к лабораториям, отметили источники.
Российские IT-компании договорились, что экспертизу сможет проводить не одна организация, а несколько лабораторий после проверки у госоргана, рассказали источники в одной из компаний — участников обсуждений и собеседник в Минцифры.
С бизнесом разработают бенчмарки, с помощью которых российские большие фундаментальные модели будут тестировать на соответствие закону и ценностям, отметил собеседник. Разработчик будет направлять документы в лабораторию, та проведет экспертизу, а после тестирования направит в правкомиссию заключение о соответствии или несоответствии ценностям, что будет основанием для присвоения статуса национальной или суверенной модели, сообщил источник, участвующий в обсуждении подзаконного акта.
По словам источника, участвующего в подготовке подзаконного акта, процедуру проверки соответствия ИИ духовно-нравственным ценностям могут прописать в акте правительства. Он уточнил, что не планируется прописывать в отдельном акте духовно-нравственные ценности, так как список уже есть в указе №809 «о сохранении и укреплении традиционных российских духовно-нравственных ценностей». Соответствие ИИ критериям безопасности для госсистем будет проверять ФСБ и ФСТЭК с учетом корректировок действующих правовых актов, рассказал собеседник в Минцифры.
Владимир Путин в конце июля подписал первый в России закон об искусственном интеллекте, который вводит понятия суверенных и национальных моделей искусственного интеллекта. Разработчики должны будут подтвердить соответствие российскому законодательству и традиционным духовно-нравственным ценностям. Документ регулирует правила разработки, внедрения и применения больших фундаментальных ИИ-моделей. Одним из основных принципов регулирования отрасли будут технологическая независимость, учет и уважение традиционных духовно-нравственных ценностей страны, а также безопасность, следует из закона.
Порядок подтверждения соответствия ИИ-моделей ценностям определит правительство, сообщал статс-секретарь — заместитель министра цифрового развития Иван Лебедев во время первого чтения 7 июля. Он пояснял, что участвовать в подготовке документов будут Минцифры, ФСБ и ФСТЭК, которые отвечают также за информационную и технологическую безопасность. Порядок оценки будет содержать критерии, которые позволяют определить, соответствует ли модель духовно-нравственным ценностям и задачам технологического развития России, заявлял Лебедев.
«Ведомости» направили запросы в «Яндекс», «Сбер», МТС, а также ФСБ, ФСТЭК и правительство.
