Минцифры планирует создать площадку для тестирования искусственного интеллекта (ИИ) на безопасность для его внедрения на критически важных объектах страны.
Для систем искусственного интеллекта высокого и критического уровня риска потребуется получать сертификат на соответствие требованиям безопасности Федеральной службы по техническому и экспертному контролю (ФСТЭК) и Федеральной службы безопасности (ФСБ). Это следует из законопроекта правительства «О применении систем искусственного интеллекта органами, входящими в единую систему публичной власти, и внесении изменений в отдельные законодательные акты», пишет РБК.
Тестирование на соответствие ИИ-систем этим требованиям будет проходить на специальном полигоне, созданном Минцифры, Если тестирование пройдет успешно, системы будут допущены к использованию на объектах критической информационной инфраструктуры (к ней относятся сети связи и информационные системы госорганов, энергетических, транспортных, финансовых, телекоммуникационных и ряда других компаний).
«Ключевой вопрос — методология тестирования. Скорее всего, регулятор не пойдет по пути формальных чек-листов, ведь никто не хочет получить иллюзию контроля без реальной безопасности. Уверен, что вопрос проработан на высоком уровне. Очевидна необходимость adversarial-тестов, red teaming и непрерывный мониторинг в продакшене, а не разовая сертификация. Для российских компаний это шанс стать стандартом безопасности — некоторые из них имеют полный стек: свою ОС, контейнеризацию, изолированную инфраструктуру. Уже сейчас они предлагают защищенную архитектуру для безопасного развертывания ИИ в КИИ и могут участвовать в формировании методик тестирования, чтобы они не превратились в бюрократический тормоз инноваций», — говорит директор по ИИ «Группы Астра» Станислав Ежов.
