Предсказуемое непредсказуемое: документирование ИИ-систем в рамках ГОСТ 34

ГОСТ 34 — проверенный инструмент структурирования информации об автоматизированных системах на всех этапах их жизненного цикла. Сила стандарта заключается в системном представлении об АС, позволяющем анализировать всю информацию о ней. Возникает вопрос: применим ли стандарт к современным системам с искусственным интеллектом? ГОСТ 34 предполагает детерминированное поведение системы, тогда как поведение ИИ-систем принципиально недетерминированное. Прямолинейное применение требований ГОСТ 34 к интеллектуальным системам дает формально правильный, но практически бесполезный результат. Требуется ли принципиально новый стандарт для ИИ-систем? Авторы считают, что общий подход, основанный на различении поведения системы и средств его реализации, остается актуальным. Однако подходы к описанию требуют пересмотра с учетом особенностей технологий ИИ. В докладе представлены существующие подходы к описанию ИИ-систем, практический опыт авторов и разработанные ими шаблоны документирования.