Суть. Первый международный стандарт системы менеджмента искусственного интеллекта. Сертифицирует не модель и не продукт, а то, как организация принимает решения о своих ИИ-системах: кто отвечает, как оценивают риски, что происходит при сбое. Опубликован в декабре 2023 года, сертификат действует три года.
Чем отличается от стандарта по информационной безопасности
Это первое, что путают. Стандарт по безопасности подтверждает, что вы управляете защитой информации. Этот подтверждает, что вы управляете искусственным интеллектом: его рисками, его влиянием на людей и его поведением на всём жизненном цикле.
Разные предметы. Там — защита данных от посторонних. Здесь — ответственность за решения, которые система принимает сама.
Практическое следствие: если у компании уже есть сертификат по информационной безопасности, каркас системы менеджмента наполовину готов — разделы с четвёртого по десятый имеют одинаковую структуру, и аудит можно проводить объединённый.
Как устроен
Ядро — методика «планируй, делай, проверяй, действуй». Стандарт намеренно не лезет в детали конкретных приложений: он описывает, как организация управляет рисками и возможностями ИИ в целом.
| Элемент | Что это |
|---|---|
| 38 контролей Приложения A | Референсный набор мер, сгруппированный в 9 целей |
| Заявление о применимости | Документ, который объясняет, какие контроли вам подходят и почему остальные — нет |
| Оценка воздействия | Отдельный процесс: как система влияет на людей, которых затрагивает |
| Гармонизированная структура | Разделы 4–10 совпадают с другими системами менеджмента |
Две ошибки, на которых спотыкаются
Читать 38 контролей как чек-лист. Приложение A — не список покупок с галочками. Это референсный набор, из которого вы выбираете применимое, опираясь на собственную оценку рисков. Аудитор смотрит не на галочки, а на обоснование: почему именно эти меры и почему остальные не нужны.
Брать слишком широкий охват на старте. Не обязательно включать в систему менеджмента все модели компании с первого дня. Разумнее начать с тех, что влияют на клиентов или сотрудников, и расширять.
Семейство стандартов вокруг
Сам стандарт — ядро, но вокруг выстроено семейство, и без него внедрение получается умозрительным.
| Стандарт | Зачем нужен |
|---|---|
| ISO/IEC 23894 | Как именно управлять рисками ИИ: идентификация, анализ, обработка. Техническая методология под требования ядра |
| ISO/IEC 42005 | Как проводить оценку воздействия системы, вплоть до таблиц документации. На практике связка близка к обязательной |
| ISO/IEC 22989 | Терминология. Споры на аудите неожиданно часто оказываются спорами о значении слова |
| ISO/IEC 38507 | Руководство для совета директоров: стратегический надзор над ИИ |
| ISO/IEC 8183 | Жизненный цикл данных — приложение A.7 предполагает, что он существует и у него есть владельцы |
| ISO/IEC 27090 и 27091 | Кибербезопасность ИИ-систем и защита приватности |
| ISO/IEC 23053 | Как описывать типовую систему, построенную на машинном обучении |
Как соотносится с другими рамками
С американским фреймворком управления рисками ИИ. Тот добровольный и построен вокруг четырёх функций: управлять, картировать, измерять, обрабатывать. Он дополняет, а не конкурирует: даёт язык описания рисков, тогда как стандарт даёт сертифицируемую систему управления.
С европейским регулированием. Регламент — это закон с обязательными требованиями и штрафами. Стандарт — способ показать, что у вас есть управляемый процесс. Сертификат не заменяет соответствие закону, но заметно упрощает разговор с регулятором и с безопасностью клиента.
Кому это нужно на практике
- Продаёте ИИ-функциональность корпоративным клиентам и получаете от их безопасности анкеты на сорок вопросов.
- Работаете с регулируемыми отраслями, где автоматические решения нужно объяснять.
- Выходите на рынки с действующими требованиями к ИИ.
- Внутри компании ИИ вышел за пределы экспериментов и влияет на клиентов и сотрудников.
Сертификат уже держат крупные поставщики облаков и разработчики моделей — для клиента это стало ожидаемым, а не выдающимся.
Где ломается
Там же, где любая сертификация: когда её получают ради строки в тендере. Появляется папка документов, не связанная с тем, как система работает на самом деле.
Проверка простая: спросите, кто в компании имеет право остановить ИИ-систему и по какой процедуре. Если ответа нет — есть сертификат, но нет управления.
С чего начать
- Составить список ИИ-систем, которые уже влияют на клиентов или сотрудников.
- По каждой ответить на три вопроса: кто владелец, какой вред возможен, как об этом узнаем.
- Провести оценку воздействия хотя бы для одной — по методике из сопутствующего стандарта.
- Оформить заявление о применимости, честно объяснив, что не применяется и почему.
- И только потом разговаривать с органом по сертификации.
Что даёт стандарт на практике
| Элемент | Что требуется | Что это значит для компании |
|---|---|---|
| Область применения | Определить, какие системы охвачены | Нужен реестр систем с моделями |
| Оценка риска | Классифицировать по влиянию на людей | Разные требования к разным системам |
| Роли | Назначить ответственных | У каждой системы есть владелец по имени |
| Контроли | Внедрить меры по каждому риску | Данные, проверка, человек в цикле, журнал |
| Улучшение | Пересматривать по данным | Регулярный цикл, а не разовое внедрение |
Кому это реально нужно
- Тем, кто продаёт решения с моделями крупным заказчикам и проходит их проверки безопасности.
- Тем, кто работает с регулируемыми отраслями, где требования к обоснованию решений выше.
- Тем, у кого моделей уже достаточно, чтобы никто не мог перечислить их по памяти.
Небольшой команде с одним сценарием сертификация не нужна — но структура требований полезна как список вопросов, которые стоит себе задать.
Практичный подход: взять требования как чек-лист и закрыть их по существу. Решение о сертификации принимать позже, когда её начнут спрашивать в тендерах.
Частые вопросы
Связанное
- EU AI Act и GDPR в продажах — законодательная рамка, с которой стандарт стыкуется
- Границы автономии агента — та же тема на уровне конкретного решения
- MLOps — инженерная сторона того же жизненного цикла
Ценность стандарта не в сертификате, а в том, что он заставляет составить реестр и назначить ответственных. Эти два шага дают большую часть эффекта.