Чек-лист по кибербезопасности согласно Закону ЕС об ИИ (2026)

Закон Европейского союза об искусственном интеллекте — это первый в мире всеобъемлющий закон в области ИИ. По состоянию на сентябрь 2026 года его общие положения и правила прозрачности уже действуют, а пакет упрощений «AI Omnibus» 2026 года перенес срок соблюдения требований для большинства систем высокого риска на 2 декабря 2027 года. Для любой организации, которая разрабатывает, развертывает или чьи результаты ИИ используются в ЕС, этот продленный срок является поводом для подготовки сейчас, а не для ожидания. Закон налагает обязательные требования, а штрафы за несоблюдение могут достигать 35 миллионов евро или 7% от мирового годового оборота.

Это не просто очередное препятствие на пути к соответствию; это фундаментальный сдвиг в том, как мы создаем и защищаем интеллектуальные системы. Для работающих специалистов по ИИ и кибербезопасности понимание этих новых правил не является чем-то необязательным. Это руководство представляет собой практический, действенный чек-лист для выполнения требований кибербезопасности Закона ЕС об ИИ, с акцентом на то, что наиболее важно по состоянию на сентябрь 2026 года.

Как мы оценивали эти требования

ZEKAI независимо оценивает все фреймворки и инструменты соответствия. Наши рекомендации основаны на официальном тексте Регламента (ЕС) 2024/1689, соответствующих руководствах Европейской комиссии и нашем анализе инструментов, которые могут помочь выполнить эти обязательства. Мы не принимаем оплату за редакционное размещение. Наша цель — предоставить четкий, действенный путь к соответствию, основанный на проверенных фактах.

Что такое Закон ЕС об ИИ? Обзор с акцентом на кибербезопасность

Закон об ИИ использует риск-ориентированный подход, разделяя системы ИИ на четыре категории. Понимание того, к какой категории относится ваша система, является первым и наиболее важным шагом.

• Недопустимый риск: Эти системы полностью запрещены. Сюда относится ИИ для социального скоринга государственными органами, удаленная биометрическая идентификация в реальном времени в общественных местах (с узкими исключениями) и манипулятивный ИИ, использующий уязвимости.
• Высокий риск: Это наиболее строго регулируемая категория и основной предмет данного руководства. Эти системы не запрещены, но должны соответствовать строгим требованиям до и после их вывода на рынок. Они обычно делятся на две группы:
• Системы ИИ, используемые в качестве компонентов безопасности в продуктах, подпадающих под действующее законодательство ЕС о безопасности (например, медицинские устройства, автомобили, игрушки).
• Системы ИИ, используемые в восьми конкретных областях, перечисленных в Приложении III, включая управление критической инфраструктурой, образование, трудоустройство, доступ к основным услугам, правоохранительную деятельность и отправление правосудия.
• Ограниченный риск: Эти системы подлежат обязательствам по прозрачности. Например, пользователи должны быть проинформированы, когда они взаимодействуют с чат-ботом или когда контент сгенерирован ИИ («дипфейк»).
• Минимальный или нулевой риск: Подавляющее большинство систем ИИ, таких как видеоигры с поддержкой ИИ или спам-фильтры, попадают в эту категорию и не подлежат новым юридическим обязательствам.

Максимальный штраф за нарушение правил Закона ЕС об ИИ, касающихся запрещенных практик ИИ, может составлять до 35 миллионов евро или 7% от общего годового мирового оборота компании, в зависимости от того, что больше.

Основные требования кибербезопасности для ИИ высокого риска (статья 15)

Для специалистов по кибербезопасности статья 15 Закона об ИИ является наиболее важным разделом. Она предписывает, что системы ИИ высокого риска должны быть спроектированы и разработаны для достижения соответствующего уровня «точности, надежности и кибербезопасности» на протяжении всего их жизненного цикла. Это не расплывчатое предложение; это набор конкретных технических и организационных обязательств.

Вот ключевые столпы статьи 15:

• Точность: Поставщики должны определить и заявить уровни точности системы и конкретные метрики, используемые для ее измерения, в инструкциях по эксплуатации. Это позволяет пользователям и регуляторам проверять производительность по четкому эталону.
• Надежность: Системы должны быть устойчивы к ошибкам, сбоям или несоответствиям. Это включает в себя наличие технической избыточности, такой как резервное копирование или планы отказоустойчивости, и устранение рисков, связанных с взаимодействием с людьми или другими системами. Для систем, которые обучаются после развертывания, поставщики должны снижать риск предвзятых циклов обратной связи.
• Кибербезопасность: Системы должны быть устойчивы к попыткам несанкционированных третьих сторон использовать уязвимости. Технические решения должны соответствовать рискам и конкретно устранять уязвимости ИИ, такие как отравление данных, отравление модели и состязательные атаки.

Эти требования применяются к системе ИИ в целом, а не только к базовой модели. Это означает, что вся инфраструктура, конвейеры данных и API, подключенные к системе, находятся в сфере действия.

Практический чек-лист по кибербезопасности

Соответствие — это не одноразовая задача, а непрерывный процесс. Вот пошаговый чек-лист, который поможет вам в ваших усилиях.

1. Классифицируйте вашу систему ИИ: Во-первых, определите, относится ли какая-либо система ИИ, которую вы предоставляете или развертываете, к категории «высокого риска» на основе критериев, изложенных в статье 6 и Приложениях I и III. Европейская комиссия опубликовала руководства с практическими примерами, чтобы помочь с этой классификацией.
2. Создайте систему управления рисками (статья 9): Внедрите и задокументируйте систему управления рисками, которая действует на протяжении всего жизненного цикла системы ИИ. Этот процесс должен выявлять, оценивать и анализировать предвидимые риски для здоровья, безопасности и основных прав, а затем принимать меры по их управлению.
3. Обеспечьте управление данными (статья 10): Для любых данных, используемых для обучения, валидации и тестирования системы высокого риска, вы должны убедиться, что они релевантны, репрезентативны, максимально свободны от ошибок и полны. Это включает в себя анализ и смягчение возможных предубеждений в наборах данных.
4. Внедрите надежность и кибербезопасность (статья 15):
5. Проведите оценку рисков безопасности для всей системы ИИ.
6. Внедрите технические меры для обеспечения устойчивости к состязательным атакам, отравлению данных и другим специфическим для ИИ уязвимостям.
7. Разработайте планы отказоустойчивости и технические резервирования для обработки ошибок и сбоев.
8. Для обучающихся систем внедрите меры по устранению и смягчению циклов обратной связи.
9. Обеспечьте человеческий контроль (статья 14): Разработайте систему таким образом, чтобы обеспечить эффективный человеческий контроль. Это включает предоставление четких интерфейсов, которые позволяют человеку-контролеру понимать возможности и ограничения системы и решать, когда вмешиваться или отбрасывать вывод системы.
10. Ведение технической документации и журналов (статьи 11, 12, 19): Перед выводом системы на рынок создайте подробную техническую документацию, демонстрирующую соответствие. Система также должна быть способна автоматически записывать события («журналы») во время своей работы для обеспечения уровня прослеживаемости функционирования системы.
11. Проведите оценку соответствия и зарегистрируйте: Для большинства систем ИИ высокого риска поставщики должны провести самооценку для подтверждения соответствия. После заявления о соответствии вы должны зарегистрировать систему в публичной базе данных ЕС, управляемой Комиссией.

Инструменты для автоматизации и управления соответствием

Ни один инструмент не может гарантировать соответствие, но современные платформы безопасности могут предоставить критически важные возможности для выполнения технических требований Закона об ИИ. Ключевым моментом является использование инструментов, которые обеспечивают видимость, мониторинг и защиту всей системы ИИ и ее окружения.

Прокрутите таблицу вбок →

За пределами Закона об ИИ: NIST AI RMF и OWASP LLM Top 10

Соответствие Закону об ИИ не происходит в вакууме. Два других фреймворка критически важны для любого специалиста по кибербезопасности, работающего с ИИ:

• Рамочная программа NIST по управлению рисками ИИ (AI RMF): Эта добровольная рамочная программа от Национального института стандартов и технологий США (NIST) предоставляет структурированный процесс для управления, картирования, измерения и менеджмента рисков ИИ. Хотя Закон ЕС об ИИ является обязательным законом, а NIST AI RMF — добровольным руководством, их цели совпадают. Использование AI RMF может предоставить практический, операционный план для внедрения системы управления рисками, требуемой статьей 9 Закона об ИИ.
• OWASP Top 10 для больших языковых моделей: Этот проект от Open Web Application Security Project перечисляет наиболее критические уязвимости безопасности в приложениях, использующих LLM. Он включает специфические для ИИ риски, такие как инъекция промптов, отравление обучающих данных и раскрытие конфиденциальной информации. Согласование вашего тестирования безопасности с OWASP LLM Top 10 является конкретным способом устранения специфических для ИИ угроз кибербезопасности, упомянутых в статье 15 Закона об ИИ.

Интеграция этих фреймворков в вашу стратегию соответствия обеспечивает комплексный, многоуровневый подход, который удовлетворяет юридическим требованиям и создает по-настоящему надежные системы ИИ. Готовясь к новой эре регулирования ИИ, помните, что цель состоит не только в том, чтобы поставить галочку, но и в том, чтобы создать устойчивую культуру безопасности и управления ИИ. Для получения дополнительных ресурсов посетите наш центр для специалистов по ИИ и кибербезопасности.