к Методическим рекомендациям
Банка России по обеспечению
информационной безопасности
при разработке и применении
искусственного интеллекта
на финансовом рынке
1. Целевые свойства информационной безопасности разрабатываемых и (или) применяемых систем ИИ рекомендуется определить в Политике с учетом их назначения и ценности (значимости) обрабатываемой в них информации:
1.1. Целостность. Рекомендуется закрепить необходимость применения мер, направленных на сохранение целостности программного обеспечения и наборов данных, связанных с разработкой и применением ИИ, а также входных и выходных данных системы ИИ, в том числе при передаче выходных данных системы ИИ лицу, принимающему решение в рамках отдельно взятого бизнес-процесса, технологического участка организации.
1.2. Конфиденциальность. Рекомендуется определить принципы обработки и уничтожения данных в целях обеспечения конфиденциальности информации в соответствии с требованиями законодательства Российской Федерации, нормативных правовых актов федеральных органов исполнительной власти, а также нормативных актов Банка России.
1.3. Доступность. Рекомендуется закрепить необходимость применения мер, которые направлены на сохранение доступности технологий ИИ и предотвращение потери доступности системы ИИ или компонента системы, использующей ИИ.
1.4. Киберустойчивость. Рекомендуется закрепить необходимость использования при разработке и применении ИИ комплекса технологических и технических решений защиты информации, обеспечивающих устойчивость и работоспособность системы ИИ в случае наступления инцидентов защиты информации, а также необходимость проведения тестирования red team <8>.
--------------------------------
<8> Под тестированием red team понимается симуляция действий нарушителя безопасности в контролируемых условиях, в том числе попыток реализации компьютерных атак в отношении объектов информатизации, входящих в критичную архитектуру, в соответствии с заранее определенными сценариями.
1.5. Достаточная объяснимость и (или) предсказуемость. Рекомендуется закрепить необходимость применения механизмов интерпретации поведения модели ИИ в целях обеспечения достаточной объяснимости и (или) предсказуемости действий модели ИИ (в релевантных случаях).
2. Минимальные права доступа. Рекомендуется закрепить необходимость реализации принципа, направленного на предоставление пользователям и (или) эксплуатационному персоналу минимально необходимых прав при разработке и (или) эксплуатации систем ИИ.
3. Минимальные персональные данные. Рекомендуется закрепить принцип использования минимальных персональных данных, на обработку которых в соответствии с требованиями законодательства Российской Федерации получено согласие субъекта персональных данных, в целях разработки и (или) применения систем ИИ.
4. Безопасная разработка. Рекомендуется закрепить необходимость адаптации процесса безопасной разработки программного обеспечения в организации под процесс создания системы ИИ с учетом специфики ее разработки, подготовки набора данных, обучения модели ИИ, тестирования и эксплуатации системы ИИ, необходимости постоянного мониторинга результатов ИИ на этапе эксплуатации, а также с учетом положений национального стандарта Российской Федерации ГОСТ Р 71539-2024 (ИСО/МЭК 5338:2023) "Искусственный интеллект. Процессы жизненного цикла системы искусственного интеллекта" и национального стандарта Российской Федерации ГОСТ Р 70889-2023 (ИСО/МЭК 8183:2023) "Информационные технологии. Искусственный интеллект. Структура жизненного цикла данных".
5. Повышенная осведомленность. Рекомендуется закрепить необходимость повышения уровня знаний работников организации об особенностях безопасной разработки и применения систем ИИ, актуальных угрозах безопасности технологий ИИ и мерах защиты.
6. Полномочия работников. Рекомендуется закрепить необходимость определения полномочий, ролей, зон ответственности работников организации при разработке и (или) применении систем ИИ в части обеспечения информационной безопасности.
7. Комплаенс. Рекомендуется закрепить необходимость обеспечения соответствия систем ИИ национальным и (или) международным стандартам, методическим документам, отражающим лучшие практики обеспечения информационной безопасности систем ИИ.
8. Реализация Политики. Рекомендуется закрепить необходимость документирования механизмов реализации Политики в отношении применения технологий ИИ в организации в части мониторинга выполнения требований, аудита и информирования о ее соблюдении.
9. Ответственность. Рекомендуется закрепить необходимость определения ответственности за невыполнение требований Политики.
10. Общедоступные сервисы ИИ. Рекомендуется закрепить необходимость определения требований по использованию в организации общедоступных сервисов ИИ в целях обеспечения минимизации рисков нарушения информационной безопасности.
11. Использование моделей и компонентов технологий ИИ с открытым исходным кодом. Рекомендуется закрепить необходимость разработки требований информационной безопасности к использованию моделей ИИ и компонентов технологий ИИ с открытым исходным кодом в целях обеспечения надежности, качества и доверия к ИИ в части обеспечения информационной безопасности.
12. Оценка и учет моделей и компонентов технологий ИИ с открытым исходным кодом. Рекомендуется закрепить необходимость проведения оценки рисков использования моделей ИИ и компонентов технологий ИИ с открытым исходным кодом в процессах организации, а также необходимость ведения учета таких моделей и компонентов с указанием используемых агентов, плагинов, интерфейсов взаимодействия и иных необходимых сведений.
13. Маркировка. Рекомендуется закрепить необходимость использования технологий маркировки выходных данных ИИ в целях обеспечения информационной безопасности.
14. Сокращение сведений. Рекомендуется закрепить принцип минимизации сведений в общедоступных источниках информации, в том числе в репозиториях, материалах конференций и статьях, об особенностях применяемых в организации моделей ИИ в целях предотвращения использования таких сведений при подготовке атак.
15. Инциденты защиты информации. Рекомендуется закрепить необходимость регистрации и реагирования на инциденты защиты информации и инциденты операционной надежности в системах ИИ.
16. Нештатные ситуации. Рекомендуется закрепить необходимость разработки плана восстановления операционной надежности и порядка действий работников организации в случае возникновения нештатных ситуаций при эксплуатации систем ИИ, в том числе действий по аварийной остановке системы ИИ, в целях оперативного реагирования на нештатные ситуации, связанные с технологиями ИИ.
17. Аутсорсинг. Рекомендуется закрепить необходимость проведения оценки доверия к сторонним данным и (или) моделям ИИ в части информационной безопасности и оценки рисков нарушения информационной безопасности в случае применения организацией сервиса ИИ поставщика услуг с учетом ценности (значимости) обрабатываемой информации и технологического процесса, в котором будут использованы результаты применения ИИ.
18. Пересмотр Политики. Рекомендуется закрепить необходимость пересмотра Политики, мер защиты, направленных на нейтрализацию актуальных угроз безопасности технологий ИИ, рисков ИИ, связанных с нарушением информационной безопасности и операционной надежностью, и возможных угроз информационной безопасности, специфичных для технологий ИИ. Такой пересмотр рекомендуется осуществлять на периодической основе с учетом внешних и внутренних факторов влияния, в том числе в связи с развитием технологий ИИ, тактик и техник нарушителей информационной безопасности.
- Гражданский кодекс (ГК РФ)
- Жилищный кодекс (ЖК РФ)
- Налоговый кодекс (НК РФ)
- Трудовой кодекс (ТК РФ)
- Уголовный кодекс (УК РФ)
- Бюджетный кодекс (БК РФ)
- Арбитражный процессуальный кодекс
- Конституция РФ
- Земельный кодекс (ЗК РФ)
- Лесной кодекс (ЛК РФ)
- Семейный кодекс (СК РФ)
- Уголовно-исполнительный кодекс
- Уголовно-процессуальный кодекс
- Производственный календарь на 2027 год
- МРОТ 2027
- ФЗ «О банкротстве»
- О защите прав потребителей (ЗОЗПП)
- Об исполнительном производстве
- О персональных данных
- О налогах на имущество физических лиц
- О средствах массовой информации
- Производственный календарь на 2026 год
- Федеральный закон "О полиции" N 3-ФЗ
- Расходы организации ПБУ 10/99
- Минимальный размер оплаты труда (МРОТ)
- Календарь бухгалтера на 2026 год
- Частичная мобилизация: обзор новостей
- Постановление Правительства РФ N 1875