Глава 5. Обеспечение информационной безопасности при использовании сервисов ИИ поставщиков услуг и (или) компонентов технологий ИИ с открытым исходным кодом

5.1. В целях минимизации рисков информационной безопасности при использовании сервисов ИИ поставщиков услуг и организации работ с цепочками поставок организациям рекомендуется руководствоваться положениями стандарта Банка России "Обеспечение информационной безопасности организаций банковской системы Российской Федерации. Управление риском нарушения информационной безопасности при аутсорсинге" СТО БР ИББС-1.4-2018, введенном в действие приказом Банка России от 06.03.2018 N ОД-568.

5.2. В целях обеспечения безопасного использования данных, моделей ИИ поставщиков услуг и (или) компонентов технологий ИИ с открытым исходным кодом организациям рекомендуется обеспечить доверие к таким данным, моделям и (или) компонентам в отношении информационной безопасности (далее - доверие) в соответствии с национальным стандартом Российской Федерации ГОСТ Р 59276-2020 "Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения".

5.3. В рамках обеспечения доверия организациям рекомендуется разрабатывать собственные методики оценки доверия в отношении безопасности данных, моделей ИИ поставщиков услуг и (или) компонентов технологий ИИ с открытым исходным кодом (далее - методика оценки доверия).

5.4. При разработке методики оценки доверия организациям рекомендуется учитывать в том числе следующие факторы оценки:

наличие оценки соответствия объектов информационно-коммуникационной инфраструктуры, на базе которых размещаются наборы данных и (или) модель ИИ, требованиям безопасности информации, установленным законодательством Российской Федерации, в том числе нормативными актами Банка России;

участие модели ИИ в программе поиска уязвимостей (Bug Bounty);

наличие Модели угроз, учитывающей возможности как внешнего, так и внутреннего нарушителя;

реализация мер защиты для модели ИИ, определенных в проектной и эксплуатационной документации;

регулярное предоставление поставщиком услуг отчетов об аудите и проверках состояния информационной безопасности информационно-коммуникационной инфраструктуры и сервисов систем ИИ;

регулярное предоставление поставщиком услуг отчетов об аудите лицензий;

наличие спецификации программного обеспечения;

регулярное предоставление поставщиком услуг отчетов об анализе уязвимостей и тестировании на проникновение;

осуществление постоянного мониторинга информационно-коммуникационной инфраструктуры поставщика услуг, обеспечение реагирования на инциденты защиты информации и своевременного информирования организации о зарегистрированных инцидентах;

наличие подтверждения внедрения и использования процессов безопасного жизненного цикла <7> при разработке систем и (или) сервисов ИИ;

--------------------------------

<7> Национальный стандарт Российской Федерации ГОСТ Р 56939-2024 "Защита информации. Разработка безопасного программного обеспечения. Общие требования", методический документ Банка России ("Профиль защиты прикладного программного обеспечения автоматизированных систем и приложений кредитных организаций и некредитных финансовых организаций").

наличие оценки соответствия или сертификации по требованиям безопасности информации для процессов безопасной разработки модели ИИ;

реализация требований безопасности к использованию компонентов и (или) моделей ИИ с открытым исходным кодом, в том числе ведение их учета с указанием используемых агентов, плагинов, интерфейсов взаимодействия и иных сведений;

предоставление результатов отслеживания источников данных;

наличие оценки рисков информационной безопасности, проведенной организацией самостоятельно.

5.5. При использовании данных и (или) моделей ИИ поставщиков услуг организациям рекомендуется обеспечить целостность таких данных и моделей по всей цепочке поставки путем использования средств контроля целостности, прошедших процедуру оценки соответствия в системе сертификации ФСТЭК России.

5.6. В целях обучения модели ИИ поставщиком услуг с использованием наборов данных, принадлежащих организации, организациям рекомендуется передавать поставщику услуг "очищенные" наборы данных или передавать синтетические, обезличенные, специально подготовленные данные.

5.7. При заключении договора на предоставление сервисов ИИ с поставщиком услуг организациям рекомендуется включать в такой договор положения об ответственности поставщика услуг за нарушения информационной безопасности предоставляемых сервисов ИИ, а также обязанность поставщика услуг по своевременному информированию о выявленных уязвимостях и инцидентах информационной безопасности.