Подпроцесс "Обеспечение безопасности при функционировании модели ИИ"

17

Шифрование входных и выходных данных

В целях обеспечения конфиденциальности и целостности входных и выходных данных рекомендуется производить их шифрование

Входные и выходные данные

18

Контроль и очистка аномалий во входных и выходных данных

Параметры контроля определяются исходя из особенностей функционирования модели ИИ.

Примерный перечень мероприятий по контролю аномалий в данных:

проверка на наличие нежелательной информации в данных, в том числе слова, выражения, специальные символы, вредоносные "инъекции";

проверка на несогласованное наличие защищаемой информации;

проверка формата файлов;

контроль структуры данных;

логический контроль данных.

Примерный перечень мероприятий по очистке аномалий в данных:

удаление лишних символов;

заполнение пропущенных значений;

очистка от нежелательной и несогласованной защищаемой информации.

Рекомендуется проводить повторный контроль после очистки данных в целях выявления возможных аномалий, возникших в процессе очистки

Входные и выходные данные

19

Регистрация и контроль событий, связанных с входными и выходными данными

Параметры регистрации и контроля определяются организацией. Примерный перечень параметров, подлежащих регистрации и контролю:

идентификаторы запросов и выводов (входных и выходных данных соответственно);

время поступления запросов и выводов;

тип данных (текст, изображения и другое);

запросы (входные данные) и выводы (выходные данные);

идентификатор пользователя;

время обработки запроса;

статус обработки (успешная обработка, ошибка)

Входные и выходные данные

20

Ограничение параметров потоков входных данных

Ограничение общего количества, частоты и размера запросов к модели ИИ реализуется в целях предотвращения избыточной вычислительной нагрузки на модель ИИ

Модель ИИ

21

Определение и мониторинг показателей штатного функционирования модели ИИ

Рекомендуется определить параметры для мониторинга показателей в целях обеспечения штатного функционирования модели ИИ (производительность, смещение распределения входных и выходных данных, качество данных, поведение модели). Представленные показатели рекомендуется дополнять самостоятельно

Модель ИИ