СООТНОШЕНИЕ
ЭТАПОВ РАЗРАБОТКИ И ПРИМЕНЕНИЯ ИИ И ВОЗМОЖНЫХ УГРОЗ
БЕЗОПАСНОСТИ, СПЕЦИФИЧНЫХ ДЛЯ ТЕХНОЛОГИЙ ИИ

Угрозы безопасности, специфичные для технологий ИИ

Этапы разработки и применения ИИ

подготовка данных

разработка

обучение и тестирование

функционирование

Нарушение функционирования ("обхода") средств, реализующих технологии ИИ

V

Искажение ("отравление") обучающих данных

V

Раскрытие информации о модели ИИ

V

Хищение обучающих данных

V

V

Модификация модели ИИ, в том числе изменение архитектуры, последовательности взаимодействий

V

V

Приведение модели ИИ в состояние "отказ в обслуживании"

V

Манипуляция поведением модели ИИ

V

Подмена модели ИИ

V

V