Угрозы безопасности информации, связанные с нарушением функционирования средств, реализующих технологии искусственного интеллекта

Источниками угроз данного типа являются как внутренние нарушители, так и внешние нарушители, получившие несанкционированный доступ к компонентам информационной системы или информационно-телекоммуникационных сетей, обеспечивающих ее функционирование.

К данному типу относятся угрозы, связанные с раскрытием информации о модели машинного обучения, хищением обучающих данных, нарушением функционирования ("обходом") средств, реализующих технологии искусственного интеллекта, модификацией модели машинного обучения путем искажения ("отравления") обучающих данных, подменой модели машинного обучения <29>.

--------------------------------

<29> См. описание угроз в банке данных угроз безопасности информации ФСТЭК России (bdu.fstec.ru).

Примерами типовых негативных последствий реализации угроз данного типа являются:

- нарушение процессов деятельности организации, в том числе лечебных процессов;

- причинение вреда жизни и здоровью людей;

- необходимость дополнительных (незапланированных) затрат на восстановление работоспособности информационной системы и деятельности организации;

- причинение иного финансового ущерба.