Федеральная служба по техническому и экспортному контролю (ФСТЭК) внесла значительные изменения в банк данных угроз (БДУ), дополнив его информацией о современных технологиях искусственного интеллекта (ИИ), что отражает стремление к повышению уровня осведомленности специалистов в области информационной безопасности.
В обновленный реестр БДУ включены данные о потенциальных уязвимостях, связанных с использованием ИИ, которые могут быть использованы злоумышленниками для проведения кибератак. Среди выявленных уязвимостей следует выделить модели машинного обучения, используемые датасеты, технологию Retrieval Augmented Generation (RAG), а также LoRA-адаптеры. Технология RAG позволяет генерировать ответы на запросы, опираясь на данные из внешних источников, в то время как LoRA-адаптеры обеспечивают адаптацию больших моделей данных для решения специфических задач.
Кроме того, в разделе БДУ представлены возможные векторы атак, которые могут быть реализованы киберпреступниками. К ним относятся эксплуатация уязвимостей в используемых фреймворках для ИИ, модификация системных промптов и конфигураций агентов, а также проведение DoS-атак, направленных на исчерпание квоты запросов, что может привести к сбоям в работе информационных систем.
Банк данных угроз представляет собой специализированный ресурс, предназначенный для информирования специалистов о потенциальных угрозах в сфере информационной безопасности. С учетом новых данных, все организации, обязанные обеспечивать защиту своих информационных систем, обязаны использовать этот ресурс для проведения анализа потенциальных рисков, связанных с применением ИИ. Данное требование распространяется на большинство компаний, работающих с персональными данными, и является ключевым элементом обеспечения информационной безопасности.
Игорь Бедеров, директор департамента расследований T.Hunter, отметил, что обновленный раздел БДУ стал официальным и релевантным источником для оценки угроз, связанных с использованием ИИ. Хотя документ не обязывает использовать конкретные программные решения, он подчеркивает необходимость принятия мер по защите от указанных угроз.
Юлия Липатникова, бизнес-партнер Cloud.ru по кибербезопасности, подчеркнула, что компаниям не требуется принимать немедленные меры в связи с последними изменениями. Однако разработчикам рекомендуется ознакомиться с обновленным перечнем угроз, доступным на сайте ФСТЭК, особенно при разработке новых процессов и внедрении инновационных решений. Компании, оперативно адаптирующие свои модели угроз с учетом данной информации, получат конкурентное преимущество на рынке.