Центр Экспертизы

ИИ-агенты требуют новых подходов к безопасности разработки

Статьи
Внедрение ИИ в разработку ускоряет создание программного обеспечения, но одновременно расширяет поверхность атак. Об этом рассказал Михаил Черешнев, ведущий инженер по искусственному интеллекту и безопасности AppSec Solutions, в эфире AM Live, посвященном безопасности ИИ.

По словам эксперта, традиционные процессы DevSecOps необходимо адаптировать к росту объема генерируемого кода и увеличению нагрузки на специалистов по безопасности. ИИ-агенты и инструменты разработки создают новые риски, в том числе связанные с теневым использованием ИИ, подключением сторонних инструментов и обработкой конфиденциальных данных.

Черешнев отметил, что проверять необходимо не только исходный код и пакеты, но и компоненты ИИ-систем: модели, датасеты, веса и источники данных. При этом рынок пока не сформировал инструменты, которые полностью покрывают все этапы жизненного цикла таких систем.

Еще одна проблема — изменяющаяся среда работы агентов. Они могут самостоятельно менять конфигурации и создавать новые инструменты, что усложняет применение классических механизмов контроля целостности.

Для снижения рисков эксперт рекомендует пересматривать процессы разработки с учетом новых возможностей ИИ. При этом полный запрет технологий не решает проблему: важно понимать, как сотрудники используют ИИ, и выстраивать контроль с учетом реальных сценариев работы.

Подробнее на сайте