Пока в правительстве идет разработка концепции регулирования искусственного интеллекта (ИИ), бизнес стремительно внедряет нейросети — зачастую без учета вопросов кибербезопасности. Об этом заявили в AppSec Solutions в рамках форума «Технологии доверенного ИИ 2025».
Согласно данным компании, уже 43% российских организаций используют ИИ в своих процессах. Однако только у 36% из них реализованы хоть какие-либо политики информационной безопасности. Это делает технологии на базе ИИ «удобной мишенью» для атак, подчеркнул старший управляющий директор AppSec Solutions Антон Башарин.
«ИИ уже стал новым вектором уязвимости. Особенно опасны ассистенты, встроенные в корпоративную инфраструктуру — они имеют доступ к клиентским базам, внутренним документам и системам управления», — отмечают в AppSec Solutions.
Специалисты также указывают на новую угрозу — обучение моделей на заражённых датасетах. В таких случаях ИИ может содержать «троянские» элементы — бэкдоры, которые открывают доступ злоумышленникам. Кроме того, злонамеренные запросы могут перегружать агентов, что приводит к сбоям в работе критических сервисов и требует внеплановых вложений в инфраструктуру.
«Современные ИИ-системы не просто обрабатывают информацию — они могут самостоятельно собирать, хранить и передавать пользовательские данные. И если это не контролируется, риск утечек и атак стремительно возрастает», — добавил Башарин.
В AppSec Solutions подчеркивают: для минимизации угроз необходимо внедрять политику безопасной разработки ИИ-продуктов, а также проводить аудит на ранних этапах — до выхода решений в продакшн.
Источник: Коммераснтъ
Согласно данным компании, уже 43% российских организаций используют ИИ в своих процессах. Однако только у 36% из них реализованы хоть какие-либо политики информационной безопасности. Это делает технологии на базе ИИ «удобной мишенью» для атак, подчеркнул старший управляющий директор AppSec Solutions Антон Башарин.
«ИИ уже стал новым вектором уязвимости. Особенно опасны ассистенты, встроенные в корпоративную инфраструктуру — они имеют доступ к клиентским базам, внутренним документам и системам управления», — отмечают в AppSec Solutions.
Специалисты также указывают на новую угрозу — обучение моделей на заражённых датасетах. В таких случаях ИИ может содержать «троянские» элементы — бэкдоры, которые открывают доступ злоумышленникам. Кроме того, злонамеренные запросы могут перегружать агентов, что приводит к сбоям в работе критических сервисов и требует внеплановых вложений в инфраструктуру.
«Современные ИИ-системы не просто обрабатывают информацию — они могут самостоятельно собирать, хранить и передавать пользовательские данные. И если это не контролируется, риск утечек и атак стремительно возрастает», — добавил Башарин.
В AppSec Solutions подчеркивают: для минимизации угроз необходимо внедрять политику безопасной разработки ИИ-продуктов, а также проводить аудит на ранних этапах — до выхода решений в продакшн.
Источник: Коммераснтъ
