AppSec Solutions разработала AI Firewall AppSec.AIGate — инструмент для защиты систем с искусственным интеллектом и фильтрации пользовательских запросов.
Решение ориентировано на компании, активно внедряющие ИИ в бизнес-процессы и сталкивающиеся с рисками утечек данных и атак на модели. Продукт работает как прокси-шлюз между пользователем и LLM-моделью, обеспечивая контроль взаимодействия и безопасность обработки данных.
AppSec.AIGate сочетает функции анализа запросов, управления доступом, автоматической блокировки атак и аудита всех операций. Сервис способен выявлять попытки манипуляции моделью в реальном времени, блокировать вредоносные сценарии и маскировать чувствительные данные.
«AppSec.AIGate анализирует не сам запрос, а контекст запроса, его семантику. То есть он анализирует, что пользователь хочет получить от модели и что он туда передает. На дашборде у ИБ-инженера появится уведомление: вот такой-то запрос заблокирован, потому что это попытка взлома модели. Или в таком-то запросе есть чувствительные данные. Или такой-то запрос заблокирован, потому что его содержание относится к запрещенным категориям. Сервис предусматривает набор кастомных правил, настроенных с учетом внутренней политики компании, при которых запрос, содержащий определенные ключевые слова, будет заблокирован», — рассказал Юрий Шабалин, директор по развитию технологий ИИ AppSec Solutions.
Спрос на решения для защиты ИИ стремительно растет, поскольку число инцидентов, связанных с использованием языковых моделей, увеличивается. Разработанный инструмент позволяет снизить эти риски и обеспечить безопасное внедрение ИИ в корпоративную инфраструктуру.
Подробнее на сайте
Решение ориентировано на компании, активно внедряющие ИИ в бизнес-процессы и сталкивающиеся с рисками утечек данных и атак на модели. Продукт работает как прокси-шлюз между пользователем и LLM-моделью, обеспечивая контроль взаимодействия и безопасность обработки данных.
AppSec.AIGate сочетает функции анализа запросов, управления доступом, автоматической блокировки атак и аудита всех операций. Сервис способен выявлять попытки манипуляции моделью в реальном времени, блокировать вредоносные сценарии и маскировать чувствительные данные.
«AppSec.AIGate анализирует не сам запрос, а контекст запроса, его семантику. То есть он анализирует, что пользователь хочет получить от модели и что он туда передает. На дашборде у ИБ-инженера появится уведомление: вот такой-то запрос заблокирован, потому что это попытка взлома модели. Или в таком-то запросе есть чувствительные данные. Или такой-то запрос заблокирован, потому что его содержание относится к запрещенным категориям. Сервис предусматривает набор кастомных правил, настроенных с учетом внутренней политики компании, при которых запрос, содержащий определенные ключевые слова, будет заблокирован», — рассказал Юрий Шабалин, директор по развитию технологий ИИ AppSec Solutions.
Спрос на решения для защиты ИИ стремительно растет, поскольку число инцидентов, связанных с использованием языковых моделей, увеличивается. Разработанный инструмент позволяет снизить эти риски и обеспечить безопасное внедрение ИИ в корпоративную инфраструктуру.
Подробнее на сайте
