SolidPoint AI-SPM: поиск ИИ-специфичных уязвимостей в ИИ-Приложениях
This webinar and its materials are available in Russian.
Speakers
Куваев Валерий
Менеджер по продукту SolidPoint
Кузьмин Ярослав
Инженер SolidPoint
About the webinar
ИИ-агенты всё чаще встраиваются в бизнес-процессы: они делают обслуживание персонализированным и дешевле масштабируются. Неудивительно, что многие примеряют этот сценарий на себя — особенно на фоне сильных локальных моделей.Но поведение таких агентов недетерминировано и зависит от контекста. Их сложнее контролировать, а практика защиты и рынок инструментов тестирования ещё только формируются. В результате мы получаем новые векторы атаки, которые исследованы не полностью.
Персонализация означает, что агент много знает о пользователе и нередко действует с его правами в бизнес-сценариях. Что если агента легко обмануть? Может ли он раскрыть злоумышленнику важные данные о пользователе или компании?
Что разберём
На вебинаре мы расскажем о продукте SolidPoint AI-SPM, покажем, как идентифицировать и сканировать веб-приложения с ИИ-агентами на ИИ-специфичные уязвимости, такие как:
- раскрытие конфигурации;
- детали развёртывания и настроек безопасности агента;
- раскрытие системных инструкций (системного промпта), восстановление системных инструкций по серии ответов;
- утечка приватных данных и учётных записей;
- несанкционированные действия, выполнение команд, admin-mode;
- RAG-отравление через внешнее состояние.
В конце вместе ответим на вопрос: на кого же работает ИИ-агент?