Анализ защищённости приложений, использующих AI: когда нужно ручное тестирование.
This webinar and its materials are available in Russian.
Speakers
Гончаренко Кирилл
Руководитель группы Application Security
About the webinar
Это третий вебинар из серии «Безопасность ИИ на практике».AI всё активнее внедряется в продукты и решения — как в виде явных форм взаимодействия в виде чат-ботов, так и "под капотом" — например, в виде умного поиска по базе знаний или ассистентов автоматизации. Неизбежно вместе с новыми возможностями появляются новые вектора атак, про которые рекомендуется помнить при оценке угроз разрабатываемых или уже работающих приложений.
На вебинаре разберём, как внедрение AI-компонентов меняет поверхность атаки: чем анализ защищённости AI-приложений отличается от классического анализа защищённости, и почему привычных методов тестирования может быть недостаточно, а также поговорим о том, какие веб-недостатки только набирают актуальность от внедрения AI-систем.
Наглядно продемонстрируем, как один и тот же prompt injection может иметь принципиально разные критичность, причину и фикс в зависимости от архитектуры и бизнес-задач. Обсудим, где в процессе анализа пока не заменим человек, и как правильно совместить автоматический и ручной анализ при построении процесса аудита AI-систем.