Анализ защищённости приложений, использующих AI: когда нужно ручное тестирование.
Спикеры
Гончаренко Кирилл
Руководитель группы Application Security
О вебинаре
Это третий вебинар из серии «Безопасность ИИ на практике».AI всё активнее внедряется в продукты и решения — как в виде явных форм взаимодействия в виде чат-ботов, так и "под капотом" — например, в виде умного поиска по базе знаний или ассистентов автоматизации. Неизбежно вместе с новыми возможностями появляются новые вектора атак, про которые рекомендуется помнить при оценке угроз разрабатываемых или уже работающих приложений.
На вебинаре разберём, как внедрение AI-компонентов меняет поверхность атаки: чем анализ защищённости AI-приложений отличается от классического анализа защищённости, и почему привычных методов тестирования может быть недостаточно, а также поговорим о том, какие веб-недостатки только набирают актуальность от внедрения AI-систем.
Наглядно продемонстрируем, как один и тот же prompt injection может иметь принципиально разные критичность, причину и фикс в зависимости от архитектуры и бизнес-задач. Обсудим, где в процессе анализа пока не заменим человек, и как правильно совместить автоматический и ручной анализ при построении процесса аудита AI-систем.