Серия «Безопасность ИИ на практике». Первый вебинар
This webinar and its materials are available in Russian.
Speakers
Гамаюнов Денис
Генеральный директор, SolidLab Group
Спиридонова Полина
Менеджер продукта безопасности, Yandex Cloud
About the webinar
Внедрение ИИ меняет задачи информационной безопасности. Теперь нужно контролировать не только код и инфраструктуру, но и инструкции, контекст, а также действия ассистентов. Подключение к корпоративным данным и бизнес-системам создаёт новые риски: от подмены инструкций и утечки информации до выполнения нежелательных действий.Командам ИБ важно учитывать эти угрозы ещё на этапе проектирования, быстрее выявлять уязвимости и непрерывно контролировать риски работающих приложений. Для этого нужны подходы, которые учитывают особенности ИИ и позволяют автоматизировать проверки.
19 ноября открываем серию «Безопасность ИИ на практике». На первом вебинаре эксперты Yandex Security разберут защиту на примере банка с текстовым ассистентом: от определения угроз и требований до поиска уязвимостей и контроля рисков при эксплуатации. Также покажем, как проверять ИИ-инфраструктуру в Yandex AI Studio и предотвращать утечки данных, когда сотрудники используют ИИ-ассистентов.
Первый вебинар поможет связать эти задачи в общий подход к защите. На следующих встречах команда Yandex Security подробнее разберёт отдельные задачи и инструменты.
На вступительном вебинаре обсудим:
- Как меняются угрозы при внедрении ИИ. Разберём риски, которые возникают, когда ассистент получает доступ к корпоративным данным и инструментам, и как они влияют на подход к защите.
- Как определить, что защищать и как проверять результат. Познакомим с фреймворком AI-SAFE 2.0 и атласом угроз. На примере свяжем компоненты приложения и их уязвимости с возможными последствиями и мерами защиты. {green}(Расскажем,) как сформулировать требования, проверки и критерии приёмки, а также расскажем, как применяем методологию в собственных решениях.
- Как обнаружить уязвимости в ИИ-приложении. Покажем, как сканер SolidPoint автоматически анализирует защищённость приложения, и разберём, как использовать результаты для устранения найденных уязвимостей.
- Как противодействовать промпт-инъекциям и утечкам данных. Продемонстрируем, как SolidWall AI Security Gateway контролирует запросы и ответы в подключённых потоках — при атаках на приложение и передаче сотрудниками чувствительной информации ИИ-ассистентам.
- Как выявлять опасные настройки инфраструктуры. Покажем, как модуль AI-SPM в Security Deck проверяет настройки ИИ-инфраструктуры в Yandex AI Studio и дополняет контроль ИИ-трафика с помощью {green}(SolidWall) AI Security Gateway.
- Как дополнить автоматические проверки экспертной оценкой. Расскажем, когда нужны пентест ИИ-приложения и консалтинг по защищённой разработке и как внедрять результаты в рабочие процессы команды.