Эксперт по безопасности ML/AI (LLM)

Наша команда обеспечивает кибербезопасность GenAI-моделей, LLM-приложений, AI-агентов и мультиагентных систем, используемых миллионами пользователей. Основной фокус: кибербезопасность GenAI-моделей разных модальностей с помощью автоматизированных бенчмарков и обеспечение безопасности AI-агентов, тестирование их логики принятия решений, а также доступных инструментов.

Вам предстоит:

• проведение тестирований моделей разных модальностей с помощью автоматизированных бенчмарков
• поиск и адаптация релевантных наборов данных (датасетов)
• адаптация и настройка новых или уже существующих бенчмарков для тестирования устойчивости моделей к различным видам атак
• проведение практического пентеста AI-агентов и мультиагентных систем с фокусом на специфичные уязвимости (промпт-инъекции, манипуляция контекстом, нарушение логики оркестрации, компрометация инструментов RAG/API), выявление угроз и уязвимостей на уровне поведения, логики взаимодействия агентов, используемых инструментов
• разработка рекомендаций и требований безопасности для повышения безопасности агентных систем
• подготовка заключений и отчетной документации по результатам оценки защищенности.
• взаимодействие с командами разработки для внедрения мер безопасности.
• отслеживание современных трендов и методов атак в области безопасности AI-агентов
• участие и выступление на ключевых внутренних и внешних мероприятиях, посвященных кибербезопасности ИИ.

Что для нас важно:

• высшее образование в области информационной безопасности, компьютерных наук либо эквивалентный практический опыт
• 2+ года релевантного опыта работы (включая пентест, академическую среду или CTF)
• знание английского языка на уровне чтения технической литературы
• понимание архитектур и специфических векторов атак для GenAI-моделей разных модальностей (текст, код, изображение, аудио)
• опыт работы с фреймворками и библиотеками для тестирования LLM/GenAI.
• понимание основ пентеста и методик создания моделей угроз применительно к агентным системам
• понимание принципов работы, архитектур и протоколов взаимодействия AI-агентов и мультиагентных систем
• глубокое понимание тактик атак из MITRE ATLAS и уязвимостей из OWASP Top 10 for LLM применительно к агентам
• опыт анализа сложных распределенных систем на наличие уязвимостей и «узких» мест
• владение Python для написания скриптов автоматизации тестирования и анализа
• умение формализовать неочевидные проблемы в поведении агента как конкретные уязвимости и риски для бизнеса
• навыки формирования отчетной документации и интерпретации результатов тестирования как бизнес-рисков.

Будет большим плюсом:

• опыт в разработке и адаптации бенчмарков, а также умение анализировать и сравнивать результаты тестирования различных моделей
• участие в CTF или специализированных соревнованиях по безопасности AI
• опыт практического тестирования поведения AI-приложений или агентов (подойдет исследовательский/хобби-проект или CTF)
• практический опыт работы с фреймворками для создания агентов
• опыт представления результатов своей работы широкой аудитории
• понимание вызовов, связанных с безопасностью (security/safety) автономных агентов.

Мы предлагаем:

• комфортный современный офис
• офисный формат работы
• ежегодный пересмотр зарплаты, годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• программа адаптации и помощь руководителя на старте
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
• вознаграждение за рекомендацию друзей в команду Сбера.