Эксперт по безопасности GenAI-моделей (LLM/MLLM) и приложений (исследование и разработка PoC)

Мы защищаем будущее: создаем систему кибербезопасности для генеративного ИИ в Сбере. Наш продукт SOC4AI (Security Operations Center for AI) — это компонент в структуре SOC (Security Operations Center) Сбербанка, отвечающий за мониторинг, анализ и противодействие киберугрозам на GenAI-модели и AI-агенты.

Вам предстоит:

• анализ новых инцидентов, методов атак и защиты
• разработка и создание работающих примеров атак (PoC) для демонстрации уязвимостей
• улучшение имеющихся инструментов для тестирования моделей и приложений на устойчивость к новым методам атак
• оценка защищенности существующих моделей и приложений в банке и предложение улучшений
• участие и выступление на ключевых внешних и внутренних ИТ-мероприятиях.

Ожидаем, что вы:

• имеете высшее образование в области информационной безопасности, компьютерных наук, прикладной математики или смежных дисциплин либо эквивалентный практический опыт
• владеете Python, пишете чистый и понятный код
• знаете английский язык на достаточном уровне для чтения статей на arXiv и имеете минимальный опыт их чтения (возможно, по другой специальности)
• понимаете основы процессов обучения и дообучения современных LLM/MLLM, а также трудности с safety/security этих моделей и (мульти-)агентных систем на их основе
• владеете математической статистикой и теорией вероятности в достаточной мере для проведения экспериментов с обоснованными выводами.

Будет плюсом:

• участие в соревнованиях по атакам на модели/агентов GenAI
• опыт работы с PyTorch, transformers, LangChain, smolagents, rigging, TransformerLens или аналогичными библиотеками
• знание основ безопасности GenAI и умение ориентироваться в базовых документах, таких как OWASP Top 10 for LLM, MITRE
• опыт представления результатов своей работы широкой аудитории
• умение интерпретировать результаты исследований как бизнес-результаты
• 2+ лет релевантного опыта работы, включая опыт в академической среде.

Мы предлагаем:

• комфортный современный офис рядом с м. Академическая
• офисный формат работы
• ежегодный пересмотр зарплаты, годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• программа адаптации и помощь руководителя на старте
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
• вознаграждение за рекомендацию друзей в команду Сбера.