Руководитель направления безопасности GenAI-моделей (разработка программного обеспечения)

Предлагаем вам возможность присоединиться к команде, занимающейся проектами в новом, динамично развивающемся направлении безопасности искусственного интеллекта. Ваши задачи будут связанны с поиском и исследованием уязвимостей GenAI-моделей (LLM/MLM) и приложений с их использованием, в том числе ИИ-агентов. В коллективе опытных экспертов вы будете разрабатывать программное обеспечение для автоматизации исследования и тестирования безопасности GenAI моделей.

Вам предстоит:

• разработка программного обеспечения: создание, поддержка и развитие инструментов для анализа и поиска угроз GenAI, в т.ч.:

-разработка средств автоматизации сбора, хранения и анализа новых публикаций, инцидентов и методов атак на GenAI (краулинг, парсинг информации, разработка и управление системами хранения)

-создание и тестирование прототипов (Proof of Concept) для поиска уязвимостей GenAI (python скрипты, библиотеки: flask/fastapi, asyncio, pydantic, langchain/gigachain, ИИ агенты для генерации кода)

• DevOps: CI/CD, контроль версий (git), тестирование качества ПО (pytest, mypy, black), инфраструктура для работы (linux)
• внедрение практик AI PDLC: исследование и применение методов и инструментов создания и развития программного обеспечения с применением передовых ИИ моделей
• погружение в экосистему: изучение и практическое применение передовых фреймворков и библиотек для работы с LLM и ИИ агентами.

Что для нас важно:

• профиль и образование: законченное высшее образование в области информационных технологий, компьютерных наук, прикладной математики, программной инженерии или смежных направлений
• продвинутые навыки программирования на Python: понимание принципов проектирования и разработки программного обеспечения, асинхронное программирование, API (REST), умение писать чистый (понятный, поддерживаемый) код
• навыки DevOps: работа с git, администрирование linux, автоматизация этапов жизненного цикла разработки ПО
• LLM и AI агенты: опыт эффективного применения LLM для разработки ПО
• английский язык на уровне, достаточном для чтения технической документации и статей
• опыт командной работы в проектах разработки: канбан (спринты, трекинг задач), jira/git/confluence, презентации и умение понятно объяснять свои идеи команде и согласовывать требования.

Будет преимуществом:

• знание основ информационной безопасности, понимание рисков ИБ для LLM и AI агентов: OWASP, MITRE, БДУ ФСТЭК, Модель угроз кибербезопасности AI Сбер.

Мы предлагаем:

• комфортный современный офис
• офисный формат работы
• ежегодный пересмотр зарплаты, годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• программа адаптации и помощь руководителя на старте
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
• подписка Прайм с возможностью совместного использования на трёх близких
• вознаграждение за рекомендацию друзей в команду Сбера.