Data Scientist (AI Safety)

Мы стремимся к развитию искусственного интеллекта и понимаем, что создание безопасной и надежной платформы крайне важно для нашей миссии и наших клиентов. Поэтому мы ищем инженера, который поможет нам развивать возможности в сфере доверия и безопасности.

В этой роли вы будете работать над системами предотвращения рисков связанных с фактологическими и контекстными галллюцинациями больших языковых моделей и ИИ-агентов, проявлений токсичности и дискриминации и предотвращеним злоупотреблений. Вы будете обучать и дообучать мультимодальные модели, создавать новые архитектуры моделей и проектировать тактики их применения например такие как создание guardrails.

Если вам близок дух Bell Labs/Xerox PARC в их лучшие годы — исследовать, проверять гипотезы и доводить до прома — вам к нам.

Обязанности

• разрабатывать, создавать и поддерживать решения для борьбы со злоупотреблениями, модерации контента, детекции галлюцинаций, предназначенную для защиты компании и конечных пользователей от нежелательного поведения
• тесно сотрудничать с другими инженерами и исследователями для использования как стандартных, так и новых методов ИИ с целью измерения, мониторинга и улучшения соответствия AI-моделей и ИИ-агентов человеческим ценностям
• изучать статьи, материалы профильных российских и мировых конференций по AI Safety и участвовать в них
• выявлять и устранять активные инциденты на платформе, а также создавать новые инструменты и инфраструктуру, которые устраняют первопричины сбоев в системе.

Требования

• опыт работы в сфере безопасности контента, борьбы с мошенничеством или злоупотреблениями, либо мотивированы и горите желанием работать над актуальными вопросами безопасности ИИ
• владение Python или современными языками, такими как C++, Rust или Go, и готовы быстро освоить Python
• опыт развертывания классификаторов или модели машинного обучения, или желание познакомиться с современной ML-инфраструктурой
• опыт проектирования и обучения нейросетевых архитектур — от классических CNN/RNN до современных трансформеров
• опыт разработки ИИ-агентов и общее понимание передовых архитектур MAS
• опыт создания и поддержки производственных сервисов в условиях быстрого роста и масштабирования
• навык критической оценки рисков нового продукта или функции и нахождения инновационных решений для их mitigation, не ухудшая пользовательский опыт.

Условия

• комфортный современный офис рядом с м. Кутузовская
• гибридный формат работы
• ежегодный пересмотр зарплаты и годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• расширенный ДМС, льготное страхование для семьи
• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
• вознаграждение за рекомендацию друзей в команду Сбера.