Tech Lead (Lakehouse платформа)

В SberData мы создаём платформу данных для всего Сбера. Это более 350 источников данных и 100+ Пб информации, заказ и получение данных за 15 минут,а также современный технологический стек работы с данными, включая собственные сборки СУБД на базе Hadoop и Greenplum. Наша команда развивает инструменты и внедряет технологию разделённого Compute & Storage в рамках концепции Lakehouse. Наша задача — спроектировать и внедрить надёжное, безопасное решение для высоконагруженных расчётов витрин данных на современных технологиях Compute (Spark, Flink) и Storage (S3), работающее на 10 000+ серверах.

Ключевые обязанности

• развитие платформы Lakehouse на k8s — архитектурные решения, код-ревью, технические решения и обеспечение delivery, а также непосредственная разработка ключевых компонентов дата-платформы в Kubernetes


• техническое проектирование и спецификации — определение архитектуры системы, API-контрактов, интеграционных паттернов с инфраструктурной и security-командами


• оптимизация производительности дата-платформы — профилирование batch и streaming-сценариев, выявление узких мест, реализация стратегий тюнинга


• профилирование оборудования и планирование мощности — совместно с инфраструктурным подразделением на основе бенчмарков реальных нагрузок


• обеспечение безопасности и надёжности — внедрение практик InfoSec в CI/CD


• определение технической стратегии — оценка новых технологий, PoC, build-vs-buy решения


• менторство и развитие команды — код-ревью, Pair Programming, техническая экспертиза для членов команды.

Требования

• 7+ лет в разработке / DevOps


• 5+ лет работы с k8s в production — вы запускали рабочие нагрузки на масштабе, а не просто разворачивали кластер


• глубокая экспертиза в Spark и Ozone — вы запускали Spark on Kubernetes в production


• глубокое понимание распределённых систем — консистентность, fault tolerance, партиционирование, шардирование, репликация


• опыт работы с CI/CD, GitOps, infrastructure-as-code (Terraform / Ansible)


• хорошее понимание принципов информационной безопасности и reliability engineering (мониторинг, алертинг, инцидент-менеджмент).

Будет плюсом

• практический опыт с Lakehouse-архитектурой — Iceberg / Hudi / Delta Lake


• опыт эксплуатации аналитических БД: ClickHouse / StarRocks / Trino / Greenplum


• глубокое знание S3-хранилищ, HDFS, Hive Metastore


• опыт построения data-платформ на 1000+ серверов / large-scale нагрузок


• опыт работы с AI/ML нагрузками в Kubernetes — генеративные модели, AI-агенты, MLOps


• референсы технического лидерства — конференции, блог, open-source контрибуции.

Мы предлагаем

• комфортный современный офис в Москве: Бизнес-центр Чайка Плаза, рядом с М.Тульская, Верхние котлы


• гибридный формат работы: 4 дня офисе/1 - удаленно


• ежегодный пересмотр зарплаты, годовая премия


• корпоративный спортзал и зоны отдыха


• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития


• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа


• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ


• подписка Прайм с возможностью совместного использования на трёх близких


• вознаграждение за рекомендацию друзей в команду Сбера.