Data Engineer

По договоренности


ИТ B2C - самая крупная экосистема в Сбере. Нас более 8000 человек в 18 городах России. Мы занимаемся разработкой и развитием розничных решений, помогая сделать сервисы Банка доступнее, безопаснее и удобнее.

Мы, команда офиса CDO B2C, строим платформу данных, которая обеспечивает быстрый, надежный и качественный обмен информацией между Сбером и компаниями-партнерами. Это основа для персонализированных предложений умных продуктов и эффективных бизнес-решений.

Наша команда - Команда развития Платформы в офисе CDO B2C ищет DE-инженера для реализации задач по загрузке, аналитике и трансформации данных.

Обязанности

проектировать и реализовывать ETL/ELT-пайплайны для загрузки и обработки данных (включая DAG в Apache Airflow)

оптимизировать и сопровождать процессы обработки больших данных (Apache Spark, Apache Flink)

интегрировать источники данных (базы данных, API, файловые хранилища) в единую pipeline-архитектуру

настраивать и администрировать Airflow для оркестрации workflows

участвовать в разработке архитектуры хранения и обработки данных (включая Hadoop-экосистему)

документировать решения и формировать базы знаний.

Требования

наличие высшего образования

опыт разработки ETL/ELT-процессов (реализация, оптимизация, мониторинг)

профильное владение Python (включая библиотеки для работы с данными)

практический опыт с распределенными вычислениями: Apache Spark (PySpark/Scala) или Apache Flink

глубокое понимание SQL и опыт работы с РСУБД (PostgreSQL, MySQL и др.)

знание Apache Airflow (создание DAG, настройка сенсоров, операторов)

навыки администрирования Linux (развертывание, мониторинг, troubleshooting)

Будет преимуществом:

базовые знания Scala (или готовность к изучению)

опыт с Hadoop (HDFS, YARN, Hive)

знание облачных платформ (AWS S3/Glue, GCP BigQuery, Azure Data Factory)

навыки автоматизации (Ansible, Terraform)

опыт работы с стриминговыми данными (Kafka, Debezium).

Условия

гибридный формат

ежегодный пересмотр зарплаты и годовая премия

расширенный ДМС и льготное страхование для семьи

уникальная система обучения Сбера для профессионального и карьерного развития

выгодная ипотека для сотрудников

подписка Прайм с возможностью совместного использования на трёх близких

вознаграждение за рекомендацию друзей в команду Сбера

корпоративная пенсионная программа.


Поделиться:

Опубликована 8 часов назад

Похожие вакансии

Вакансии быстро закрываются - скачайте мобильное приложение в RuStore и откликайтесь первыми!
Скачать бесплатно
Разработки и поддержки витрин данных в Hadoop (HDFS, Iceberg, Hive), ETL - Spark, CTL - Oozie, CI/CD - Jenkins + BitBucket Обязанности • разработка DWH/DataLake/LakeHouse • построение поставки данных в Batch • оптимизация sparkовых джоб • разработка ...
  • Полный день
  • Опыт от 1 года
Логотип компании СБЕРСБЕР
  • Москва
3 дня назад
... автоматизированные проверки качества данных (SQL, PySpark, SparkSQL) Проектировать и поддерживать правила Data ... Quality для новых источников данных Разрабатывать и сопровождать Data Contracts Анализировать схемы ... Lake, Data Lakehouse (слои bronze/silver/gold) Опыт тестирования данных (ETL testing, DWH testing, Data ...
  • Полный день
  • Опыт от 1 года
Логотип компании КриптонитКриптонит
  • Москва
8 дней назад
... бизнес-аналитики Сбор и объединение данных из различных внутренних и внешних источников Участие в процессах Data ... Quality, Data Lineage, Data Governance Мы ожидаем: Опыт на аналогичной позиции от 1 года Опыт работы ...
  • Полный день
  • Опыт от 1 года
Логотип компании СБЕРАВТОСБЕРАВТО
  • Москва
16 дней назад
... реализация в тандеме с архитектором физического уровня архитектуры данных в DWH для всех слоев (raw data ... layer, core data layer, data mart layer); - реализация ETL-пайплайнов передачи данных из различных внутренних ...
  • Полный день
  • Опыт от 1 года
Логотип компании ИнтерфаксИнтерфакс
  • Москва
16 дней назад
Сейчас мы ищем Инженера данных (Data Engineer), который будет заниматься развитием и поддержкой инфраструктуры ... задач, связанных с данными Будем рады видеть в новом коллеге следующее: Опыт работы инженером данных (Data ... Engineer) от 2 лет Уверенное владение Python и SQL, опыт их практического применения для обработки и ...
  • Полный день
  • Опыт от 1 года
Логотип компании Платформа Третье МнениеПлатформа Третье Мнение
  • Москва
15 дней назад
Мы обрабатываем данные посетителей и используем куки в соответствии с политикой конфиденциальности.