Data Engineer

По договоренности


Мы находимся в поиске Data Engineera в департамент систем клиент-сервер.

Обязанности:

  • Реализация ETL в Hadoop (с помощью Airflow);
  • Работа с различными источниками данных: Oracle MS SQL API личных кабинетов, микросервисы;
  • Батч и стримы с помощью PySpark и Kafka;
  • Подготовка витрин для анализа (Hive + Spark+ SQL).

Требования:

  • Уверенное владение Python;
  • Опыт использования эко-системы Hadoop: HDFS, Apache AirFlow, Hive, Kafka,Spark;
  • Знание SQL;
  • Опыт работы с реляционными базами данных (Oracle).

Наш стек: Kafka, Spark, Airflow, Jira, Confluence, GitLab.


Поделиться:

Опубликована 8 дней назад

Похожие вакансии

Вакансии быстро закрываются — подпишитесь на наш канал в MAX сейчас, чтобы видеть их первыми.
Подписаться в MAX
Мы строим Data Lake House платформу с современным стеком: S3, Trino, Apache Iceberg, DBT, Airflow, Kafka ... реализация в тандеме с архитектором физического уровня архитектуры данных в DWH для всех слоев (raw data ... layer, core data layer, data mart layer); реализация ETL-пайплайнов передачи данных из различных внутренних ...
  • Полный день
  • Опыт от 3 лет
Логотип компании WINLINEWINLINE
  • Москва
2 дня назад
Информация о продукте: Мы ищем человека, способного вместе с нами создавать и развивать продукт «Early Warning System». Наши основные задачи: создание автоматизированного процесса своевременного выявления негативных тенденций в деятельности контраген...
  • Полный день
  • Опыт от 3 лет
Логотип компании СБЕРСБЕР
  • Москва
2 дня назад
Требования к кандидату: Опыт работы Data Engineer от 3 лет; Опыт проектирования пайплайнов по моделям ...
  • Полный день
  • Опыт от 3 лет
Логотип компании ГрузовичкофГрузовичкоф
  • Москва
4 дня назад
Мы разрабатываем платформу для планирования и управления цепочками поставок, ядром которой становится собственная система IBP (Integrated Business Planning). Команда строит end-to-end дата-пайплайны, интегрирует внешние и внутренние источники данных ...
  • Полный день
  • Опыт от 3 лет
Логотип компании X5 TechX5 Tech
  • Москва
4 дня назад
Ищем Data-инженера в кластер по работе с данными в зоне КАПа.
  • Полный день
  • Опыт от 3 лет
Логотип компании СБЕРСБЕР
  • Москва
9 дней назад
Мы обрабатываем данные посетителей и используем куки в соответствии с политикой конфиденциальности.