Разработчик Hadoop

По договоренности


Обязанности:
  • Разработка и поддержка ETL-процессов на базе Apache Hadoop (Hive, Spark, возможно, HBase, Hue для обработки и анализа больших объемов данных)
  • Разработка и построение витрин данных (SQL, PL/SQL, PostgreSQL);
  • Реализация логики обработки и обогащения данных.
  • Интеграция с Apache Kafka: чтение, обработка и запись данных в топики.
  • Взаимодействие с целевыми системами для передачи обработанных данных.
  • Участие в проектировании архитектуры витрин данных.
  • Оптимизация производительности и мониторинг пайплайнов.
Требования:​​​​​​​
  • Опыт коммерческой разработки на Java от 2 лет.
  • Практический опыт работы с реляционными БД (PostgreSQL), приветствуется опыт с функциями, хранимыми процедурами, триггеры, OLAP-кубы);
  • Практический опыт работы с экосистемой Hadoop: Hive, Spark от 2 лет.
  • Опыт работы с Apache Kafka: понимание принципов работы продюсеров и консьюмеров.
  • Понимание принципов построения ETL/ELT-процессов.
  • Знание SQL и опыт работы с базами данных, оптимизации запросов
  • Опыт работы с системами контроля версий (Git).
  • Умение работать в команде, ответственность, желание развиваться в Big Data.

Будет плюсом:

  • Опыт работы с CI/CD (Jenkins, GitLab CI).
  • Знание Scala или Python для обработки данных.
  • Опыт работы с Docker/Kubernetes.
  • Понимание принципов Data Governance и Data Quality.
  • Опыт разработки приложений на микросервисной архитектуре;
  • Опыт разработки высоконагруженных, многопоточных приложений.
Условия:
  • ​​​​​​​​​​​​​​Возможность профессионального и карьерного роста в компании, возможность поучаствовать в разных проектах;
  • Опыт работы в распределенной команде профессионалов;
  • Уровень заработной платы обсуждается индивидуально;
  • Возможность работать удаленно по Москве, Санкт-Петербургу, Сочи, Нижнему Новгороду.

Поделиться:

Опубликована 18 часов назад

Похожие вакансии

Проект: Проект делится на две части. 1) Миграция двух наборов витрин на целевое источники и целевое размещение. 2) После завершения миграции развитие набора данных, аналитики, срезов. Требования: - Опыт коммерческой разработки на Java от 2 лет. - Пра...
  • Можно удаленно
  • Полный день
  • Опыт от 1 года
Логотип компании Bell IntegratorBell Integrator
  • Санкт-Петербург
18 часов назад
Обязанности: разработка и поддержка дашбордов, отчётов и визуализаций в Tableau Desktop/Server; интеграция данных из SQL/NoSQL баз, ETL-инструментов (Qlik Talend/Replicate) и облачных источников; оптимизация производительности визуализаций, создание ...
  • Можно удаленно
  • Полный день
  • Опыт от 1 года
Логотип компании IBSIBS
  • Санкт-Петербург
5 дней назад
Расширяем команду и ищем iOS-разработчика.
  • Можно удаленно
  • Полный день
  • Опыт от 1 года
Логотип компании Норд КланНорд Клан
  • Санкт-Петербург
4 дня назад
Страховая Компания "Гелиос" приглашает талантливых программистов и разработчиков 1С.
  • Можно удаленно
  • Полный день
  • Опыт от 1 года
Логотип компании Страховая Компания ГелиосСтраховая Компания Гелиос
  • Санкт-Петербург
4 дня назад
Расширяем команду и ищем Android-разработчика.
  • Можно удаленно
  • Полный день
  • Опыт от 1 года
Логотип компании Норд КланНорд Клан
  • Санкт-Петербург
4 дня назад
Мы обрабатываем данные посетителей и используем куки в соответствии с политикой конфиденциальности.