Разработчик Hadoop
По договоренности
Обязанности:
- Разработка и поддержка ETL-процессов на базе Apache Hadoop (Hive, Spark, возможно, HBase, Hue для обработки и анализа больших объемов данных)
- Разработка и построение витрин данных (SQL, PL/SQL, PostgreSQL);
- Реализация логики обработки и обогащения данных.
- Интеграция с Apache Kafka: чтение, обработка и запись данных в топики.
- Взаимодействие с целевыми системами для передачи обработанных данных.
- Участие в проектировании архитектуры витрин данных.
- Оптимизация производительности и мониторинг пайплайнов.
- Опыт коммерческой разработки на Java от 2 лет.
- Практический опыт работы с реляционными БД (PostgreSQL), приветствуется опыт с функциями, хранимыми процедурами, триггеры, OLAP-кубы);
- Практический опыт работы с экосистемой Hadoop: Hive, Spark от 2 лет.
- Опыт работы с Apache Kafka: понимание принципов работы продюсеров и консьюмеров.
- Понимание принципов построения ETL/ELT-процессов.
- Знание SQL и опыт работы с базами данных, оптимизации запросов
- Опыт работы с системами контроля версий (Git).
- Умение работать в команде, ответственность, желание развиваться в Big Data.
Будет плюсом:
- Опыт работы с CI/CD (Jenkins, GitLab CI).
- Знание Scala или Python для обработки данных.
- Опыт работы с Docker/Kubernetes.
- Понимание принципов Data Governance и Data Quality.
- Опыт разработки приложений на микросервисной архитектуре;
- Опыт разработки высоконагруженных, многопоточных приложений.
- Возможность профессионального и карьерного роста в компании, возможность поучаствовать в разных проектах;
- Опыт работы в распределенной команде профессионалов;
- Уровень заработной платы обсуждается индивидуально;
- Возможность работать удаленно по Москве, Санкт-Петербургу, Сочи, Нижнему Новгороду.
Опубликована 18 часов назад
Похожие вакансии
Вакансии быстро закрываются — подпишитесь на наш канал в MAX сейчас, чтобы видеть их первыми.
Подписаться в MAX Проект: Проект делится на две части. 1) Миграция двух наборов витрин на целевое источники и целевое размещение. 2) После завершения миграции развитие набора данных, аналитики, срезов. Требования: - Опыт коммерческой разработки на Java от 2 лет. - Пра...
- Можно удаленно
- Полный день
- Опыт от 1 года
- Санкт-Петербург
18 часов назад
Обязанности: разработка и поддержка дашбордов, отчётов и визуализаций в Tableau Desktop/Server; интеграция данных из SQL/NoSQL баз, ETL-инструментов (Qlik Talend/Replicate) и облачных источников; оптимизация производительности визуализаций, создание ...
- Можно удаленно
- Полный день
- Опыт от 1 года
- Санкт-Петербург
5 дней назад
Расширяем команду и ищем iOS-разработчика.
- Можно удаленно
- Полный день
- Опыт от 1 года
- Санкт-Петербург
4 дня назад
Страховая Компания "Гелиос" приглашает талантливых программистов и разработчиков 1С.
- Можно удаленно
- Полный день
- Опыт от 1 года
- Санкт-Петербург
4 дня назад
Расширяем команду и ищем Android-разработчика.
- Можно удаленно
- Полный день
- Опыт от 1 года
- Санкт-Петербург
4 дня назад