Data Engineer
По договоренности
- Марксистская
- Третьяковская
- Театральная
Обязанности:
- Проектирование и разработка ETL/ELT;
- Создание, поддержка и оптимизация пайплайнов обработки данных с использованием Apache Airflow (написание DAG-ов, настройка сенсоров и операторов);
- Интеграция источников: Подключение и вычитка данных из различных систем: CRM, API, внешние базы данных (PostgreSQL, ClickHouse, HDFS);
- Разработка витрин данных: Построение и оптимизация витрин для BI-отчетности, написание сложных SQL-запросов и хранимых процедур;
- Внедрение систем мониторинга качества данных, логирования (Prometheus + Grafana) и проверки данных на всех этапах пайплайна;
- Ведение технической документации.
- Python: Опыт написания скриптов, работы с Pandas, API, написание промышленного кода SQL;
- Написание сложных запросов, оконные функции, оптимизация запросов, хранимые процедуры;
- Airflow: Разработка DAG-ов, настройка коннекторов, управление зависимостями, понимание архитектуры (Scheduler, Worker, Web Server);
- Системное мышление: Способность видеть картину целиком, а не просто выполнять задачу "скопировать таблицу";
- Проактивность: Умение задавать вопрос "Зачем?" и предлагать оптимизации архитектуры;
- Коммуникабельность: Готовность общаться с аналитиками( · Ориентация на результат: Понимание важности SLA (времени доставки данных) и качества данных;
- Будет плюсом · Опыт работы с PostgreSQL · Опыт администрирования самого Airflow (настройка, деплой).
Условия:
- Официальное трудоустройство по ТК РФ;
- График работы 5/2 офис, 8-часовой рабочий день;
- Корпоративные программы обучения и развития;
- Дружная команда профессионалов и поддержка на всех этапах.
Адрес: Россия, Москва, 2-й Новокузнецкий переулок, 13/15
Опубликована 2 часа назад
Похожие вакансии
Вакансии быстро закрываются — подпишитесь на наш канал в MAX сейчас, чтобы видеть их первыми.
Подписаться в MAXЧем предстоит заниматься Разработка ETL/ELT-пайплайнов в Dagster с интеграцией dbt Создание и поддержка табличных моделей данных Проектирование мер (measures) и связей (relationships) между таблицами Настройка партиционирования для оптимизации произв...
- Полный день
- Опыт от 3 лет
- Москва
2 часа назад
Сбербанк Первый приглашает Middle Data Engineer в команду данных. ... Требования опыт работы в роли Data Engineer (или аналогичной) от 2 лет уверенное владение SQL: умение ... работы с инструментами экосистемы Hadoop/Spark опыт построения ETL/ELT процессов понимание процессов Data ...
- Полный день
- Опыт от 3 лет
- Москва
2 часа назад
Мы находимся в поиске Data Engineera в департамент систем клиент-сервер.
- Полный день
- Опыт от 3 лет
- Москва
8 дней назад
Senior Data / BI Engineer Наш Клиент: Международная трейдинговая компания в сфере нефти и нефтепродуктов ... работы от 5-ти лет в нефтетрейдинге, энергетике, сырьевых рынках или финансовом секторе Опыт работы Data ... Engineer, BI Developer или на аналогичной позиции Уверенное владение SQL Хорошее знание Python для обработки ...
- Полный день
- Опыт от 3 лет
- Москва
2 часа назад
Мы строим Data Lake House платформу с современным стеком: S3, Trino, Apache Iceberg, DBT, Airflow, Kafka ... реализация в тандеме с архитектором физического уровня архитектуры данных в DWH для всех слоев (raw data ... layer, core data layer, data mart layer); реализация ETL-пайплайнов передачи данных из различных внутренних ...
- Полный день
- Опыт от 3 лет
- Москва
2 дня назад