Data Quality Engineer

В трайбе SberWorks (Сбер) мы создаём Productivity Platform — единую платформу для автоматизации производственных процессов и внедрения искусственного интеллекта в Сбере. В основе платформы лежит DataLake — централизованное хранилище, которое накапливает и структурирует данные для аналитики, обучения AI-ассистентов и построения витрин.

Цель создания платформы Productivity Platform — обеспечить единый и бесшовный путь для команд Банка, сократив производственные затраты благодаря максимальной автоматизации и применению искусственного интеллекта на каждом этапе производственного процесса.

Команда DataLake отвечает за развитие и сопровождение холодного хранилища на базе Hadoop. Мы ищем специалиста, который поможет нам развить с нуля практики тестирования данных в нашей системе и выстроить процессы обеспечения качества данных на всех этапах их жизненного цикла.

Стек технологий проекта: Python, PySpark, Airflow, Hadoop (Hive), Kafka, Postgres, CDC, OpenMetaData

Обязанности

· Разрабатывать и поддерживать автоматизированные тесты Data Quality для данных, хранящихся в Hadoop (Hive).

· Интегрировать тесты в Airflow-пайплайны, обеспечивать их запуск по расписанию и мониторинг результатов.

· Анализировать причины инцидентов с качеством данных, взаимодействовать с владельцами источников и потребителями данных.

· Разрабатывать и внедрять метрики, правила и стандарты качества данных для DataLake.

· Участвовать в развитии инфраструктуры тестирования данных, внедрять новые инструменты и подходы.

Требования

· Опыт работы с Hadoop/Hive, понимание принципов организации данных в DWH.

· Уверенное владение Python и PySpark для написания тестов и обработки данных.

· Опыт работы с Airflow: создание, отладка и поддержка DAG’ов.

· Понимание принципов тестирования данных (Data Quality), опыт разработки автотестов для ETL-процессов.

· Навыки работы с SQL, опыт анализа данных и поиска аномалий.

· Будет плюсом: опыт работы с Kafka, CDC, Postgres.

· Будешь стремиться погружаться в продукт, а не "просто писать код"

Условия

· Современный комфортный офис рядом с м. Кутузовская.

· Ежегодный пересмотр зарплаты и годовая премия

· Более 400 образовательных программ СберУниверситета. Возможность постоянно совершенствоваться и развивать профессиональные навыки.

· Программа адаптации и помощь руководителя на старте. Мы поможем вам быстро влиться в коллектив и начать продуктивную работу.

· Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа. Забота о вас и ваших близких — важный аспект нашего сотрудничества.

· Корпоративный спортзал и зоны отдыха.

· Ипотека выгоднее до 7% для каждого сотрудника. Специальные условия ипотечного кредитования сделают покупку жилья доступной.

· Подписка СберПрайм+, скидки на продукты компаний-партнеров

· Вознаграждение за рекомендацию друзей в команду Сбера. Привлекая новых талантливых специалистов, вы можете заработать дополнительное вознаграждение.