Data Scientist в команду LLM Core

О команде

Наша команда обучает собственные базовые LLM и внедряет их в бизнес-сценарии Авито. Цель команды — обеспечить продукты моделями, которые подходят по качеству ответов и стоимости применения.

Мы адаптируем open source-решения под русский язык и доменную специфику Авито с помощью continual pre-training и подмены токенизатора. Для развития моделей команда исследует новые методы, пайплайны, включая RL и синтетические данные, а также датасеты. Мы проводим регулярные LLM-семинары, где разбираем статьи и AI-тренды.

Технический фокус команды — построение масштабируемого пайплайна для претрейна и дообучения LLM, а также оптимизация инференса: работа с современными движками, квантованием, speculative decoding и другими методами ускорения.

Мы ищем Data Scientist в команду LLM Core. Вам предстоит создавать и развивать базовые языковые модели для аудитории Авито: от постановки исследовательской гипотезы и проведения экспериментов до внедрения решений в продакшен. В этой роли вы сможете влиять на архитектуру моделей, обучающие пайплайны и качество LLM-стека компании.

Примеры будущих задач:

— формулировать и проверять гипотезы в области претрейна, continual pre-training, post-training, RL, синтетических данных и архитектур моделей;
— самостоятельно вести сложные исследовательские и инженерные задачи: от постановки цели, выбора метрик и дизайна экспериментов до реализации, анализа результатов и внедрения;
— масштабировать обучение и инференс: профилировать узкие места, повышать эффективность распределённого обучения и инференса, работать с квантованием, speculative decoding и современными inference-движками;
— строить надёжные процедуры оценки качества, проводить анализ ошибок, находить регрессии и проектировать датасеты и метрики для сравнения моделей по качеству, latency и стоимости;
— писать продакшен-код на Python и PyTorch, проводить code review, улучшать воспроизводимость экспериментов, надёжность и поддерживаемость ML-решений;
— делиться знаниями, менторить менее опытных коллег, участвовать в архитектурных обсуждениях и внутренних LLM-семинарах. Роль не предполагает обязательного управления командой;
— масштабировать базовую модель A-vibe: исследовать новые архитектуры и подходы к обучению;
— оптимизировать скорость и стоимость инференса высоконагруженных моделей в продакшене;
— проектировать и помогать разрабатывать внутренние LLM-платформы и мультиагентные системы;
— строить надёжную инфраструктуру для оценки качества моделей.

Мы ждём, что вы:

— имеете не менее 3 лет опыта реализации и эксплуатации ML-решений;
— глубоко понимаете современные ML-алгоритмы, Transformer и принципы обучения LLM;
— имеете практический опыт обучения, адаптации или внедрения NLP-моделей и умеете превращать идеи в проверяемые эксперименты;
— умеете самостоятельно работать с неопределённостью: декомпозировать проблему, выбирать метрики, анализировать результаты и принимать технические решения;
— уверенно пишете на Python, хорошо знаете PyTorch и инженерные практики разработки;
— понимаете компромиссы между качеством, latency, throughput и стоимостью и учитываете их при выборе решения.

Будет здорово, если вы:

— работали с continual pre-training, заменой или расширением токенизатора, SFT, LoRA либо RL-подходами к post-training;
— имеете опыт распределённого обучения или оптимизации инференса и знакомы с такими инструментами, как DeepSpeed, vLLM, SGLang или TensorRT-LLM;
— строили пайплайны оценки качества, синтетические датасеты или системы автоматического анализа ошибок моделей;
— работали с MLOps-инструментами для трекинга экспериментов и версионирования данных и моделей: Weights & Biases, MLflow, DVC или аналогами;
— публиковали исследования, участвовали в open source-проектах или занимали высокие места в соревнованиях по машинному обучению.

Работа у нас — это:

— возможность влиять на продукт: ваши решения будут улучшать опыт миллионов пользователей;
— сложные технологические задачи на большом масштабе;
— мощное железо: доступ к производительным GPU-кластерам для экспериментов;
— сильное комьюнити: команда экспертов, с которой можно обсуждать идеи и подходы;
— развитие: бюджет на обучение, курсы, конференции и профессиональную литературу;
— забота о здоровье: ДМС со стоматологией с первого дня, в офисе принимают терапевт и массажист;
— гибкость: возможность работать удалённо или из офисов в 4 городах России.