ML Engineer (ML HomeOS)

SberDevices — инновационное направление экосистемы Сбера, которое создает умные устройства, виртуальных ассистентов и платформенные решения в области NLP, computer vision, speech и ML-инфраструктуры.

Команда ML HomeOS ищет ML Engineer, который будет заниматься обучением и адаптацией языковых моделей для пользовательских сценариев умных устройств: голосовой ассистент, управление HomeOS, персонализация и контекстное понимание, с фокусом на продакшен-качество и масштабирование.

Чем предстоит заниматься?

• Обучение и дообучение языковых моделей: continued pretraining / domain-adaptive pretraining под задачи HomeOS;
• Проведение Supervised Fine-Tuning (SFT) для decoder-only LLM, обучение и адаптация encoder-моделей под прикладные сценарии;
• Применение и развитие parameter-efficient fine-tuning подходов: LoRA / adapters / prefix- и prompt-tuning;
• Обучение и адаптация BERT-подобных encoder-моделей, а также классификаторов и encoder / seq2seq моделей для NLP-задач;
• Составление требований для датасетов SFT;
• Построение и поддержка пайплайнов обучения и переобучения моделей;
• Оптимизация моделей под продакшен-ограничения (latency, память, масштабирование);
• Взаимодействие с инфраструктурными командами при интеграции моделей в ML-платформу HomeOS.

Мы ожидаем, что вы:

• Опыт работы в ML / NLP от 3 лет;
• Практический опыт fine-tuning трансформеров;
• Опыт работы с LoRA / adapters / PEFT-подходами;
• Понимание архитектур ecoder-only, decoder-only, encoder-decoder);
• Опыт обучения классификаторов и encoder / seq2seq моделей;
• Понимание ML-продакшена: воспроизводимость, версионирование, стабильность и воспроизводимость инференса;
• Опыт оптимизации обучения и инференса моделей;
• Навыки построения ML-пайплайнов и работы с оркестраторами.

Будет плюсом:

• Опыт участия в pretraining или large-scale fine-tuning проектах;
• Понимание особенностей продакшен-эксплуатации LLM;
• Опыт domain adaptation (continued pretraining, SFT, data-centric подходы) под закрытые или специфичные домены;
• Опыт распределённого обучения и оптимизации инференса;
• Опыт работы с ML-инфраструктурой для high-load систем;
• Опыт работы с:

* RLHF / preference optimization

* Distillation / quantization

* Inference optimization (KV-cache, batching и др.)

• Сильная команда, амбициозные задачи и продукты, которыми пользуются миллионы;
• Удобный формат работы с возможностью гибкого начала рабочего дня;
• Надёжная программа ДМС и НС с первого месяца работы;
• Обучение и развитие: курсы и тренинги от корпоративного университета, внешнее обучение за счёт компании и участие в конференциях;
• Льготная ипотека и корпоративная пенсионная программа;
• СберКлуб: cкидки от партнёров, повышенные бонусы, акции экосистемы, подписка СберПрайм+.