NLP инженер (Senior)

Чем предстоит заниматься:

• Проводить Instruct tuning для задач Text-to-SQL/NL2SQL и PLP.
• Разрабатывать дизайн экспериментов, формулировать гипотезы для улучшения NLP/PLP моделей и алгоритмов, планировать исследовательские эксперименты с выводами.
• Проводить эксперименты, писать код, готовить датасеты и бенчмарки, проводить замеры и анализировать результаты.
• Обучать модели на кластере, включая обучение моделей с нуля и дообучение опенсорс моделей.
• Взаимодействовать с прод-командой для интеграции моделей и алгоритмов в продакшн.
• Ориентироваться на SOTA, читать пейперы, быть в курсе последних исследований, предлагать новые смелые подходы и направления.

Для нас важно:

• Релевантный опыт от 4 лет.
• Глубокие теоретические знания в DL, с упором в современный NLP и трансформеры.
• Умение формулировать эксперименты с научной
• строгостью, обосновывать их, проводить самостоятельно и делать выводы.
• Практический опыт обучения трансформеров.
• Навыки реализации распределенного обучения моделей (deepspeed,
• fsdp, torch.distributed, accelerate).
• Знание стандартных библиотек для DL и NLP (PyTorch и библиотеки Huggingface).
• Обучение моделей на кластере.
• Увлеченность NLP/PLP и DL.
• Знания lora/p-tune и других peft/sft-подходов.
• Знакомство с Spider/CoSQL.

Главный принцип SkillStaff - Выбирай!

• ЭКСПЕРТИЗА. Делай выбор в пользу проектов с разным уровнем сложности и экспертных команд, где можно работать с лучшими специалистами и обмениваться опытом.
• РАЗНООБРАЗИЕ ПРОЕКТОВ. Выбирай из сотен компаний и проектов то, что интересно и полезно для твоего роста. SkillStaff помогает реализовывать ежегодно порядка 500 различных ИТ-проектов для крупного бизнеса.
• КОМФОРТ. Создавай идеальные условия для своей работы: удаленный формат работы на территории РФ.