MLOps/DevOps-инженер (LLM Platform)

В SimbirSoft более 1500 специалистов ежедневно решают интересные задачи, которые делают комфортнее жизни миллионов пользователей.

Мы занимаемся сервисной заказной разработкой. Если тебе интересны сложные технические задачи, работа в команде профессионалов, возможность прокачать экспертизу на проектах из разных сфер бизнеса – присоединяйся к нам!

Мы ищем MLOps/DevOps-инженера, который готов работать в продуктовой LLM-платформе, а не в исследовательской среде.

Вам предстоит

• Поддержка и развитие инфраструктуры LLM (разворачивать и обновлять inference-сервисы, управлять GPU-нодами, настраивать OpenWebUI, настраивать CI/CD пайплайны для моделей и ассистентов, управлять хранилищами для индексов и документов).
• Работа с RAG (настройка пайплайнов загрузки документов, оптимизация параметров retrieval: chunk size, overlap, embedding-модели, настройка интеграции с Langfuse для оценки качества, разворачивание и обновление LlamaIndex, Chroma, Postgres Vector — по мере масштабирования).
• Работа с интеграциями и инструментами (подключение новых MCP-инструментов - Jira, 1С, DWH, Контур-Фокус и др. к ассистентам. Разворачивание новых сервисных модулей, прокидывать порты, настраивать Ingress, Secrets, RBAC).
• Настройка мониторинга (Prometheus/Grafana, Langfuse), nightly evals (через Langfuse Datasets + judge-скоры).
• Настройка ролей и лимитов в RBAC (OpenWebUI + Keycloak), реализовывать маскировку PII (телефоны, ИНН, e-mail) в пайплайнах.
• Ведение документации (в Confluence / internal Wiki): чек-листы деплоя, обновлений, rollback, писать утилиты и скрипты (Python/Bash) для автоматизации.
• Обучение коллег (DevOps, аналитиков) работе с модулями.

Для нас важно:

• Опыт работы с LLM-моделями (vLLM, TGI, Hugging Face, Ollama).
• Практический опыт с Python (FastAPI, скрипты, CLI).
• Понимание архитектуры RAG и работы с embedding-моделями.
• Навыки настройки Prometheus/Grafana, анализа метрик производительности.
• Опыт работы с системами аутентификации (Keycloak, JWT).
• Уверенные знания Kubernetes, Docker, CI/CD (GitLab/Helm).
• Понимание принципов RBAC, изоляции данных, PII-безопасности.

Будет плюсом

• Опыт работы с Deckhouse или другими K8s-дистрибутивами.
• Знание Langfuse, LlamaIndex, Postgres Vector, Chroma.
• Знания MLOps (модели, fine-tuning, quantization, caching).
• Опыт интеграции API внешних систем (Jira, 1С, DWH).
• Умение писать внутренние утилиты и документацию.

Мы предлагаем:

• Работу в команде экспертов.
• Широкий технологический стек, сотни проектов.
• Гибкий график работы, который позволяет высыпаться и выделять время на хобби.
• Льготы и меры господдержки, предусмотренные для IT-компаний (аккредитованы Минцифры*).
• Возможность разрабатывать IT-решения для разных отраслей, пробовать новые технологии.
• У нас выстроены процессы удаленной работы, при этом есть просторные офисы с зонами коворкинга, где можно с комфортом пообщаться, поиграть в настолки или в тишине обдумать рабочие задачи.
• Возможность прокачаться во всех интересующих направлениях: стать тимлидом, архитектором, разработчиком full-stack.
• Развитую систему менторства, сертификацию за счёт компании, участие в конференциях, изучение английского языка.
• Активный обмен опытом, внутренние и внешние митапы по разработке, хакатоны, доклады по развитию hard и soft skills.
• 50+ клубов по интересам и профессиональных сообществ внутри компании.
• Уютный мерч.
• Полный соцпакет и «белую» зарплату.
• Корпоративную базу знаний и социальную сеть для удобства общения с каждым из 1500+ сотрудников.
• Гибкую систему бонусов, которая настраивается под индивидуальные потребности: различные уровни ДМС, оплата обучения и занятий любыми видами спорта.
• Заботу о ментальном здоровье: онлайн-консультации с психологом.

* Решение Министерства цифрового развития, связи и массовых коммуникаций РФ о предоставлении государственной аккредитации организации, осуществляющей деятельность в области информационных технологий от 10.03.2022 №АО-20220309-3771014210-3