Cтарший разработчик платформы машинного обучения (LLM, AI)

Чем предстоит заниматься

• Проектировать архитектуру и разрабатывать backend-ядро и компоненты платформы
• Разрабатывать логику управления диалоговыми сценариями
• Интегрировать внутренние и внешние LLM, ASR/TTS-провайдеры
• Участвовать в проработке сценариев сквозной проверки качества работы пайплайнов и корректности диалогового поведения
• Участвовать в Сode Review

Что для этого нужно

• Коммерческий опыт backend-разработки на Python от 4 лет
• Понимание архитектуры backend-приложений и распределенных систем
• Понимание принципов масштабирования распределенных сервисов в кластерной среде (Kubernetes и аналогичные платформы)
• Уверенный опыт с FastAPI и asyncio
• Опыт работы с PostgreSQL (Asyncpg, SQLAlchemy)
• Опыт работы с брокерами сообщений Kafka/RMQ
• Опыт работы с LLM / conversational AI

• Понимание принципов работы и особенностей ASR/TTS пайплайнов

Будет плюсом

• Опыт проектирования разработки диалоговых движков, state machine или behavior tree
• Опыт со звуком: препроцессинг, обработка, постпроцессинг (PCM, кодеки, нормализация и т.д.)
• Опыт с обработкой естественного языка (NLP)
• Опыт с gRPC и стримингом
• Опыт с Triton Inference Server, Redis, ClickHouse, Kubernetes
• Опыт с LangChain или аналогичными фреймворками для LLM orchestration
• Опыт с векторными БД (Milvus, Qdrant)
• Опыт с SIP телефонией
• Опыт работы с Multiprocessing