Разработчик платформы GenAI (Middle Backend Engineer)

О проекте

Создаем веб-платформу, где пользователи могут создавать, настраивать и запускать свои решения на базе GenAI. Тебя ждут участие в проектировании серверной архитектуры и реализация ключевых сервисов: от API и очередей до интеграций с LLM и векторными БД.

Твои задачи

Бэкенд и архитектура:

Участие в выборе технологического стека и проектировании масштабируемой серверной архитектуры (сервисы, слои, границы контекстов)

Проектирование и реализация основных API (REST/gRPC), real-time (WebSocket/SSE)

Проработка модели данных и схемы хранения (Mongo, PostgreSQL), очередей/стримов.

Закладывать безопасность: аутентификация и авторизация (OAuth2/OIDC, JWT), RBAC/ABAC, rate limiting, audit

GenAI-функциональность:

Интеграции с провайдерами LLM (OpenAI/Anthropic/Yandex/Sber): чат, функции-вызовы, стриминг токенов

RAG-пайплайн: загрузка и нарезка документов, эмбеддинги, векторный поиск (Qdrant), перегруппировка результатов

Оркестрация промпов, бюджетирование, логирование и наблюдаемость качества ответов

Качество и надежность:

Покрытие кода тестами (unit/integration)

Оптимизация производительности

Поддержка наблюдаемости

Требования

4+ лет коммерческой разработки на Python, 2+ года с FastAPI и asyncio.

Уверенное владение Pydantic, SQLAlchemy.

Опыт проектирования и реализация серверных API (REST/gRPC), real-time (WebSocket/SSE).

Отличное знание SQL/реляционных БД (PostgreSQL) и NoSQL (Mongo, Redis).

Опыт работы с очередями/стримами и асинхронной обработкой задач.

Практика интеграции внешних API.

Тестирование (unit/integration), базовые навыки нагрузочного тестирования.

Docker, базовые навыки Kubernetes; настройка CI/CD.

Понимание принципов безопасности, устойчивости и наблюдаемости в проде.

Будет плюсом

Опыт построения RAG-систем, знание LangChain/LlamaIndex или аналогов.

Работа с векторными БД (qdrant, pgvector, Pinecone) и эмбеддинг-моделями.

Опыт со streaming inference (vLLM, ollama), очередями задач (Celery/Temporal)