Senior QA Automation Engineer в команду AI-агенты

Привет! Мы — команда AI-агентов, и мы создаём агентов для пользователей (B2B, B2C). Например, агент при работе с картой или карточкой фирмы (Запись на услуги или ответы на вопросы по компании. Можно посмотреть пример тут).У нас в команде высокая скорость доставки фичей и релизного цикла, минимальный уровень бюрократии. При этом присутствуют все плюсы бигтеха.Сейчас мы ищем QA-инженера, который поможет нам донастроить процессы квалити гейтов и тестирования с помощью Copilot и внутренних AI-инструментов.

Чем предстоит заниматься

• Участвовать в проектах по разработке AI-ассистентов на базе API 2ГИС с текстовыми и голосовыми интерфейсами.
• Организовать и выстроить процесс тестирования AI-агентов.
• Организовывать и проводить различного рода тестирование (тест требований, ручное, функциональное, E2E, нагрузочное) AI-агентов на всем цикле разработки.
• Проводить нагрузочное тестирование, подготовку тестовых сценариев и данных.
• Активно использовать такие инструменты как Copilot в работе.
• Мониторить состояние систем и агентов на продакшн-среде, настраивать алертинг (основные алерты уже есть).

Ожидаем, что у вас есть

• Опыт формирования процесса тестирования продукта с высокой нагрузкой.
• Написание автотестов на Python (3+ года) и ручного тестирования.
• Опыт настройки CI/CD.
• Опыт нагрузочного тестирования на k6 или другого инструмента.
• Внимание к деталям и умение видеть общую картину.

Будет плюсом

• Понимание принципов работы LLM (токенизация, промпты).
• Знание архитектур AI агентов (ReAct, Tool Use, RAG, Multi-Agent).
• Опыт работы с LangChain или аналогичными фреймворками.
• Понимание недетерминированности AI систем и методов их контроля.

Наш стек и виды тестирования на проекте

• Langfuse. Трейсинг и мониторинг AI пайплайнов.
• Интеграционное тестирование. End-to-end сценарии с реальными API. Тестирование цепочек рассуждений агента. Проверка контекстной памяти и диалогов.
• Системное тестирование. Performance под нагрузкой (latency, throughput). Стресс-тестирование при высоком количестве запросов. Тестирование деградации при недоступности внешних API. Все реализовано на K6
• Safety Testing. Prompt injection. Тестирование на генерацию вредного контента. Проверка обработки персональных данных.

Почему у нас хорошо

• Сильная QA-вертикаль.
• Мы аккредитованная IT-компания.
• Полностью белая зарплата.
• Предоставляется ДМС, корпоративное обучение.
• Возможность работать удалённо или в одном из наших офисов: Москва, Санкт-Петербург, Новосибирск.
• Комфортные условия работы: современное оборудование, организованные встречи команды как онлайн, так и офлайн.
• Поддержка в профессиональном развитии: участие в конференциях, тренингах и публикациях на профильных ресурсах.

Будем рады развивать продукты вместе :)