Консультант по LLM/RAG

Мы запускаем стартап по созданию платформы для взаимодействия с AI чат ботом. Наша цель — создать умные, адаптивные системы, которые меняют подход к автоматизации, повышают эффективность и улучшают взаимодействие с пользователями. С нашими AI-ботами компании смогут решать сложные задачи с минимальными затратами времени и ресурсов.

Мы находимся в поиске консультанта по LLM/RAG на проектную занятость.

Чем предстоит заниматься:

• Изучение предоставленных материалов: архитектура, схема интеграций, описание продукта, целевой сценарий, примеры диалогов и текущие промпты и и подход к RAG.
• Проведение 1–3 стратегических встреч с командой для обсуждения подхода, ограничений и масштабирования.
• Аудит архитектуры: используемые LLM-модели, подход к RAG (источники данных, индексация, кэширование), AI-агенты и инструменты (tool calling, action-агенты оркестрация), система промптов и стратегия дообучения (fine-tuning, LoRA, адаптеры).
• Формирование заключения по результатам аудита: сильные и слабые стороны, риски, список улучшений.
• Рекомендации по выбору стека, стратегии обучения/дообучения, метрикам качества (A/B-тестирование, регрессия), процессу обновления и переобучения моделей.
• Опционально — помощь в формировании требований к ML/LLM-инженеру или команде.

Мы предлагаем:

• Разовую оплату за консультацию и готовы выслушать ваши пожелания по оплате и условиям сотрудничества.

Что для нас важно:

• Опыт работы от 3-х лет в ML/DS/AI-разработке — ключевое требование для понимания основ и работы с технологиями.
• Опыт работы от 1,5 лет с LLM-моделями — создание чат-ботов и диалоговых систем на их основе, знание продуктов, работающих с LLM.
• Опыт работы с RAG-системами — запуск систем поиска по данным (документация, сайты, базы знаний), индексация, кэширование, обработка запросов.
• Внедрение и работа с AI-агентами — оркестрация задач, tool calling, создание последовательности действий моделью.
• Опыт работы с коммерческими AI-продуктами — участие в крупных проектах, а не только в pet-проектах или демо-версиях.
• Глубокое понимание архитектуры LLM-продуктов — опыт работы с ретриверами, индексами, перезапросами, re-ranking, архитектурой AI-агентов.
• Практический опыт fine-tuning и дообучения моделей — использование различных методов (fine-tuning, LoRA, adapters), выбор подхода в зависимости от задачи.
• Умение строить системные промпты и архитектуру промптов — работа с ролями, инструкциями, safety-слоем, контекстом, создание эффективных цепочек промптов для разных задач.
• Понимание принципов безопасности данных и приватности в LLM-системах — знание, как минимизировать риски утечек и обеспечения конфиденциальности.
• Уверенные навыки работы с Python и популярными LLM-фреймворками (LangChain, LlamaIndex и аналогами).

Оставляйте отклик и мы свяжемся с Вами в ближайшее время!