Senior Engineer AI DSO (LLM / AI-продукты)

Мы в поиске Senior Engineer AI DSO (LLM / AI-продукты) в направление Data Science Operations команды Data Science

Вы будете заниматься сопровождением и развитием операционной архитектуры корпоративной LLM-платформы РУСАЛа

Задачи:

Вы будете отвечать отвечать за полный цикл операционного сопровождения разработки и внедрения интеллектуальных решений на корпоративной LLM-платформе:

• Настройка и обеспечение работоспособности интеграций и конфигураций LLM-платформы для активностей и пользователей;
• Формирование и администрирование групп пользователей в OpenWebUI (пользователи по проектным активностям в рамках реализации проектов);
• Формирование и администрирование групп пользователей LiteLLM (пользователи по проектным активностям в рамках реализации проектов);
• Реализация сетевых доступов для сегментов сетей под сервисы реализуемых продуктов в рамках LLM-платформы, в соответствии с архитектурой платформы и требованиями ИБ;
• Подготовка и актуализация гайдов и инструкций для подразделений-заказчиков по работе с сервисами LLM-платформы;
• Обеспечение доступа к гайдам, администрирование корпоративных баз знаний;
• Подготовка и актуализация внутренних гайдов для администрирования сервисов LLM-платформы;
• Управление процессами взаимодействия пользователей с активностями и сервисного обеспечения платформы;
• Организация SLA и процедур поддержки LLM-платформы;
• Синхронизация с ИБ и формирование документации для фреймворков по обеспечению безопасности и платформы в целом.

Требования:

• Опыт работы в Data Science c LLM/NLP разработкой от 2 лет;
• Опыт администрирования и настройки, конфигурирования сервисов на базе LiteLLM, OpenWebUI;
• Понимание реализации On-premise архитектуры для работы с LLM, LLM Orchestration plane;
• Опыт реализации API-интеграций и обеспечения сетевых доступов для сегментов сетей под сервисы реализуемых продуктов в рамках LLM-платформы;
• Опыт применения фреймворков для обеспечения безопасной работы, использования Guardrails;
• Навыки подготовки, документации и гайдов для пользователей и администраторов корпоративных сервисов;
• Навыки организации SLA и управления процессами взаимодействия пользователей с активностями и сервисного обеспечения платформы.

Будет плюсом:

• Опыт создания / поддержки сервисов на базе n8n;
• Понимание жизненного цикла AI-продуктов;
• Опыт работы с таск-трекерами (Jira, YouTrack, Azure DevOps) и платформами для управления корпоративными знаниями (Confluence).

Условия:

• Возможность присоединиться к сильной команде, работающей с задачами в реальном секторе;
• Оформление в аккредитованную ИТ компанию;
• Полностью удаленный формат работы/гибрид;
• Возможность участвовать в интересных и сложных проектах с ведущими специалистами индустрии;
• Пятидневная рабочая неделя (5/2) с 9:00 до 18:00;
• Работа в крупной международной компании (69 тыс. сотрудников, 1-е место по объему производства алюминия в мире), официальное трудоустройство (белая ЗП, отпуск, больничный);
• Оформление, оплата отпусков и больничных в соответствии с ТК РФ.

Для связи @Tatyana_pim