Домен
Machine Learning и AI
Профиль навыка
MLflow tracking, model registry, serving, projects
Ролей
6
где встречается этот навык
Грейдов
5
сформированная дорожка роста
Обязательных требований
22
ещё 8 — необязательные
Machine Learning и AI
MLOps
17.03.2026
Выберите текущий грейд и сравните ожидания. Карточки ниже покажут, что нужно закрыть для следующего уровня.
Таблица показывает, как меняется глубина владения навыком от Junior до Principal.
| Роль | Обязательность | Описание |
|---|---|---|
| Computer Vision Engineer | Логирует эксперименты computer vision в MLflow, отслеживая метрики mAP, IoU и кривые loss. Регистрирует артефакты обученных моделей (YOLO, ResNet checkpoints) и тегирует запуски версиями датасетов. Следует командным соглашениям по организации именования CV-экспериментов и логированию параметров. | |
| Data Scientist | Отслеживает ML-эксперименты в MLflow, логируя гиперпараметры, метрики и артефакты моделей для воспроизводимости. Использует MLflow UI для сравнения запусков различных алгоритмов (XGBoost, LightGBM, sklearn). Следует командным стандартам именования экспериментов, тегирования и хранения артефактов. | |
| LLM Engineer | Логирует запуски fine-tuning LLM в MLflow, отслеживая training loss, perplexity и evaluation scores. Записывает prompt-шаблоны, конфиги tokenizer и веса адаптеров (LoRA, QLoRA) как артефакты. Использует MLflow UI для сравнения запусков различных базовых моделей и наборов гиперпараметров. | |
| ML Engineer | Обязателен | Использует MLflow для логирования экспериментов: параметры, метрики, артефакты. Сравнивает эксперименты в MLflow UI. Сохраняет модели через mlflow.log_model. |
| MLOps Engineer | Использует MLflow Tracking для логирования базовых метрик обучения: accuracy, loss, F1-score. Умеет запускать mlflow ui для просмотра экспериментов, логировать параметры модели через mlflow.log_param и сохранять артефакты обучения. Понимает структуру MLflow — experiments, runs, artifacts — и навигирует по результатам предыдущих запусков. | |
| NLP Engineer | Обязателен | Знает основы MLflow: experiments, runs, metrics, parameters, artifacts. Логирует результаты обучения NLP-моделей: F1-score, accuracy, confusion matrix для text classification и NER. |
| Роль | Обязательность | Описание |
|---|---|---|
| Computer Vision Engineer | Проектирует структуру экспериментов MLflow для многоэтапных CV-пайплайнов: настройка аугментации, выбор backbone и оптимизация detection head. Реализует логирование кастомных метрик для CV-задач (dice score, MOTA). Настраивает Model Registry для версионирования продакшен CV-моделей. | |
| Data Scientist | Выстраивает структурированные MLflow-воркфлоу для feature engineering, выбора моделей и оптимизации гиперпараметров. Интегрирует с Optuna/Hyperopt для автоматизированного тюнинга с полным логированием trials. Управляет жизненным циклом моделей в Model Registry, проводя через staging и production. | |
| LLM Engineer | Структурирует эксперименты MLflow для пайплайнов оценки LLM, логируя BLEU, ROUGE и бенчмарк-скоры по вариациям промптов. Интегрирует с Hugging Face Trainer и DeepSpeed для автоматического захвата метрик. Управляет версиями LLM в Model Registry с метаданными обучения и квантизации. | |
| ML Engineer | Обязателен | Проектирует MLflow workflow: experiment naming, run tags, artifact storage. Использует Model Registry для versioning. Настраивает autologging для sklearn/PyTorch. Пишет custom MLflow Plugins. |
| MLOps Engineer | Настраивает MLflow Tracking Server для команды: remote backend store на PostgreSQL, artifact store в S3. Реализует автоматическое логирование через mlflow.autolog для PyTorch/TensorFlow/XGBoost, настраивает кастомные метрики и теги для фильтрации экспериментов. Интегрирует MLflow в training пайплайны для воспроизводимости результатов. | |
| NLP Engineer | Обязателен | Самостоятельно управляет MLflow для NLP-проектов: организация экспериментов, model registry, artifact store. Настраивает автоматическое логирование из training scripts и comparison views. |
| Роль | Обязательность | Описание |
|---|---|---|
| Computer Vision Engineer | Обязателен | Архитектурит MLflow tracking для масштабных CV-исследований: распределённое обучение на GPU, lineage экспериментов для цепочек distillation и автоматическое продвижение моделей по бенчмаркам COCO/ImageNet. Создаёт кастомные MLflow-плагины для CV-артефактов — аннотационных оверлеев и визуализаций инференса. |
| Data Scientist | Обязателен | Проектирует архитектуры MLflow tracking для продакшен ML, интегрируя с CI/CD и автоматическими гейтами валидации. Реализует кастомные плагины для доменных метрик и хранилищ артефактов (S3, GCS). Устанавливает governance model registry с воркфлоу согласования и процедурами отката. |
| LLM Engineer | Обязателен | Архитектурит инфраструктуру MLflow для корпоративной разработки LLM: трекинг итераций RLHF reward-моделей, управление реестрами адаптеров и автоматизация evaluation-наборов (MT-Bench, HumanEval). Создаёт кастомные MLflow flavors для серверирования квантизованных LLM (GPTQ, AWQ) с трекингом latency и throughput. |
| ML Engineer | Обязателен | Проектирует MLflow infrastructure для команды. Настраивает MLflow на Kubernetes. Интегрирует MLflow с CI/CD для automated model promotion. Создаёт custom model flavors. |
| MLOps Engineer | Обязателен | Проектирует архитектуру MLflow для production: высокодоступный Tracking Server с load balancing, оптимизация хранения артефактов для больших моделей. Реализует кастомные MLflow plugins для интеграции с внутренними системами, настраивает MLflow Model Registry workflows с stage transitions и автоматическими проверками качества перед promotion в production. |
| NLP Engineer | Обязателен | Проектирует MLflow-инфраструктуру для NLP-команды. Настраивает remote tracking server, S3 artifact store, автоматические pipeline с MLflow Projects. Интегрирует с CI/CD для model deployment. |
| Роль | Обязательность | Описание |
|---|---|---|
| Computer Vision Engineer | Обязателен | Определяет стратегию MLflow на уровне команды/продукта. Формирует стандарты и best practices. Проводит review. |
| Data Scientist | Обязателен | Определяет стандарты MLflow tracking для команд data science: соглашения именования, таксономии метрик и организацию экспериментов. Продвигает Model Registry как единый источник истины для governance. Ревьюит дизайн экспериментов и практики трекинга, обеспечивая воспроизводимость ML-проектов. |
| LLM Engineer | Обязателен | Задаёт стратегию MLflow для LLM-команд, стандартизируя трекинг для fine-tuning, RLHF и prompt engineering воркфлоу. Устанавливает политики model registry для версионирования LLM с матрицами совместимости адаптеров. Ревьюит практики трекинга для соответствия требованиям data lineage и генерации model cards. |
| ML Engineer | Обязателен | Определяет experiment tracking strategy для организации. Оценивает MLflow vs W&B vs ClearML. Проектирует model governance workflow. Стандартизирует ML lifecycle. |
| MLOps Engineer | Обязателен | Определяет стандарты использования MLflow в MLOps-команде: обязательные метрики и теги для каждого эксперимента, конвенции именования, структура projects. Внедряет best practices для организации экспериментов — parent/child runs для hyperparameter tuning, nested runs для ensemble-моделей, стандартизирует MLflow Projects для воспроизводимости обучения. |
| NLP Engineer | Обязателен | Определяет стандарты использования MLflow в NLP-команде. Формирует naming conventions, tagging strategy, model promotion workflow и dashboard для мониторинга NLP-экспериментов. |
| Роль | Обязательность | Описание |
|---|---|---|
| Computer Vision Engineer | Обязателен | Определяет стратегию MLflow на уровне организации. Формирует enterprise-подходы. Менторит leads и architects. |
| Data Scientist | Обязателен | Определяет корпоративную стратегию MLflow для бизнес-юнитов, проектируя единую масштабируемую инфраструктуру трекинга. Архитектурит интеграцию с Databricks, Snowflake и feature stores. Устанавливает общекорпоративный governance моделей с проверками compliance, аудит-трейлами и протоколами межкомандного шаринга. |
| LLM Engineer | Обязателен | Определяет организационную стратегию MLflow для LLM-инициатив, объединяя трекинг fine-tuning, RAG evaluation и бенчмаркинга агентов между командами. Устанавливает стандарты registry для LLM-ассетов: базовые модели, адаптеры, embeddings и библиотеки промптов. Продвигает внедрение для governance LLM, трекинга затрат и compliance. |
| ML Engineer | Обязателен | Определяет ML platform strategy. Проектирует enterprise experiment tracking. Оценивает и интегрирует ML lifecycle tools. |
| MLOps Engineer | Обязателен | Формирует стратегию experiment tracking на уровне организации: MLflow как единая платформа для всех ML-команд, интеграция с корпоративным SSO и RBAC. Проектирует архитектуру multi-tenant MLflow с изоляцией данных между командами, определяет политики retention для экспериментов и артефактов, планирует масштабирование для тысяч одновременных экспериментов. |
| NLP Engineer | Обязателен | Формирует enterprise-стратегию MLflow для NLP-платформы организации. Определяет multi-team setup, централизованный model registry и стандарты воспроизводимости экспериментов. |