Как Kubernetes 1.37 размещает распределённую задачу целиком
Что меняют PodGroup, gang scheduling и CompositePodGroup для распределённых задач: минимальный состав, топология, вытеснение и границы beta/alpha.
Pod растёт, сосед уходит: цена resize-preemption в Kubernetes 1.37
Как scheduler освобождает ресурсы для работающего Pod, почему PDB не даёт абсолютной защиты и что измерить перед включением экспериментального resize-preemption.
Поиск по архиву
Архив сигналов
Раздел: MLOps
6 публикаций
Разделы архива
GPU должны быть готовы до всплеска: как построить упреждающее масштабирование в Kubernetes
Практическая схема predictive autoscaling для GPU: измерить lead time, прогревать ёмкость волнами, проверить прогноз в shadow mode и оставить реактивный safety net.
Пул GPU — ещё не AI-платформа: пять контрактов для production
Как превратить общий GPU-пул в production-платформу: validation gate, topology-aware allocation, trust domains, remediation и измеримый self-service.
Токены дешёвые, GPU дорогая: зачем OpenCost считает стоимость инференса дважды
Почему OpenCost 1.121.0 разделяет usage- и allocation-стоимость LLM-инференса, как связывает vLLM-метрики с расходами Kubernetes и где labels превращают цену в ноль.
Один пакет для пяти клиентов: где Kubeflow SDK упрощает MLOps, а где — нет
Как единый Kubeflow SDK проводит ML-код от локального процесса до Kubernetes — и какие версии, квоты, доступы и наблюдаемость всё равно остаются обязанностью платформы.
Все Pod работают, а 60% GPU простаивают: как Kubeflow и Cilium приняли два правильных решения
Почему здоровые Pod и правильная network policy могут остановить распределённую тренировку — и как topology-aware placement возвращает GPU к работе.