Inspect Volcano workloads faster with Headlamp

The inside scoop on alerting changes in Kubernetes Monitoring

Grafana Cloud's Kubernetes Monitoring có hai hệ thống cảnh báo riêng biệt: cảnh báo quản lý bởi data source (Mimir/Prometheus) và cảnh báo quản lý bởi Grafana. Việc cài đặt lại app sẽ tự động chuyển quy tắc cảnh báo sang hệ thống Grafana, có thể làm gián đoạn các tuyến thông báo đã cấu hình trong Alertmanager. Bài viết hướng dẫn cách nhận diện hệ thống cảnh báo đang sử dụng, nguyên nhân ngừng hoạt động sau khi cài đặt lại, và các phương pháp tốt nhất như sử dụng nút Update thay vì cài đặt lại, sao lưu quy tắc tùy chỉnh trước khi nâng cấp, và lưu ý rằng cảnh báo quản lý bởi data source (Prometheus/Loki) sẽ ngừng hoạt động từ tháng 4/2026.

Lập trình viên cần đọc bài này để tránh mất hiệu suất cảnh báo trong Kubernetes khi tái cài đặt Grafana Cloud, vì nó có thể phá hủy cấu hình thông báo hiện có và cảnh báo cũ sẽ chuyển sang hệ thống quản lý mới, gây mất liên lạc với các hệ thống cảnh báo bên ngoài.

How to Build a Durable, Autoscaling AI Agent with Temporal, Composio, KEDA, and Kubernetes

Bài viết hướng dẫn xây dựng một runtime AI agent sản xuất có khả năng chịu lỗi, phục hồi sau sự cố nhờ Temporal, tự động scale dựa trên độ sâu queue bằng KEDA, triển khai trên Kubernetes, và tích hợp công cụ qua Composio. Kiến trúc bao gồm workflow Temporal, FastAPI gateway, container hóa bằng Docker multi-stage, triển khai trên k3d, cùng cấu hình KEDA ScaledObjects để scale-to-zero khi không có tác vụ.

Lập trình viên muốn triển khai một hệ thống AI sản xuất có độ bền cao và tự động hóa quy mô theo nhu cầu thực tế sẽ tìm hiểu cách kết hợp Temporal, KEDA và Kubernetes để giải quyết vấn đề xử lý nhiệm vụ dài hạn, tự động hóa quy mô và đảm bảo sự ổn định trong môi trường cloud-native.

AI & Kubernetes

Bài viết giới thiệu các loại khối lượng công việc AI (workloads) trên Kubernetes, bao gồm huấn luyện (training) và suy luận (inference), giải thích lý do Kubernetes phù hợp cho huấn luyện AI nhờ khả năng quản lý tài nguyên, đồng thời nêu vai trò của ngữ cảnh trong tùy chỉnh mô hình AI và các kỹ thuật tinh chỉnh (fine-tuning) cùng kỹ thuật prompt engineering.

Nếu bạn đang làm việc với các dự án AI, hiểu cách Kubernetes hỗ trợ hiệu quả cả việc huấn luyện và dự đoán mô hình sẽ giúp tối ưu hóa chi phí, hiệu suất và quản lý tài nguyên một cách thông minh.

Building a European Cloud Orchestration Platform within an Enterprise

Họ xây dựng nền tảng điều phối cloud dựa trên Kubernetes Control Plane, tận dụng các công cụ như Crossplane, External Secrets Operator, Kyverno và Flux để quản lý tài nguyên đa nền tảng (AWS, GCP, Azure) và triển khai GitOps. OpenControlPlane cho phép các nhóm dev yêu cầu Control Plane đã cấu hình sẵn, trong khi các hoạt động thúc đẩy adoption như tech talks, inner-source và giải quyết pain points chung đã giúp dự án sau đó được đóng góp cho sáng kiến IPCEI-CIS nhằm thúc đẩy chủ quyền cloud châu Âu.

Lập trình viên chuyên về cloud và DevOps sẽ tìm hiểu cách tối ưu hóa kiến trúc Kubernetes trong doanh nghiệp bằng cách kết hợp các công cụ mở nguồn như Crossplane và Kyverno để giải quyết vấn đề quản lý đa cloud và tuân thủ chính sách một cách hiệu quả.

TPUs vs GPUs: When to Choose What for AI/ML Workloads

A practical framework for choosing between TPUs and GPUs for AI/ML workloads, covering silicon architecture differences, use-case fit, and total cost of ownership. TPUs excel at large-scale JAX-based pretraining (100B+ params) on GCP with committed-use discounts, but their static shape requirements, GCP-only availability, and smaller ecosystem make GPUs the default for most teams. GPUs dominate due to PyTorch/CUDA ecosystem maturity, dynamic shape support, multi-cloud portability, and viable spot automation. The post also covers GPU cost optimization strategies including rightsizing via DCGM, spot instance automation, MIG partitioning, and inference density improvements, with Cast AI promoted as a solution for automating these optimizations.

CrashLoopBackOff in Kubernetes: The Real Causes and How We Fix It

CrashLoopBackOff is a Kubernetes pod status (not an error code) where a container repeatedly starts, crashes, and is restarted with exponential backoff (10s→300s, capped at 5 min). Six root causes are covered: application/config errors, OOM kills (exit code 137), failing liveness probes, bad image or entrypoint, missing dependencies, and init container failures. A step-by-step diagnostic loop is provided: kubectl get pods → describe pod → logs --previous → get events → fix. Key fixes include increasing memory limits for OOM kills, using startupProbe for slow-starting apps, correcting env vars and entrypoints for config errors, and checking init container logs explicitly with -c flag. Prevention tips include setting accurate resource requests/limits, implementing graceful shutdown, and using VPA or automated rightsizing tools.

Introducing the Cluster API plugin for Headlamp

The Headlamp Cluster API plugin is a new open-source plugin for the Headlamp Kubernetes UI that brings visual management of Cluster API (CAPI) resources. It replaces raw kubectl commands with a dedicated UI section featuring cluster overviews, machine visibility, a health dashboard, control plane monitoring, one-click scaling of MachineDeployments and MachineSets, bootstrap config inspection, a visual map view of resource relationships, and Prometheus metrics integration. The plugin supports both v1beta1 and v1beta2 CAPI API versions and was developed during the CNCF LFX Mentorship program. It is currently in Alpha release.