CloudNative.Now

Distributed LLM Inference on Kubernetes with llm-d, Wasm, & TornadoVM

Edoardo Vacchi covers the evolving landscape of WebAssembly on the backend, running Java workloads on GPUs using TornadoVM, and optimizing distributed AI inference using llm-d and vLLM on Kubernetes.

A refreshed Network Policy Editor website and two new VS Code extensions

Meet the refreshed Network Policy Editor and two new VS Code plugins.

Kubernetes Multi-Tenancy, Layer by Layer: Isolation Proved by Being Refused

“” is published by Filipe Motta in ITNEXT.

How to Build an Agentic Development Tech Stack

Bối cảnh xây dựng agentic development tech stack đang trở nên quan trọng khi các hệ thống AI tự chủ ngày càng phổ biến. Nguyên nhân kỹ thuật đến từ nhu cầu tích hợp nhiều thành phần như models, orchestration, memory, tools, observability, evaluations, guardrails và testing. Hệ quả là việc thiếu kế hoạch tổng thể dẫn đến hệ thống phức tạp, khó bảo trì và không đảm bảo chất lượng. Điều đáng học là cần có thiết kế hệ thống có cấu trúc, rõ ràng cho từng thành phần để tạo ra nền tảng agent mạnh mẽ và đáng tin cậy.

Bài này giúp bạn thiết kế hệ thống công cụ phát triển agent hiệu quả với các thành phần then chốt như model, orchestration và bảo mật.

What Is OpenTelemetry? A Guide to the OTel Framework

What is OpenTelemetry? See how the OTel framework standardizes traces, metrics, and logs so you can switch backends freely.

NestJS 12: ESM Packages, Standard Schema Validation and Native Observability

NestJS phiên bản 12 đã chuyển đổi các package core sang ESM và triển khai Standard Schema validation. Thay đổi này giải quyết vấn đề module resolution trong ESM của JavaScript, giúp tăng hiệu suất cho các application lớn. Bản cập nhật cũng CLI và giới thiệu observability SDK để giám sát ứng dụng dễ dàng hơn. Lập trình viên nên đọc bài gốc để biết chi tiết về Standard Schema validation và cách tích hợp observability SDK vào project NestJS hiện tại.

NestJS 12 mang đến những cập nhật quan trọng về ESM, validation schema và khả năng quan sát hệ thống giúp lập trình viên nâng cao hiệu suất và hiệu quả phát triển ứng dụng.

Announcing the OpenTelemetry JavaScript SDK 3.0

OpenTelemetry JavaScript has released SDK 3.0 (stable v3.0.0 packages and experimental v0.300.0 packages) and API 1.10.0. Migration guide For a detailed description of breaking changes, see the OpenTelemetry JS SDK 3.x migration guide. What is JS SDK 3.x? JS SDK 3.x encompasses new releases of the @opentelemetry/* JavaScript packages published from the opentelemetry-js repository, except the API and semantic-conventions packages. The package versions for this new major will be >=3.0.0 for the stable and >=0.300.0 for the unstable packages. Details on the full list of packages can be found in the migration guide.

Any agent anywhere: How to use Grafana Cloud with Claude, Cursor, and any other AI agent

Learn how any agent—whether it's Grafana Assistant, a coding agent in your IDE, or a tool you’ve built yourself—can interact with Grafana Cloud and use your observability data to find root causes faster.