#multi-tenancy

Kubernetes Multi-Tenancy, Layer by Layer: Isolation Proved by Being Refused

“” is published by Filipe Motta in ITNEXT.

Multi-Tenant Best Practices Can Backfire

Multi-tenant architecture giúp tối ưu tài nguyên nhưng các best practices như shared database và tenant context thực chất che giấu những trade-off. Việc sử dụng tenant-aware filtering trong PostgreSQL hay Redis cho mỗi request tăng latency lên đến 30-50ms. Shared database dẫn đến rủi ro data leakage khi tenant_id bị bypass trong 1 truy vấn SQL. Feature flags tuy linh hoạt nhưng gây khó khăn trong việc theo dõi bug và triển khai thực tế. Bạn nên cân nhắc trade-off giữa isolation và performance trước khi áp dụng các giải pháp multi-tenant.

Multi-Tenant Best Practices Can Backfire giúp lập trình viên nhận diện những điểm mù khi triển khai đa khách hàng và tránh các vấn đề tiềm ẩn.

Multi-tenant GPU Kubernetes on simulated hardware with Kamaji and HAMi

Các đội làm việc với GPU thường đối mặt với lựa chọn khó khăn: thiết lập cluster Kubernetes riêng cho mỗi team sẽ phát sinh chi phí cho control plane riêng, trong khi dùng cluster chung lại gây xung đột tài nguyên. Kamaji và HAMi giải quyết vấn đề này bằng cách cho phép multi-tenant GPU Kubernetes trên hardware mô phỏng, tận dụng tính năng CRI (Container Runtime Interface) để quản lý tài nguyên GPU hiệu quả. Hệ quả là giảm đáng kể chi phí infrastructure lên đến 40% so với mô hình cluster riêng, đồng thời đảm bảo isolation giữa các tenant nhờ công nghệ GPU virtualization của HAMi. Điều đáng học hỏi là cách kết hợp Kamaji (một CNCF project quản lý control plane) với HAMi (thư viện virtualization AMD) tạo ra giải pháp hiệu quả cho môi trường multi-tenant mà không cần đầu tư phần cứng chuyên dụng.

Bài viết giải pháp cân bằng chi phí và hiệu năng khi chia sẻ GPU Kubernetes giữa nhiều đội nhóm mà không cần nhiều control plane riêng.

How Valkey 9.0 reduces the large object noisy neighbor problem

A few 10MB requests per second wrecked the tail latency of a 100K req/s workload on Valkey 8.1. Reply copy avoidance in Valkey 9.0 cuts p99.9 from 26.2ms to 3.10ms.

PostgreSQL Query Optimization: The Index That Made Our Fastest Query 40 Times Slower

PostgreSQL Query Optimization: The Index That Made Our Fastest Query 40 Times Slower Our Staff Engineer approved the index. The benchmark looked excellent. Three days later, a junior developer found …

Volcano v1.16 Released: NamespaceQueue, fairshare, and a broader HyperNode ecosystem

Volcano v1.16.0 is available . v1.16.0 introduces NamespaceQueue and the fairshare plugin. Tenants can use hierarchical queues within their own namespaces to…

Deploying third-party applications to Red Hat OpenShift: Common pitfalls and how to avoid them

This article outlines common technical challenges enterprises face when deploying third-party applications to Red Hat OpenShift. Key pitfalls include lifting and shifting virtual machine workloads to containers without architectural changes, which increases resource overhead.

Readyon Builds Four Layer Tenant Isolation for Multi Tenant Amazon EKS

ReadyOn has detailed a four-layer tenant isolation architecture for its Harmony platform on Amazon EKS. The design combines Kubernetes namespaces, dedicated Karpenter node pools, VPC security groups,

Long running jobs shouldn't be first-come first-served

When work backs up, something decides who waits and for how long. In most queues, that's arrival order. Here's how to decide it yourself with two Inngest features: concurrency keys and priority.

Building Your Own AI Platform for Vibe-Coded Apps

Tôi đã xây dựng nền tảng AI self-hosted cho phép người không phải lập trình viên xây dựng và triển khai ứng dụng nội bộ bằng Claude Code trên nền tảng Supabase. Quá trình thực hiện gặp nhiều thách thức kỹ thuật đáng kể, đặc biệt là vấn đề tích hợp Claude Code với hệ thống Supabase. Hệ quả là nền tảng hỗ trợ được 15 ứng dụng nội bộ giúp tăng 40% hiệu suất làm việc của các phòng ban. Bài viết chia sẻ những bài học quý giá về cách xử lý các lỗi authentication và dữ liệu trong quy trình tự động hóa. Đây là case study thực tế rất hữu ích cho những ai muốn triển khai giải pháp no-code platform kết hợp AI.

Bài viết này giúp bạn hiểu cách xây dựng một nền tảng AI tự hosting cho ứng dụng Code bằng Claude trên Supabase.

PostgreSQL row-level security for SaaS: what we measured

Bài viết đo lường hiệu năng của row-level security (RLS) trong PostgreSQL 17 cho môi trường SaaS multi-tenant. Các thử nghiệm cho thấy RLS làm tăng chi phí truy vấn lên khoảng 5-20% so với các truy vấn thông thường. Cơ chế RLS hoạt động bằng cách thêm các điều kiện security policy vào mỗi truy vấn, tự động lọc dữ liệu theo tenant ID. Kết quả kiểm tra chi tiết từng test case giúp xác định các điểm hiệu ứng security overhead nhất. Những phát hiện này hữu ích cho các lập trình viên đang cân nhắc triển khai RLS trong các ứng dụng SaaS lớn.

Bài này cung cấp số liệu đo lường thực tế về hiệu năng và bảo mật của row-level security trong PostgreSQL cho nền tảng SaaS đa khách hàng.

Amazon OpenSearch Service now supports index-level encryption

Amazon OpenSearch Service đã bổ cấp tính năng mã hóa cấp index, cho phép người dùng bảo vệ dữ liệu nhạy cảm ở mức độ chỉ mục cụ thể. Tính năng này sử dụng AWS KMS (Key Management Service) để quản lý các khóa mã hóa, giúp tăng cường bảo mật mà không ảnh hưởng đến hiệu suất truy vấn. Người dùng có thể áp dụng chính sách mã hóa khác nhau cho từng index trong cùng một cluster, đáp ứng các yêu cầu tuân thủ khác nhau. Giải pháp này đặc biệt hữu ích cho các hệ thống xử lý dữ liệu đa dạng với các mức độ bảo mật khác nhau.

Tìm hiểu cách Amazon OpenSearch Service hỗ trợ mã hóa cấp chỉ mục để tăng cường bảo mật dữ liệu trong môi trường AWS.

new row violates row-level security policy: the causes

PostgreSQL 17 ghi nhận lỗi "new row violates row-level security policy" khi thực hiện các thao tác như INSERT, RETURNING, upserts và MERGE. Nguyên nhân kỹ thuật xảy ra khi RLS (Row-Level Security) kiểm tra dữ liệu mới nhưng không áp dụng được policy do conflict giữa tên policy và tên role. Hệ quả là thao tác bị từ chối ngay cả khi dữ liệu tuân thủ policy, gây ra behavior không nhất quán. Điều đáng học là cần check policy naming convention và đảm bảo role có đủ permission để tránh lỗi này, đặc biệt khi sử dụng RETURNING clause hoặc MERGE command.

Bài viết giúp lập trình viên hiểu rõ nguyên nhân và cách xử lý lỗi vi phạm chính sách bảo mật cấp hàng trong PostgreSQL.

Multi-Tenant SaaS Apps with Auth0 Organizations — Part One

Learn how Auth0 Organizations power multi-tenant B2B SaaS: tenant isolation, enterprise SSO, Home Realm Discovery, and org-level roles.

Build a multi-tenant platform with OpenShift Dev Spaces

OpenShift Dev Spaces hỗ trợ xây dựng platform multi-tenant quy mô lớn với namespace isolation giữa các tenant. Nguyên nhân kỹ thuật là cần thiết lập resource limits và quotas để ngăn chặn tenant chiếm dụng tài nguyên hệ thống. Hệ quả nếu không cấu hình đúng là etcd storage bị đầy gây downtime cho toàn hệ thống. Điều đáng học là triển khai guardrails tự động cleanup etcd để đảm bảo resource limits được tuân thủ. Các kỹ thuật này giúp quản lý hàng trăm namespace mà không ảnh hưởng đến performance chung.

Bài hướng dẫn này giúp bạn nắm vững cách cấu hình OpenShift Dev Spaces quy mô lớn với quản lý namespace đa tenant, giới hạn tài nguyên và cơ chế dọn etcd.

One Model, Many Tenants: Testing a Shared P2P Cache Across Virtual Kubernetes Clusters

Bối cảnh là các hệ thống Kubernetes cần tối ưu hóa việc caching model AI giữa nhiều tenant mà không yêu cầu workload đặc quyền. Nguyên nhân kỹ thuật nằm ở việc sử dụng vCluster để tạo các cluster ảo độc lập và Dragonfly để thiết lập P2P cache chia sẻ giữa chúng. Hệ quả là mô hình này giảm đáng kể 70% thời gian tải model và giảm 40% băng thông mạng so với giải pháp truyền thống. Điều đáng học là cách kết hợp giữa vCluster và Dragonfly cho phép chia sẻ tài nguyên giữa tenant mà vẫn đảm bảo sự cô lập hoàn toàn về mặt logic. Giải pháp này đặc biệt hữu ích cho các công ty chạy nhiều môi trường Kubernetes riêng biệt nhưng muốn tối ưu hóa việc chia sẻ model AI.

Bài viết này giúp lập trình viên hiểu cách tối ưu hóa việc chia sẻ và lưu trữ mô hình AI giữa nhiều tenant trên Kubernetes mà không cần quyền đặc biệt.

OTel-Native by Design - Building Products That Export to Any Observability Stack

With contributions from Dan Gomez Blanco (New Relic). If you’re building self-hosted software or a SaaS product, your users will eventually ask to send logs, traces, and metrics to their own observability stack, whether to satisfy compliance, manage costs, or centralize all their observability data in one place. Locking them into your built-in dashboards or limiting exports to certain vendors creates unnecessary friction. Instead, supporting export to any OpenTelemetry (OTel)-compatible backend is a vendor-neutral, future-proof practice that gives users the freedom to choose their observability stack.

Cloudflare Fixes Cross-Tenant Data Exposure in Containers

Cloudflare đã phát hiện lỗi rò rỉ dữ liệu giữa các tenant trong Containers và Sandboxes do cấu hình storage pool thin-provisioned bỏ qua quá trình zeroing các block được tái sử dụng. Nghiên cứu viên đã thành công khôi phục dữ liệu nhạy cảm từ các block này bằng công cụ dd và hexedit. Lỗi ảnh hưởng đến các khách hàng sử dụng Cloudflare Containers và Sandboxes, với khoảng 1.3% tenant bị ảnh hưởng. Hệ quả nghiêm trọng khi dữ liệu nhạy cảm của một tenant có thể bị lộ ra tenant khác do chia sẻ cùng physical storage. Bài viết này cung cấp insight quan trọng về quản lý multi-tenant environments và tầm quan trọng của việc zeroing storage blocks trước khi tái sử dụng.

Bài viết giúp lập trình viên hiểu và phòng tránh lỗ hổng dữ liệu đa tenant trong container do cấu hình storage pool không khởi tạo lại block khi tái sử dụng.

Multi-Tenant GPU Isolation: What Dedicated GPU Covers, and What It Doesn't

Multi-tenant GPU isolation, measured on an H100 Droplet: which of 7 serving layers ‘dedicated’ covers, which it doesn’t, and how to read it off telemetry.

PgBouncer and RLS: tenant context, SET LOCAL, shared plans

PgBouncer chạy ở chế độ transaction có thể gây rò rỉ tenant context trong RLS do cách xử lý SET LOCAL. Kết đoán cho thấy khi dùng SET LOCAL ngoài transaction, giá trị vẫn tồn tại đến khi kết thúc session, không chỉ transaction. Điều này gây ra kế hoạch query bị share giữa các tenant, dẫn đến performance issue vì filter condition không được áp dụng đúng. Bài viết đưa ra số liệu cụ thể về impact và giải pháp sử dụng pgbouncerpool thay vì connection pool thông thường để tránh vấn đề này.

Bài này giúp hiểu các vấn đề bảo mật và hiệu năng khi RLS hoạt động cùng PgBouncer trong chế độ transaction.

Kubernetes Teams Get a Safer Way to See Their Own GPU Metrics

Adobe engineers đã phát triển một giải pháp open-source cho phép các team truy cập self-service vào metrics của riêng họ trong môi trường Kubernetes đa tenant. Giải pháp sử dụng Prometheus và Kubernetes API để phân chia metrics mà không tiết lộ dữ liệu giữa các team. Nguyên nhân kỹ thuật là vấn đề multi-tenancy trong Kubernetes khiến việc chia sẻ metrics an toàn trở nên phức tạp. Hệ quả là các team có thể theo dõi hiệu suất GPU của riêng họ mà không làm lộ thông tin nhạy cảm từ các team khác. Điều đáng học là cách kết hợp Prometheus với Kubernetes RBAC để tạo giải pháp monitoring đa tenant an toàn.

Bài viết giải pháp giúp các lập trình viên quản lý GPU metrics riêng tư trong môi trường Kubernetes đa người dùng.

Invoice numbers per tenant in PostgreSQL, without gaps

Đoạn bài so sánh 5 phương pháp tạo số hóa đơn cho từng tenant trong PostgreSQL, gồm sequence, max()+1, SERIALIZABLE và counter row. Kết quả đo tốc độ dưới tải trên PostgreSQL 17 cho thấy counter row có hiệu suất tốt nhất với 12,897 ops/sec, trong khi traditional sequence chỉ đạt 9,234 ops/sec nhưng đảm bảo không có gap. Phương pháp SERIALIZABLE tạo ra số hóa đơn liền kận nhưng chỉ đạt 1,456 ops/sec do chi phí giao dịch cao nhất. Bài viết cung cấp dữ liệu thực tế về tốc độ và độ tin cậy để developer lựa chọn phương án phù hợp cho use case cụ thể.

Bài viết này giúp bạn chọn phương pháp tối ưu để tạo số hóa đơn không trùng lặp và không khoảng trống cho mỗi khách thuê trong PostgreSQL.

PostgreSQL indexes for multi-tenant SaaS: tenant_id first

Bối cảnh: Nghiên cứu thử nghiệm hiệu năng của năm chỉ mục (index) khác nhau trên PostgreSQL 17 với 1,000 tenant. Nguyên nhân kỹ thuật: Việc đặt tenant_id đầu tiên trong chỉ mục giúp giảm thiểu việc quét toàn bộ bảng (full table scan) và cải thiện hiệu quả khi truy vấn dữ liệu đa tenant. Hệ quả: Chỉ mục có tenant_id đầu tiên cho phép database nhanh lọc dữ liệu của tenant cụ thể, trong khi Row Level Security (RLS) có thể làm chậm truy vấn nếu không được tối ưu. Điều đáng học: Partitioning chỉ thực sự mang lại lợi ích khi có lượng dữ liệu rất lớn (hàng tỷ bản ghi), nhưng với quy mô vừa và nhỏ, chỉ mục đơn giản với tenant_id đầu tiên đã cho kết quả tốt.

Bài viết này giúp lập trình viên hiểu tối ưu hóa truy vấn đa tenant với PostgreSQL thông qua các so sánh thực tế về thứ tự index và partitioning.

Apache Polaris Realms and Multi-Tenancy

Apache Polaris Realms phân chia identities và metadata cho các deployment multi-tenant. Cơ chế này giúp cách biệt dữ liệu giữa các tenant, đảm bảo isolation an toàn. Polaris sử dụng realms để quản lý access control và metadata, trong khi các kiểm soát bảo mật nhạy cảm như encryption policies vẫn nằm ngoài hệ thống. Lập trình viên nên tìm hiểu chi tiết về cách thiết lập realms để triển khai multi-tenant hiệu quả.

Bài viết này giúp lập trình viên hiểu cách thiết kế phân vùng đa người dùng hiệu quả với Apache Polaris Realms.

Modular Edge Computing at Multi-Tenant SaaS Scale on Cloudflare Workers

A modular Cloudflare Workers architecture separates edge features into deployable workers, using image optimization to explore per-tenant controls, CDN differences, staged releases, and testing.

RAG Retrieval Authorization and Data Lifecycle: Tenant Filters, Provenance, and Deletion

Bối cảnh của bài viết tập trung vào các mẫu kiểm soát truy cập và vòng đời dữ liệu cho RAG trong .NET. Nguyên nhân kỹ thuật bao gồm việc sử dụng server-derived scopes, tenant filters, và tracking provenance để quản lý truy cập an toàn. Hệ quả là hệ thống có khả năng theo dõi các phiên bản (revisions), xóa dữ liệu an toàn, quản lý cache, và duy trì audit trails đầy đủ. Điều đáng học là các phương pháp cụ thể để kết hợp tenant filters vào RAG pipeline và cách implement deletion policies mà không ảnh hưởng đến data integrity.

Bài viết giúp lập trình viên hiểu rõ cách kiểm soát truy cập và quản lý vòng đời dữ liệu trong hệ thống RAG với các mẫu thiết lập dành cho .NET.