#api-gateway

How DoorDash Built a Toolbox for AI Agents

In this article, we will look at how the DoorDash engineering team built this gateway and the decisions they made.

Postman Introduces the Control Plane for the Agentic World with General Availability of Fabric Gateway

Fabric Gateway is a control plane for governing how AI agents, LLMs, and MCP servers discover and interact with APIs, tools, and other agents.

Compose Local Subgraphs Inside Hive Gateway

The new dev supergraph source lets Hive Gateway compose the subgraphs running on your machine, locally or with the rest of your graph through the Hive registry.

Zuplo Declares A Whole MCP Server Inside Its OpenAPI

Zuplo tuyên bố triển khai toàn bộ MCP Server bên trong OpenAPI, đây là một phương pháp tiếp cận mới cho agent extension. Công ty này tích hợp hoàn toàn Microsoft Control Protocol (MCP) server vào OpenAPI specification cho phép agent truy cập trực tiếp vào API endpoints. Giải pháp này sử dụng OpenAPI 3.1 với features như WebSockets và Server-Sent Events để hỗ trợ hai chiều communication. Bài viết cho thấy cách Zuplo biến OpenAPI từ passive documentation thành interactive interface cho AI agents, tạo cơ sở mới cho integration giữa API và AI. Lập trình viên nên đọc để hiểu cách áp dụng MCP và OpenAPI 3.1 trong các dự án AI integration thực tế.

Bài viết này cho bạn cách tích hợp MCP server vào OpenAPI để mở rộng khả năng agent của API một cách hiệu quả.

Apollo API IP Allowlist Update: Second IP Addresss Now Live

Apollo's API IP Allowlist Policy update has taken effect: Uplink and persisted-queries endpoints each added a second IP. Update IP-based allowlists now.

The Gateway Is a Tired Concept, Because Gateways Are About Power

API gateway đã được quảng bá như giải pháp cho mọi vấn đề trong lĩnh vực API hơn một thập kỷ qua. Khái niệm này thực chất xoay quanh vấn đề kiểm soát quyền lực và truy cập vào hệ thống, không chỉ là kỹ thuật thuần túy. Sự phụ thuộc quá mức vào gateway dẫn đến kiến trúc phức tạp, tạo ra điểm lỗi duy nhất và trở thành nút thắt cổ chai cho hiệu năng. Các lập trình viên nên cân nhắc việc sử dụng microservice mesh như Istio hoặc Linkerd thay thế để có giải pháp phân tán và linh hoạt hơn.

Bài viết giúp lập trình viên hiểu tại sao khái niệm cổng API đã lỗi thời và cần cách tiếp cận mới.

Building Composite MCP Gateways: Auth & Schema Routing

Build a unified Model Context Protocol (MCP) gateway in TypeScript that aggregates upstream MCP servers, resolves tool collisions, and handles auth and rate limits.

Quarkus Insights #259: MCP Servers Without the Boilerplate — Introducing reShapr

Quarkus: Supersonic Subatomic Java

API gateway vs AI gateway: Where AI governance meets execution

AI gateways extend API gateway principles to govern model access, prompt inspection, and agent tool use at runtime.

MCP Security in Practice: Building a Go Gateway That Blocks Unsafe AI Tool Calls

MCP Security in Practice: Building a Go Gateway That Blocks Unsafe AI Tool Calls The attack that started this project An MCP server exposes a tool called read_file. Buried in its description is a …

The AWS API Gateway Extensions Are A De Facto Standard

AWS API Gateway Extensions đã trở thành de facto standard khi quy mô đủ lớn khiến các quy ước nội bộ trở thành tiêu chuẩn ngành. Các extension như CloudFormation custom resource, Lambda integration và Usage Plans được áp dụng rộng rãi mà không cần sự chuẩn hóa chính thức. Hệ quả là nhà phát triển phải triển khai các extension này để tương thích với hệ sinh thái AWS, dù không có tài liệu chính thức đầy đủ. Điều đáng học là các công nghệ có thể trở thành tiêu chuẩn không phải do thiết kế ban đầu mà do sự áp dụng tự nhiên của cộng đồng.

Hiểu vì sao các tiện mở rộng API Gateway của AWS đã trở thành tiêu chuẩn thực tế trong ngành công nghệ.

How to Carry User Identity Across Federated Kubernetes and AI Platforms

Các nền tảng AI hiện nay không còn là một ứng dụng đơn thuần đằng sau một màn hình đăng nhập; người dùng thường bắt đầu từ một cổng trung tâm, tiếp cận dữ liệu được quản lý rồi chuyển sang các công việc huấn luyện trên nhiều cụm Kubernetes khác nhau. Bài viết chỉ ra rằng nguyên nhân gây ra vấn đề là mỗi cụm và mỗi nền tảng AI thường duy trì hệ thống xác thực riêng, dựa trên các cơ sở dữ liệu người dùng cục bộ hoặc các provider OIDC không liên kết, dẫn đến việc người dùng phải đăng nhập lại nhiều lần và mất tính nhất quán của quyền truy cập. Hệ quả trực tiếp là tăngภาระ hành chính, nguy cơ lỗ hổng bảo mật khi token được lưu trữ hoặc truyền tải không an toàn, và khó khăn trong việc áp dụng các chính sách truy cập thống nhất qua toàn bộ hệ thống. Đáng học từ bài này là việc áp dụng các chuẩn mở như OpenID Connect (OIDC) và JSON Web Token (JWT) cùng với một nhà cung cấp danh tính fédéré (ví dụ: Keycloak) để phát hành token duy nhất, đồng thời sử dụng service mesh như Istio hoặc cơ chế SPIFFE để truyền tải và xác thực token giữa các workload Kubernetes mà không cần thay đổi mã ứng dụng. Cuối cùng, tác giả khuyên các đội ngũ nên kiểm tra khả năng lan truyền token qua các cụm thử nghiệm trước khi triển khai rộng, và thiết lập ghi log kiểm tra để phát hiện sớm bất kỳ bất thường nào trong quá trình federated identity.

APIM Policy Patterns for AI Governance: Part 2 – Content Safety & Model Control

Part 1 covered the consumption side of an AI gateway: rate limits, token quotas, usage attribution and the telemetry needed to understand them.

WebSocket Connection Multiplexing in Hive Router

Hive Router now multiplexes subscriptions over shared, pooled WebSocket connections to subgraphs instead of opening one connection per subscription, and can optionally route queries and mutations over that same pool.

OpenRouter: One API Key to Rule Them All

OpenRouter is a unified API gateway that sits between your application and the underlying LLM providers. You send a request to OpenRouter, it forwards it to the model you specified, and returns the response in a normalized OpenAI-compatible format.

The closer to the edge, the more stable a platform must be

Càng gần người dùng, thành phần càng phải chịu trách nhiệm lớn hơn trong việc duy trì tính sẵn sàng của toàn bộ nền tảng, ngay cả khi xảy ra sự cố.

Một lập trình viên nên đọc bài này để hiểu rõ về trách nhiệm hệ thống và cách phân bổ trách nhiệm trong kiến trúc phần mềm, giúp họ thiết kế giải pháp ổn định hơn khi ứng dụng gần với người dùng.

Architecting the Red Hat OpenShift AI dashboard for Models-as-a-Service

Bài viết giới thiệu kiến trúc bảng điều khiển Red Hat OpenShift AI dành cho Models-as-a-Service, giúp đơn giản hóa quá trình triển khai mô hình AI trên nền tảng Red Hat OpenShift.

Lập trình viên AI sẽ tìm hiểu cách thiết kế giao diện quản lý dịch vụ mô hình trên OpenShift AI để tối ưu hóa quy trình triển khai, tự động hóa và quản lý hiệu quả các ứng dụng mô hình-as-a-service trong môi trường cloud mở rộng.

Cloudflare AI Gateway: put a proxy in front of your LLM calls

Cloudflare giới thiệu AI Gateway, cho phép định tuyến các cuộc gọi tới LLM (như OpenAI) thông qua proxy từ Worker, cung cấp tính năng logging, caching, xác thực gateway và một header giúp ngăn chặn lỗi 401.

Làm việc với các API LLM như OpenAI thường gặp rắc rối về auth và tốc độ, nhưng Cloudflare AI Gateway giúp tự động xử lý các vấn đề này bằng proxy, xác thực và cache, giúp lập trình viên tiết kiệm thời gian và tối ưu hóa hiệu suất mà không cần phải tự quản lý các chi tiết kỹ thuật phức tạp.

API Gateways, AI Gateways, and MCP Gateways: Are Enterprises About to Pay Twice Again?

Doanh nghiệp cần chuẩn bị hạ tầng API hiện có cho các cổng AI, cổng MCP và hoạt động điều khiển bởi agent, nhằm tránh chi trả nhiều lần cho cùng một dịch vụ.

Lập trình viên nên đọc bài này để hiểu cách tối ưu hóa và mở rộng kiến trúc API hiện tại của doanh nghiệp để hỗ trợ các giải pháp AI, MCP (Multi-Channel Platform) và hệ thống vận hành tự động bằng cách kết hợp các công nghệ mới mà không cần thay đổi toàn bộ hệ thống.