Loading feed…
ASP.NET Blog2 Hot0 comments11 min read
Routing and Failover for Microsoft.Extensions.AI
AI summary
Phiên bản 10.9.0 của Microsoft.Extensions.AI giới thiệu bốn lớp IChatClient thử nghiệm mới cho routing và failover: RoutingChatClient, SemanticRoutingChatClient, FailoverChatClient và OrderedFailoverChatClient, đều có gắn thẻ [Experimental]. Tính năng bao gồm routing theo ngữ nghĩa, retry tự động, routing session cố định qua IDistributedCache, cùng các hạn chế như không hỗ trợ model cascading hay ensemble routing.
Why read it: Lập trình viên cần đọc để khám phá cách tối ưu hóa và quản lý hệ thống AI với các chiến lược routing và failover tiên tiến, giúp cải thiện độ tin cậy và hiệu suất cho ứng dụng sử dụng Microsoft.Extensions.AI trong các trường hợp yêu cầu độ ổn định cao.
What do you remember?
Answer 3 short questions to earn reward points for this article. Only do it if you want the points.
up to +17 points
3 questions · under a minute · optional
Source: https://devblogs.microsoft.com/dotnet/routing-and-failover-for-microsoft-extensions-ai. 8 Sync News only summarizes and links out; content copyright belongs to the authors and original sources.
