Building Enterprise AI Agents That Are Both Autonomous and Reliable

Salesforce engineers share how they built Agentforce, an enterprise AI agent runtime that balances LLM flexibility with deterministic reliability. The core challenge: LLMs interpret language plausibly but enterprise workflows demand enforceable guarantees. Their solution, called 'guided determinism,' uses Agent Graph orchestration to model business processes as graphs with hard validation gates, preventing models from reasoning past critical checkpoints like identity verification. Specialized subagents handle distinct tasks (routing, verification, escalation) with different latency and trust profiles, while smaller fine-tuned models (8B–32B parameters) handle routing at ~50ms latency instead of expensive frontier models. The architecture introduces the concept of 'subjectiveness budgets' — allocating model freedom only where it adds value and enforcing determinism where correctness is non-negotiable. Observability tooling lets engineers trace exactly which subagent took which action in production.

Nguồn: https://engineering.salesforce.com/building-enterprise-ai-agents-that-are-both-autonomous-and-reliable. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.

Đề xuất cho bạn

Addy Osmani3 Hot9 phút3 giờ trướcAI

The Agent-Era Career

Addy Osmani, cựu trưởng nhóm kỹ thuật Google, đưa ra lời khuyên sự nghiệp cho kỷ nguyên AI agent. Ông nhấn mạnh rằng AI giỏi xử lý những việc có đáp án rõ ràng, nên sự nghiệp bền vững sẽ dựa vào khả năng đánh giá và đưa ra quyết định. Những nguyên tắc quan trọng bao gồm ưu tiên tài nguyên khan hiếm (như danh tiếng hơn lương), học cách tìm ra vấn đề thay vì chỉ giải quyết chúng, rèn luyện kỹ năng chủ động mà không phụ thuộc vào AI, chuyển từ thực hiện sang chỉ đạo AI bằng thông số rõ ràng, chịu trách nhiệm với sản phẩm dù ai viết, và luôn vượt qua mức đầu ra trung bình của AI. Lợi thế lâu dài quan trọng nhất là công việc công khai, hoàn thành tốt nhiệm vụ và gắn bó với những vấn đề khó.

Lập trình viên nên đọc bài này để hiểu cách chuyển đổi từ kỹ năng thực hành đơn điệu sang chiến lược xây dựng sự nghiệp bền vững trong thời đại AI, khi công việc đòi hỏi sự sáng tạo và quyết định chứ không chỉ là tự động hóa.