The future of governing AI agents

Autonomous AI security agents are outpacing governance frameworks. A four-layer architecture separating skills, reasoning, models, and context is proposed to make agent behavior predictable, auditable, and compliant with regulations like ISO 42001, DORA, NIS2, and the EU AI Act. Extracting reasoning into an explicit, versioned layer decouples trust evidence from specific LLMs, enabling progressive trust models where oversight tightens or relaxes based on measured performance. Continuous evaluation across classification accuracy, planning quality, retrieval quality, and grounding quality provides the evidence base. Human-in-the-loop oversight is shown to degrade under volume, requiring metrics like approval latency, override rates, and evidence engagement to detect rubber-stamping. Uber's ADR system is cited as a real-world example of enterprise-scale agentic telemetry. Elastic Security is positioned as the platform to ingest, store, and query agent reasoning chains at scale.

Nguồn: https://www.elastic.co/blog/the-future-of-governing-ai-agents. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.

Đề xuất cho bạn

Atlassian1 Hot9 phút41 phút trướcAI

Why AI alone isn’t enough for enterprises (and what Mercedes-Benz did about it)

Mercedes-Benz giảm 70% thời gian xử lý lỗi nhờ tích hợp hơn 300 công cụ kỹ thuật thông qua Atlassian Teamwork Graph và triển khai bộ AI agents "Norris family". Giải pháp thành công nhờ kết nối dữ liệu yêu cầu, kho mã, telemetry xe và thông tin phát hành vào một hệ thống thống nhất, thay vì chỉ dựa vào AI đơn lẻ.

Những doanh nghiệp thành công không chỉ dựa vào công nghệ AI đơn thuần mà cần giải quyết vấn đề không kết nối giữa các công cụ và dữ liệu để AI thực sự tạo ra giá trị cho quy trình và đội ngũ kỹ thuật.

#ai