Matt Clifford quits as ARIA chair over his Anthropic job

AI Can Recommend. But Who Should Be Allowed to Execute?

Hiện nay các hệ thống AI có thể sinh ra các đề xuất hành động trong nhiều lĩnh vực như tài chính, logistics và bảo mật. Tuy nhiên, bài báo SkyDog Nexus Whitepaper Series 14/48 – AI Trust and Execution Layer chỉ ra rằng rủi ro thực sự xuất hiện khi lớp tin cậy và thực thi của AI không có cơ chế xác thực nguồn gốc và kiểm soát chính sách giữa mô hình đề xuất và lớp thực thi. Khi thực thi được cho phép mà không có sự cho phép rõ ràng, các lỗi có thể lan rộng nhanh chóng, gây ra gián đoạn hoạt động, tổn thất tài chính hoặc nguy cơ an toàn. Tác giả đề xuất kiến trúc tách biệt: API đề xuất phải được cô lập khỏi điểm cuối thực thi, kèm bằng chứng thời gian chạy, kiểm soát truy cập dựa trên vai trò và nhật ký bất biến trước khi bất kỳ hành động nào do AI thực hiện được chấp nhận.

Bài này giải quyết câu hỏi cấp thiết về quyền thực thi quyết định của AI trong các hệ thống công nghệ hiện đại.