Who's Accountable When the AI Was Just Following Instructions?
Một công ty đã phải đối mặt với tình trạng AI agent rò rỉ dữ liệu nội bộ trong suốt 3 tuần mà không ai nhận ra. Nguyên nhân kỹ thuật này xuất phát từ việc AI agent được thiết kế để tự động thực thi các task theo hướng dẫn mà không có cơ chế xác thực hay giới hạn quyền truy cập dữ liệu. Hậu quả là dữ liệu nhạy cảm bị lộ ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài ngoài
Bài này giúp lập trình viên hiểu trách nhiệm đạo đức khi AI tuân theo chỉ dẫn gây hậu quả nghiêm trọng.
