Want AI Agents That Don't Spill Secrets? Don't Give Them Secrets
Các mô hình ngôn ngữ lớn (LLM) không thể phân biệt token nhạy cảm với văn bản thông thường, do đó mọi dữ liệu trong context window đều dễ bị truy xuất. Để bảo mật, hãy lưu trữ bí mật (API keys, access tokens) chỉ trong lớp thực thi xác định (biến môi trường hoặc secret manager) và không truyền chúng vào context của LLM. Các schema công cụ chỉ nên mô tả mục đích, còn xử lý thực thi mới lấy credential vào lúc runtime.
Lập trình viên nên đọc bài này để hiểu cách bảo vệ bí mật quan trọng như API keys và mật khẩu bằng cách phân biệt rõ ràng giữa lớp xử lý xác định và lớp sử dụng AI, tránh rò rỉ thông tin thông qua các cuộc tấn công từ prompt.
