LACMA data breach last year exposed social security and medical data

How to evaluate LLMs before production

Bối cảnh: Trước khi đưa LLM vào hệ thống sản xuất để quét mật mã, nhóm cần xác định xem mô hình có đủ khả năng phát hiện chính xác các secret không. Nguyên nhân kỹ thuật: Các LLM thường sinh ra phản hồi không nhất quán, dễ bị lừa bởi prompt và có xu hướng hallucinate, dẫn đến cả false positive và false negative trong việc nhận diện chuỗi khóa, token hoặc mật khẩu. Hệ quả: Nếu không kiểm soát những lỗi này, hệ thống có thể bỏ qua các secret thực sự (gây rò rỉ bảo mật) hoặc tạo ra quá nhiều cảnh báo không đúng (gây cảnh báo mệt mỏi và lãng phí công sức kiểm tra). Điều đáng học: Đánh giá trước khi triển khai nên dựa trên bộ dữ liệu secret thực tế, đo lường precision, recall và latency, đồng thời kiểm tra mô hình đối với các adversarial prompt và thiết lập quy trình giám sát liên tục sau khi đưa vào production. Các bước này giúp giảm rủi ro và tăng độ tin cậy của giải pháp quét secret dựa trên LLM.