Our Research on Membership Inference Attacks and Preventing Privacy Leaks

JetBrains researchers present EZ MIA (Error Zone Membership Inference Attack), a lightweight method for detecting whether specific data was used to train fine-tuned LLMs. Unlike existing approaches that rely on aggregate sequence loss or expensive shadow model training, EZ MIA focuses on token-level error positions where memorization signals are most concentrated, requiring only two forward passes per sequence. Experiments on GPT-2, GPT-2-XL, and Llama-2 show EZ MIA outperforms baselines like LOSS, Min-K++, and SPV-MIA by up to 9x. The research also confirms that full fine-tuning creates significantly more membership leakage than LoRA-based fine-tuning, though LoRA does not eliminate the risk entirely — especially for larger models.

Nguồn: https://blog.jetbrains.com/research/2026/06/membership-inference. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.

Đề xuất cho bạn

It's Foss247 phút14 giờ trướcAI

Linux Users Get This For Free! Brave Origin Costs $59.99 For Everyone Else

Brave Origin là phiên bản tối giản của trình duyệt Brave, loại bỏ các tính năng AI, ví crypto, phần thưởng, VPN và giữ lại chặn quảng cáo/người theo dõi. Phiên bản này có giá 59,99 USD cho Windows, Android, macOS và iOS, nhưng hoàn toàn miễn phí trên Linux mà không cần tài khoản. Origin dùng chung codebase với Brave-core, có thể cài đặt song song và chuyển đổi dễ dàng qua flag.

Lập trình viên nên đọc bài này vì Origin của Brave không chỉ là phiên bản tối giản mà còn là cơ sở mã nguồn sạch cho phát triển các ứng dụng web riêng lẻ, tối ưu hóa hiệu năng và bảo mật cho các dự án Linux.