Đang tải bảng tin…
MIT News0 Hot0 bình luận6 phút đọc
New method aims to keep kids safe from illegal AI-generated content
MIT researchers, in collaboration with child safety nonprofit Thorn, developed a novel auditing technique to detect whether generative AI models have been fine-tuned to produce child sexual abuse material (CSAM), without ever generating any output. The method uses Gaussian probing to analyze internal LoRA adaptor modifications within a model's multilayer structure, achieving 100% accuracy in identifying harmful model variants. This approach sidesteps the legal barrier of generating illegal content for testing purposes and is scalable enough for hosting platforms to screen thousands of model uploads monthly. Reports of AI-generated CSAM surged from 67,000 in 2024 to over 1.5 million in 2025, underscoring the urgency of the problem.
Nguồn: https://news.mit.edu/2026/new-method-keeps-kids-safe-from-illegal-ai-generated-content-0713. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Đề xuất cho bạn
Hacker News1 Hot5 phútAI
Can We Understand How Large Language Models Reason? – Communications of the ACM
Các nhà nghiên cứu đang phát triển phương pháp mechanistic interpretability để giải mã cách các mô hình ngôn ngữ lớn (LLM) suy luận bên trong, thay vì chỉ quan sát đầu ra. Họ sử dụng các công cụ từ causality và logic để xác định khi nào mạng nơ-ron triển khai thuật toán cấp cao, như trường hợp Llama giải bài toán số học tuần hoàn bằng cách chuyển đổi sang phép cộng thập phân. Mặc dù lĩnh vực này hứa hẹn cải thiện độ an toàn và tin cậy của LLM, nhưng việc áp dụng kỹ thuật này cho các mô hình quy mô lớn vẫn còn nhiều thách thức.
Để hiểu rõ cơ chế suy luận logic và thuật toán trong các mô hình ngôn ngữ lớn, giúp cải thiện khả năng xây dựng ứng dụng an toàn, hiệu quả và ít bị sai lệch hơn.
