Đang tải bảng tin…
![[2510.01395] Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence](https://media.daily.dev/image/upload/f_auto,q_auto/v1/posts/1fed0de190485cbbb37a86fdf656d71b?_a=AQAEuop)
Hacker News0 Hot0 bình luận3 phút đọc
[2510.01395] Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence
Abstract page for arXiv paper 2510.01395: Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence
Nguồn: https://arxiv.org/abs/2510.01395. 8sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Đề xuất cho bạn
Hacker News1 Hot10 phútAI
Goodhart’s Law Comes for Every Benchmark You Trust – Communications of the ACM
Các tiêu chuẩn đánh giá AI (benchmarks) thường bị phá vỡ bởi hai vấn đề: nhiễm dữ liệu huấn luyện (mô hình ghi nhớ câu hỏi từ bộ dữ liệu công khai) và thao túng bảng xếp hạng (các phòng thí nghiệm nộp phiên bản tối ưu hóa). Ví dụ, GSM1k giảm tới 13% độ chính xác khi đối mặt với bài toán mới, trong khi MMLU chứa ~6,5% câu hỏi lỗi. Giải pháp đề xuất gồm bộ kiểm tra riêng tư, phát hiện nhiễm dữ liệu và xây dựng tiêu chuẩn chuyên biệt từ dữ liệu riêng thay vì dựa vào bảng xếp hạng công khai.
Lập trình viên AI nên đọc bài này để hiểu cách các benchmark không còn phản ánh thực tế khả năng của mô hình mà trở thành công cụ cho các chiến thuật "trò chơi" để giành điểm cao, từ đó tránh rủi ro xây dựng hệ thống dựa trên dữ liệu giả mạo hoặc kết quả không đáng tin.
