When Can LLMs Replace Humans in A/B Tests?

Các dự đoán từ LLM có thể thay thế kết quả con người trong A/B tests, nhưng chỉ dựa trên giả định chứ không phải thiết kế sẵn. Khi áp dụng trên bộ dữ liệu Upworthy, việc hiệu chỉnh đầu ra LLM theo dữ liệu người thật đã khôi phục hiệu ứng điều trị, nhưng chỉ với phương pháp cụ thể. Những điều kiện giúp điều này hoạt động không thể xác minh cho các thử nghiệm mới và càng kém thuyết phục khi phương pháp mới khác xa các thử nghiệm trước. Lợi ích tiềm năng càng lớn thì độ tin cậy càng thấp.