Predictions From Language Models Explain How We Read a Sentence — Until We Have to Reread It

Nghiên cứu muốn biết con người xử lý câu như thế nào khi gặp cấu trúc gây nhầm lẫn (garden‑path) bằng cách so sánh dự đoán của mô hình ngôn ngữ với dữ liệu theo dõi mắt. Các nhà nghiên cứu dùng GPT‑2 (124 triệu tham số) để tính surprisal (‑log₂ P(từ|ngữ cảnh)) cho mỗi từ trong câu và so sánh với thời gian fixation và số lần saccade quay lại đo được bằng thiết bị eye‑tracker lấy mẫu 1000 Hz. Khi surprisal của một từ vượt ngưỡng khoảng 2,0 bit, xác suất thực hiện saccade quay lại tăng khoảng 30 % và thời gian fixation trung bình tăng từ 250 ms lên 340 ms; mối tương quan giữa surprisal và tỷ lệ quay lại là r ≈ 0,46 (p < 0,001). Kết quả cho thấy mô hình ngôn ngữ có thể lượng hóa độ “khó ex” của từ và dự đoán được hành vi đọc lại, vì vậy các nhà phát triển có thể dùng surprisal làm chỉ báo sớm để thiết kế giao diện văn bản hoặc công cụ hỗ trợ đọc giảm tải nhận thức.