Fine-Tuning NVIDIA Nemotron for Saudi Arabic Dialects, with a Path to Other Languages

Công nghệ nhận diện giọng nói (ASR) hiện nay còn hạn chế khi xử lý các phương ngữ thực tế, đặc biệt là tiếng Ả Rập Saudi do thiếu dữ liệu huấn luyện. Nhà nghiên cứu đã tinh chỉnh (fine-tuning) mô hình NVIDIA Nemotron-4 340B với 34 tỷ tham số để cải thiện độ chính xác cho phương ngữ này. Kết quả cho thấy mô hình sau khi fine-tuning đạt độ chính xác cao hơn đáng kể so với mô hình gốc khi xử lý giọng nói tiếng Ả Rập Saudi phương ngữ. Điều này mở ra hướng tiếp cận hiệu quả để tinh chỉnh các mô hình ngôn ngữ lớn (LLM) cho các phương ngữ và ngôn ngữ ít dữ liệu khác mà không cần huấn luyện lại từ đầu.