Apple Machine Learning Research1 Hot0 comments1 min read
LLMs Are Not (Consistently) Bayesian: Quantifying Internal (In)consistencies of LLMs’ Probabilistic Beliefs
AI summary
Bối cảnh: Các hệ thống AI hiện đại được triển khai trong lĩnh vực y tế, khoa học và pháp lý nơi thường không có câu trả lời duy nhất đúng. Nguyên nhân kỹ thuật: Nghiên cứu chỉ ra rằng các Large Language Models (LLMs) như GPT-4 không nhất quán khi tính toán xác suất nội tại, cho thấy sai lệch khoảng 15-25% trong các câu hỏi trắc nghiệm đơn giản. Hệ quả: Sự không nhất quán này làm giảm độ tin cậy của các mô hình khi đưa ra dự đoán trong các lĩnh vực quan trọng yêu cầu độ chính xác cao. Điều đáng học: Các nhà phát triển cần hiểu rõ giới hạn về mặt xác suất của LLMs để thiết kế cơ chế dự phòng hoặc làm việc với các mô hình ít biến thiên hơn trong các ứng dụng quan trọng.
Why read it: Bài này giúp lập trình viên hiểu các nghịch lý trong niềm tin xác suất của LLMs để cải thiện độ tin cậy của hệ thống AI.
What do you remember?
Answer 3 short questions to earn reward points for this article. Only do it if you want the points.
MoE models bắt đầu với một số lượng chuyên gia hạn chế, ví dụ Mixtral sử dụng 8 chuyên gia mỗi lớp. Để đạt hiệu suất cao hơn, các nhà nghiên cứu đã mở rộng số chuyên gia lên gần 900 mỗi lớp trong Kimi K3, đồng thời phải giải quyết vấn đề tính sparse và độ ổn định trong quá trình huấn luyện. Các cơ chế nén như cắt bớt chuyên gia ít dùng, lượng tử hóa và phân tích hạng thấp kết hợp với các kỹ thuật ổn định như loss phụ trợ, hệ số capacity và dropout trên router cho phép mô hình vẫn khả thi để huấn luyện mà không giảm hiệu suất. Điều đáng học là khi mở rộng MoE, việc cân bằng tải giữa các chuyên gia và duy trì độ ổn định của router là then chốt để tránh hiện tượng chuyên gia chết hoặc quá tải. Điều này cho thấy, ngoài việc tăng số chuyên gia, đầu tư vào các kỹ thuật nén và ổn định là yếu tố quyết định sự thành công của các mô hình MoE hiện đại.
Bài viết này giúp lập trình viên hiểu cách mô hình Mixture-of-Experts phát triển từ vài chuyên gia đến gần 900 chuyên gia mỗi lớp và các cơ chế nén ổn định.
AWS vừa mở rộng Amazon SageMaker JumpStart bằng việc thêm hai mô hình ngôn ngữ lớn mới. Muse‑Glimmer‑30B mang tới 30 tỷ tham số, trong khi Qwen 3.8‑27B cung cấp phiên bản 27 tỷ tham số từ họ Qwen, cả hai đều được đóng gói dưới dạng template JumpStart sẵn sàng dùng. Nhờ vậy, nhà phát triển có thể khởi chạy mô hình chỉ bằng một cú click, không cần tự xây dựng container và ngay lập tức nhận được điểm cuối inference được tối ưu cho SageMaker. Các mô hình này hỗ trợ inference FP16 và có thể mở rộng tự động qua tính năng auto‑scaling của SageMaker, giúp kiểm soát độ trễ và chi phí. Vì vậy, việc thường xuyên kiểm tra JumpStart để bắt kịp bản phát hành mô hình mới là cách hiệu quả để giảm thời gian thiết lập và tập trung vào thử nghiệm ý tưởng.
Lập trình viên nên đọc bài này để cập nhật các mô hình AI mới nhất có sẵn trên Amazon SageMaker JumpStart.
ORMs vẫn cần thiết vì chúng cung cấp lớp trừu tượng an toàn, hiệu quả để tương tác với cơ sở dữ liệu, trong khi LLMs chỉ sinh code tiềm ẩn rủi ro lỗi, kém tối ưu và khó bảo trì. ORMs giúp chuẩn hóa truy vấn, tránh SQL injection và tối ưu hóa hiệu suất thông qua caching, điều mà code do LLM sinh ra khó đảm bảo.
Lập trình viên nên đọc bài này để hiểu cách ORM và SQL vẫn giữ vai trò quan trọng trong quản lý dữ liệu cơ bản, giúp tránh rủi ro lỗi và tối ưu hóa hiệu suất khi ứng dụng lớn cần kiểm soát trực tiếp dữ liệu.
We need to produce a summary in Vietnamese, 4-6 sentences, following order: bối cảnh (context) -> nguyên nhân kỹ thuật (technical cause) -> hệ quả (consequence) -> điều đáng học (lesson). Must be like explaining to a programmer whether to read the original article. Must include specific numbers and tech names if present. No markdown, no opening generic sentence, no "Bài viết này..." etc. Must not use any Chinese/Japanese/Korean/Han characters. Must keep technical terms in Latin (English). Must not use bold, etc. Must be 4-6 sentences, natural Vietnamese.
We need to identify context: article title "The AI Errors That Don’t Look Like Errors". Content: Fake citations are easy to catch. A real source with the wrong number isn't. Four AI failures that survive a normal review, and how to spot each one.
We need to mention specific numbers and tech names if present. The content mentions "Four AI failures". Possibly specific failures? Not given explicitly, but we can infer maybe "hallucinated citations", "incorrect numeric values", etc. We need to include concrete numbers and tech names if present. The excerpt doesn't list specific numbers besides "Four". Could mention "4" as number of failures. Could mention "AI hallucinations", "citation generation", "numeric errors". Must keep technical terms in Latin (English). So we can mention "hallucination", "citation", "numeric error". Must not use any Chinese characters. Use only Latin letters and Vietnamese diacritics.
We need 4-6 sentences. Let's craft 5 sentences.
Sentence 1: Bối cảnh: bài viết nêu bốn lỗi AI mà thường tránh được trong quá trình kiểm duyệt. (But we must not start with generic opening; we can just state context.)
But we must not start with "Bài viết này..." or "Bạn có thể..." etc. Must be like explaining to a programmer whether to read the original article. So we can say something like: "Bạn đang cân nhắc có nên đọc bài gốc không? Bài viết nêu bốn lỗi AI mà thường tránh được trong quá trình kiểm duyệt." That's okay.
But we must not use any opening generic sentence? The instruction: "Không dùng câu mở đầu khách sáo, không nhắc rằng đây là bản tóm tắt." So we should not start with "Bài viết này tóm tắt..." but we can start with something like "Bạn đang cân nhắc..." That's okay as it's not a generic opening? It's still a sentence but it's addressing the reader. Probably acceptable.
We need to include specific numbers and tech names. So mention "4 lỗi", "hallucinated citations", "incorrect numeric values". Use Latin terms: "hallucination", "citation", "numeric error". Keep them in English.
Let's craft 5 sentences:
1. Bạn đang cân nhắc có nên đọc bài gốc không? Bài viết nêu bốn lỗi AI mà thường tránh được trong quá trình kiểm duyệt. (That's 2 sentences? Actually it's one sentence? It's two clauses but it's one sentence? It ends with period. That's okay.)
But we need 4-6 sentences total. Let's plan:
Sentence 1: Bạn đang cân nhắc có nên đọc bài gốc không? (Context)
Sentence 2: Bài viết nêu bốn lỗi AI mà thường tránh được trong quá trình kiểm duyệt. (Context + number)
Sentence 3: Một lỗi phổ biến là hallucinated citation với số tham khảo sai, trong khi một source thực tế chỉ có sai số liệu numeric. (Technical cause)
Sentence 4: Hệ quả là reviewer có thể bỏ qua lỗi này vì nó trông như một lỗi nhỏ, nhưng nó làm giảm độ tin cậy của toàn bộ tài liệu. (Consequence)
Sentence 5: Bạn nên kiểm tra kỹ từng citation và số liệu numeric để tránh bị lừa bởi lỗi không hiển thị rõ. (Lesson)
That's 5 sentences. Need to ensure we include specific numbers and tech names. We have "bốn lỗi", "hallucinated citation", "numeric". Also maybe mention "4" explicitly. Use "4" as number. Also maybe mention "citation" and "numeric". That's fine.
Make sure no Chinese characters. Use only Latin letters and Vietnamese diacritics. No markdown.
Let's write final answer:
"Bạn đang cân nhắc có nên đọc bài gốc không? Bài viết nêu bốn lỗi AI mà thường tránh được trong quá trình kiểm duyệt. Một lỗi phổ biến là hallucinated citation với số tham khảo sai, trong khi một source thực tế chỉ có sai numeric value. Hệ quả là reviewer có thể bỏ qua lỗi này vì nó trông như một lỗi nhỏ, nhưng nó làm giảm độ tin cậy của toàn bộ tài liệu. Bạn nên kiểm tra kỹ từng citation và numeric value để tránh bị lừa bởi lỗi không hiển thị rõ."
Check constraints: 5 sentences, includes "bốn lỗi", "4"? Actually we said "bốn lỗi" but not the digit "4". Could include "4" explicitly as digit. Let's replace "bốn" with "4". So "4 lỗi AI". That includes digit. Also include "numeric value" maybe keep. Also "citation". Ensure we have specific numbers: "4" and maybe "numeric value" not a number. Could also mention "sai số tham khảo" but that's not a specific number. Could mention "sai 123" but not given. We can just keep "sai số tham khảo" but not a specific number. The instruction: "nêu con số và tên công nghệ cụ thể nếu bài có". The article mentions "Four AI failures". So we can mention "4". That's enough. So we should include "4
Bài viết này giúp lập trình viên nhận ra những sai lầm tinh vi của AI mà thông thường không thể phát hiện qua bình thường.
Bài viết bắt đầu từ quan sát rằng nhiều lập trình viên cảm thấy ngạc nhiên khi thấy AI tạo ra mã trong ngôn ngữ họ không quen thuộc. Tác giả chỉ ra rằng phản ứng này phản ánh nhiều hơn sự thiếu hiểu biết của người đọc về lĩnh vực đó hơn là khả năng thực sự của mô hình. Nguyên nhân kỹ thuật là LLMs sinh ra token bằng cách chọn xác suất cao nhất tiếp theo, vì vậy đầu ra luôn là giá trị trung bình thống kê, không phải xuất sắc. Do đó, sự ngưỡng mộ ở ngôn ngữ lạ tương tự như bị lừa bởi một trò ma thuật mà không biết nguyên lý, trong khi cùng mức chất lượng trong ngôn ngữ quen thuộc chỉ được đánh giá là đủ. Bài học là trước khi khen ngợi mã AI, cần kiểm tra kiến thức własn của mình và hiểu rằng "trung bình" là đặc điểm thiết kế của mô hình, không phải dấu hiệu của sự vượt trội.
Bài viết giúp bạn hiểu thực chất chất lượng trung bình của AI và tránh đánh giá sai năng lực công nghệ.
Apple đang chuẩn bị cho việc giao nhượng vai trò CEO từ Tim Cook sang John Ternus, dự kiến diễn ra một tuần sau buổi tiệc tiễn biệt. Nguyên nhân này là phần của kế hoạch kế thừa dài hạn mà Ban điều hành đã thiết lập sau khi Cook thông báo intención nghỉ hưu trong năm 2023. Buổi tiệc được tổ chức tại trụ sở Cupertino, có sự hiện diện của đồng nghiệp cấp cao và đối tác tên Mike, nhằm củng cố tinh thần équipe và gửi tín hiệu ổn định tới nhà đầu tư. Việc thông báo sớm và tổ chức sự kiện lễ phép giúp giảm bớt bất ổn nội bộ và duy trì niềm tin trong quá trình thay đổi lãnh đạo. Điều này cũng nhắc nhở các công ty công nghệ về tầm quan trọng của việc ghi lại và truyền đạt kế hoạch kế thừa rõ ràng, kèm theo các chỉ số như thời gian chuyển giao (một tuần) và tên người tham gia (Mike, John Ternus).
Bài viết tiết lộ thông tin quan trọng về sự thay đổi lãnh đạo tại Apple và người kế nhiệm Tim Cook.
AI mô tả ngày DBA gồm sao lưu, tài liệu, kiểm tra sức khỏe chủ động và một môi trường làm việc im lặng (cửa đóng).
Ngày thực tế của tác giả chứa 13 công việc, gấp hơn hai lần so với sáu mục mà AI tưởng tượng.
Khoảng cách này xuất phát từ việc AI bỏ qua các sự cố bất ngờ, yêu cầu hỗ trợ tức thời và các tác vụ quản lý cấu hình không được ghi lại trước.
Vì vậy, dựa chỉ trên mô hình của AI có thể dẫn đến đánh giá thấp về tải lavoro và tăng nguy cơ stress cho DBA.
Bài học là khi lên kế hoạch nhân lực cần tính cả tác vụ có lịch và các gián đoạn không thể dự đoán để có đánh giá thực tế hơn.
Bài viết này giúp bạn thấy được sự khác biệt giữa quan niệm lý tưởng và thực tế công việc của một DBA, từ đó hiểu thách thức thực sự trong quản lý cơ sở dữ liệu.
