Atlassian fine-tuned a 4B Nemotron 3 Nano model with NVIDIA to replace a slow 20B content moderation filter. The old gpt-oss-safeguard-20B model plateaued at 50.9% recall despite heavy prompt engineering. After two-stage fine-tuning (supervised fine-tuning plus DPO), the 4B model hit 87.0% precision and 75.5% recall as a first-pass filter. F1 rose from 0.66 to 0.81. In production, the full moderation pipeline is now 53% faster (740ms to 350ms), handles 42% more throughput, and precision climbed from 94.0% to 98.1%. AI agents ran over 300 training experiments in about a week, using 20 parallel runs on NVIDIA H200 GPUs.
Nguồn: https://www.atlassian.com/blog/how-we-build/teaching-a-4b-model-to-think-like-a-policy-expert. 8 Sync News chỉ tóm tắt và dẫn link; bản quyền nội dung thuộc tác giả và nguồn gốc.
Đọc tin ở đây, luyện code, học theo lộ trình và luyện IELTS trên các sản phẩm anh em — tất cả kết nối với nhau trong hệ sinh thái 8 Sync.
Cổng chính của hệ sinh thái: giới thiệu sản phẩm, blog và bảng giá trọn bộ.
Khám pháHọc theo lộ trình rõ từng chặng: video, quiz chấm tự động, certificate và mentor đang làm nghề.
Xem lộ trình1.000 bài DSA, đề tiếng Việt, chấm tự động 7 ngôn ngữ — nhiều bài FREE, chạy ngay trên trình duyệt.
Luyện miễn phíChấm bốn kỹ năng IELTS bằng AI, phản hồi chi tiết theo rubric.
Dùng thử miễn phíAI IDE 22 MB cho dev Việt.
Tải miễn phíBộ nhớ tổ chức cho AI agent.
Khám pháAI trực Fanpage, tự sàng lọc lead.
Dùng thử...explained visually (with tradeoffs in production).
How DeepSeek Harness's Super-agent works: a Router, isolated Workers, event triggers and a Watchdog let one AI agent run many tasks. Diagrams inside.
Learn how open-weight models, Unity AI Gateway and Omnigent help enterprises lower AI costs, retain control and adapt as model leaders change.
Arcjet's prompt injection detection now runs on Arcjet Himalia 1, a custom fine-tuned model, with specialist models for coding and security agents.
Teams are spreading work across more labs, and running a lot of them on their own hardware
Khóa học video kéo dài 11 giờ tập trung vào việc xây dựng model reasoning với Python và PyTorch. Nội dung bao gồm các kỹ thuật advanced như evaluation, inference-time scaling, reinforcement learning và distillation. Qua khóa học, bạn sẽ học cách tối ưu hiệu suất của các reasoning model hiện đại. Các bài thực hành code chi tiết giúp hiểu sâu về quy trình training và fine-tuning. Giá trị lớn nhất nằm ở việc kết hợp lý thuyết với thực hành để xây dựng được hệ thống AI có khả năng reasoning mạnh mẽ.
Lập trình viên muốn nâng cấp kiến thức về mô hình học máy từ cơ bản đến ứng dụng thực tế—đặc biệt là trong scaling mô hình, reinforcement learning, và distillation—để áp dụng ngay trong dự án AI của mình với Python và PyTorch.
Many LLM calls in Java apps are multiple choice. dukehoff-decide answers them with a small local model and returns a typed value with calibrated probabilities.
Bối cảnh của bài viết khám phá liệu chúng ta có đang quá tư duy hóa việc tạo prompt hay không. Nguyên nhân kỹ thuật được nêu ra là một phương pháp đơn giản chỉ cần 3 yếu tố: context, instruction, và input, được đề xuất bởi nhà sáng tạo Claude Code. Hệ quả khi áp dụng phương pháp này là việc tạo prompt hiệu quả trở nên dễ dàng hơn nhiều so với những cách phức tạp trước đây. Điều đáng học là ngay cả những AI model mạnh nhất hiện nay như Claude 3 hay GPT-4 vẫn phản ứng tốt với prompt có cấu trúc đơn giản này.
Bài viết này giúp bạn hiểu ra cách đơn giản hóa việc tạo prompt hiệu quả chỉ với ba yếu tố cơ bản.
Đang tải bình luận…