Apple confirms its AI features reach China in December, with Qwen

I ran a 9B model trained on Claude's reasoning on my 8GB GPU, and it made me rethink paying for Claude

Tác giả đã chạy được model 9B parameters trên GPU 8GB mà không cần trả phí, thách thức dịch vụ Claude trả phí. Việc tối ưu memory bằng kỹ thuật quantization và compression giúp model nhẹ hơn đáng kể. Kết quả là model xử lý tốt các tác reasoning phức tạp như Claude nhưng trên phần cứng dân dụng. Điều này cho thấy với kỹ thuật lượng tử hóa (quantization), ngay cả model lớn cũng có thể chạy được trên hardware hạn chế. Đây là bài học quý cho developer về việc tối ưu hóa model để tiết kiệm chi phí.

Bài này tiết lộ cách bạn có thể chạy mô hình AI mạnh mẽ 9B chỉ với GPU 8GB, thay thế cho Claude trả phí.

I think we're cooked...

Tác giả nhận ra token dùng thử Qwen Cloud đã hết hạn sau khi đăng bài với tiêu đề "I think we're cooked..." - một sự kiện cho thấy việc phụ thuộc vào AI cloud services như Qwen Cloud có thể gây gián đoạn không lường trước. Nguyên nhân kỹ thuật là token xác thực chỉ có thời hạn sử dụng, vấn đề phổ biến với nhiều nền tảng AI cloud như Qwen, Claude hay Gemini. Hệ quả là người dùng có thể mất quyền truy cập vào tài nguyên AI đã thanh toán hoặc được cấp phép, khiến các dự án cá nhân hoặc công việc bị đình đột ngột. Điều đáng học là cần luôn có kế hoạch dự phòng, chẳng hạn lưu trữ kết quả hoặc sử dụng các local alternatives như Ollama, để không phụ thuộc hoàn toàn vào các cloud AI services có thời hạn token.

Bài viết chia sẻ thực tế về những thách thức và cơ hội trong sự nghiệp lập trình viên thời đại AI.

Web-Based Event Dispatching, Variable Fonts, SceneDelegate, no breaking changes · React Native

React Native 0.88 giới thiệu Web-Based Event Dispatching giúp cải thiện hiệu suất xử lý sự kiện trên web. Bản cập nhật này hỗ trợ Variable Fonts, cho phép lập trình viên sử dụng font linh hoạt với nhiều trọng lượng và độ dày trong cùng một file font. Thay đổi quan trọng nhất là SceneDelegate API, giúp quản lý lifecycle của ứng dụng một cách hiệu quả hơn trong iOS. Những cập nhật này mang lại trải nghiệm người dùng mượt mà hơn mà không phá vỡ compatibility với ứng dụng hiện tại.

Bài viết này giúp lập trình viên nắm bắt các cập nhật mới nhất trong React Native 0.88 để tối ưu hóa hiệu suất và trải nghiệm người dùng.

What “open weights” means for AI models

Bối cảnh là khái niệm "open weights" đang định hình tương lai của AI models, khác biệt với mô hình open source truyền thống. Nguyên nhân kỹ thuật là open weights chỉ chia sẻ weights (các tham số mô hình) chứ không phải source code, cho phép sử dụng mô hình mà không cần phân tách nó. Hệ quả là Qwen3.8 của Alibaba và Kimi K3 của 01.AI chứng minh các mô hình open weights có thể đạt hiệu năng cao tương tự các closed-source models như GPT-4. Điều đáng học là open weights tạo ra một sân chơi bình đẳng hơn, nơi các công ty có thể tinh chỉnh và triển khai AI mà không bị phụ thuộc vào một nhà cung duy nhất. Xu hướng này mở ra cơ hội mới cho ứng dụng AI trong nhiều lĩnh vực với chi phí thấp hơn.

Bài này giúp lập trình viên hiểu rõ khái niệm "open weights" trong AI và sự khác biệt giữa nó với open source, qua các ví dụ thực tế như Qwen3.8 và Kimi K3.

You don't need a Mac to develop iOS apps anymore — Expo blog

Exra mới tung ra EAS Simulator, dịch vụ cung cấp iPhone trong cloud cho mọi lập trình viên. Giải pháp này khắc phục hạn chế khi phát triển ứng dụng iOS yêu cầu thiết bị thực tế, tiết kiệm chi phí phần cứng. Công nghệ sử dụng EAS (Expo Application Services) để mô phỏng hoàn chỉnh môi trường iOS trên nền tảng cloud. Các lập trình viên có thể test ứng dụng trên thiết bị iPhone ảo mà không cần sở hữu Mac hay iPhone vật lý. Đây là bước tiến quan trọng giúp giảm rào cản phát triển cho cộng đồng lập trình đa nền tảng.

Bạn có thể phát triển ứng dụng iOS trên mọi thiết bị nhờ EAS Simulator Expo cung cấp iPhone đám mây.

How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications

Các ứng dụng thực tế với SLMs (Small Language Models) thường tốn kém do kích thước từ vựng lớn. Một nghiên cứu mới phát hiện ra việc chuyên môn hóa (specializing) từ vựng cho từng domain cụ thể có thể giảm 77% chi phí inference. Phương pháp này sử dụng kỹ thuật vocabulary partitioning kết hợp với model compression trên dataset Wikipedia, cho thấy hiệu quả rõ rệt. Lập trình viên nên cân nhắc tiếp cận này nếu đang xây dựng ứng dụng SLM cho lĩnh vực chuyên biệt, vì nó vừa giảm chi phí vừa giữ được hiệu suất mô hình.

Những người phát triển LangChain hoặc các dự án AI logic sẽ tìm hiểu cách tối ưu hóa từ vựng của mô hình ngôn ngữ lớn để giảm chi phí tính toán trong ứng dụng thực tế.

The new core skills: agentic engineering at Granola

My (winning!) submission for the Pragmatic Engineer essay contest

Baseten’s joey-1 makes AI decisions for a penny per million tokens

Baseten's open-weights joey-1 is a 2B model that picks answers instead of writing text, costing $0.01 per million tokens with 20ms response times.