Federated Learning on Snowflake: Training ML Models Across Accounts Without Sharing Data

Unlocking the Power of the TPU Stack: Introducing our new Developer Hub

Google Cloud vừa giới thiệu TPU Developer Hub, một nền tảng giáo dục tập trung dành cho nhà phát triển ML sử dụng TPU, bao gồm kiến trúc phần cứng, stack phần mềm (XLA, Pallas kernels), công cụ gỡ lỗi XProf, chiến lược tối ưu hóa (như offloading KV cache) cùng networking và bảo mật. Nội dung đa dạng từ Colabs tương tác, mã nguồn mở đến tài liệu chuyên sâu, hỗ trợ tích hợp AI-assisted development.

Lập trình viên ML nên đọc để hiểu cách tối ưu hóa hiệu suất và chi phí của mô hình trên TPU với các công cụ mới như XLA, Pallas và các chiến lược parallelism, từ đó tiết kiệm thời gian và nguồn lực trong triển khai sản phẩm AI.

Scaling Laws, Carefully

Bài viết phân tích sâu về luật scaling (quy luật mở rộng) trong mô hình ngôn ngữ lớn, từ những nghiên cứu ban đầu (Amari 1992, Hestness 2017) đến các công trình quan trọng như Kaplan et al. và Chinchilla. Nó giải thích mối quan hệ power-law giữa kích thước mô hình, dữ liệu và compute, đồng thời điều chỉnh bất đồng giữa hai nghiên cứu này, cũng như đề cập đến các thách thức thực tế khi áp dụng luật scaling như độ chính xác làm tròn, chọn vùng fit và ảnh hưởng của lặp dữ liệu.

Lập trình viên xây dựng mô hình AI cần hiểu về quy luật mở rộng của mô hình để tối ưu hóa hiệu suất, chi phí và hiệu quả của các mô hình lớn như LLM từ những nguyên tắc cơ bản về phân phối dữ liệu và tính toán.

Our Research on Membership Inference Attacks and Preventing Privacy Leaks

JetBrains researchers present EZ MIA (Error Zone Membership Inference Attack), a lightweight method for detecting whether specific data was used to train fine-tuned LLMs. Unlike existing approaches that rely on aggregate sequence loss or expensive shadow model training, EZ MIA focuses on token-level error positions where memorization signals are most concentrated, requiring only two forward passes per sequence. Experiments on GPT-2, GPT-2-XL, and Llama-2 show EZ MIA outperforms baselines like LOSS, Min-K++, and SPV-MIA by up to 9x. The research also confirms that full fine-tuning creates significantly more membership leakage than LoRA-based fine-tuning, though LoRA does not eliminate the risk entirely — especially for larger models.

Hexora v0.3: New features and improvements

Hexora v0.3 is a Python library for detecting malicious PyPI packages using static analysis. The new release adds a gradient boosting machine learning model that analyzes code structure, semantic features, and static analysis results to assess entire Python files. The ML model's primary role is filtering false positives — previously yielding 5-10 false positives per real finding. Running against newly published PyPI packages, it now detects 2-10 malicious packages daily. Remaining false positives mostly come from AI-related projects that use dynamic code execution, base64-inlined assets, or telemetry.

Ex-Tesla Optimus engineer settles trade secret lawsuit and raises $11M to build robot hands

Proception, a robotics startup founded by ex-Tesla Optimus engineer Jay Li, has settled a year-long trade secret lawsuit with Tesla and raised an $11M seed round led by First Round Capital. The company is now shipping its first dexterous robotic hands — featuring 22 degrees of freedom and a sensor-laden glove for scalable training data collection — to researchers and robotics companies. Tesla had sued Li in June 2025, alleging he downloaded confidential files before leaving to found Proception. The dexterous hand market is heating up globally, with competitors like China's Linkerbot dominating market share and European and Chinese startups raising hundreds of millions. Proception is betting that humanoid robot makers will outsource hand manufacturing rather than build in-house, positioning itself as a key supplier in the emerging humanoid robot supply chain.

How to Choose Between Small and Frontier Models

Năm 2026, các mô hình ngôn ngữ nhỏ (SLMs, 1–14 tỷ tham số) đủ trưởng thành để xử lý đa số tác vụ sản xuất nhờ cải tiến phần cứng, công cụ mã nguồn mở, chi phí API giảm, quy định chặt chẽ và xu hướng sở hữu công cụ riêng. Frontier models vẫn vượt trội ở nhiệm vụ khó, nhưng SLMs ưu việt về độ trễ, chủ quyền dữ liệu, phiên bản cố định và chi phí quy mô lớn. Kỹ sư ML nên ưu tiên fine-tuning QLoRA cho tác vụ trên 10K lượt yêu cầu/ngày, còn lại dùng prompting + RAG là đủ.

Lập trình viên nên đọc bài này để hiểu cách tối ưu hóa chi phí và hiệu suất cho dự án AI của mình bằng cách lựa chọn giữa mô hình nhỏ (SLM) và mô hình frontier, từ đó giảm thiểu chi phí API đắt đỏ và bảo vệ dữ liệu bằng cách sử dụng mô hình địa phương.

The New Age of Consulting: How We Reduced Data Model Refresh Time by 90 %

A consulting firm migrated a client's SQL script-based data transformation workflow to dbt Projects on Snowflake over four weeks. The engagement included mapping existing objects and dependencies, setting up the environment, and upskilling the client's team for self-sufficiency. A query cost analysis and model optimization reduced data model refresh time from 30 minutes to under 3 minutes — a 90% improvement. The post also reflects on how AI tools are shifting the value proposition of professional services firms from implementation toward expertise, guidance, and risk mitigation.