Shrinking an AI coach onto a phone: a plain-English tour of LoRA fine-tuning

ProAndroidDev1 Hot15 min22 h agoAI

One POM Line, 42 Phantom Findings: How a Vendor SDK Broke Our detekt Build

Detekt nightly run đã báo lỗi trên 21 module với 42 lỗi UnsafeCast, trong đó có một cast mà theo định nghĩa không thể thất bại. Những lỗi này xuất phát từ một dòng POM trong SDK của nhà cung cấp, được phát hiện qua các jar tùy chỉnh và file probe. Khi cast được thực thi, build bị dừng và các module không thể biên dịch. Điều này cho thấy việc kiểm tra các phụ thuộc SDK và tránh cast không an toàn trong các thư viện bên ngoài là cần thiết. Do đó, khi cân nhắc đọc bài gốc, bạn sẽ thấy cách khắc phục bằng cách cô lập và audit POM của vendor.

Bài viết này giúp lập trình viên hiểu cách một dòng mã trong file POM của nhà cung cấp gây ra 42 phát hiện lỗi giả mạo trong hệ thống detekt.

#android #kotlin #gradle Source

XDA Developers1 Hot6 min1 d agoAI

This open-source Google app turned my phone into a fully local AI lab

Nhiều nhà phát triển muốn thử nghiệm AI trên thiết bị mà không phải gửi dữ liệu lên đám mây vì lo ngại về quyền riêng tư và độ trễ. Ứng dụng mã nguồn mở của Google tích hợp TensorFlow Lite, MediaPipe và các delegate NNAPI để chuyển đổi mô hình thành phiên bản chạy hoàn toàn trên thiết bị. Nhờ tối ưu hóa mô hình như MobileNetV2 và PoseNet, app đạt tốc độ suy diễn dưới 30 ms trên chip Snapdragon 8 Gen 2 và sử dụng ít hơn 10 MB RAM cho mỗi nhiệm vụ. Điều này cho phép thực hiện phân loại hình ảnh

Ứng dụng mã nguồn mở này biến điện thoại thành phòng thí nghiệm AI toàn địa phương, mang lại trải nghiệm trí tuệ nhân tạo riêng tư ngay trong tay bạn.

#google #llm #android Source

SoftwareMill23 Hot12 min21 d agoAI

Reliable Message Delivery: the Transactional Outbox Pattern With Okapi

Giải quyết vấn đề ghi kép (dual-write) trong ứng dụng Kotlin & Spring Boot bằng cách triển khai mẫu Transactional Outbox với Okapi, hỗ trợ Postgres, MySQL, Kafka và HTTP.

Lập trình viên cần đọc bài này để giải quyết vấn đề đồng thời ghi dữ liệu vào cơ sở dữ liệu và hệ thống message queue một cách đáng tin cậy trong ứng dụng Kotlin-Spring Boot, tránh rủi ro mất dữ liệu do lỗi đồng thời.

#kotlin #kafka #spring-boot Source

Sebastian Raschka49 Hot3 min1 mo agoAI

Kimi K3 Architecture Notes

Bài viết giới thiệu ngắn gọn kiến trúc Kimi K3 với các công nghệ chính như LatentMoE, Kimi Delta Attention, Attention Residuals, NoPE, khả năng đa phương thức (multimodality) và những lựa chọn tối ưu hóa hiệu suất suy luận (inference-efficiency).

Lập trình viên phát triển AI hoặc tích hợp mô hình ngôn ngữ lớn nên đọc để hiểu cách Kimi K3 tối ưu hóa kiến trúc mô hình bằng các kỹ thuật mới như LatentMoE và NoPE, giúp cải thiện hiệu suất tính toán và giảm chi phí trên thiết bị thực tế.

#llm #deep-learning #mixture-of-experts Source

Sebastian Raschka23 Hot2 min23 d agoAI

LLMs From Scratch Reaches 100,000 GitHub Stars

Kho lưu trữ LLMs-from-scratch trên GitHub đã vượt mốc 100.000 lượt star, cung cấp tài liệu học tập toàn diện về xây dựng mô hình ngôn ngữ lớn (LLMs) từ đầu.

Lập trình viên muốn tự xây dựng kiến thức về mô hình ngôn ngữ lớn từ cơ bản đến thực hành, tránh bị phụ thuộc vào các công cụ thương mại và khám phá cách xây dựng AI theo nguyên lý khoa học.

#llm #deep-learning Source

Hacker News55 Hot2 min1 mo agoAI

[2607.11938] Mathematics of Data Science

Bài báo arXiv 2607.11938 giới thiệu phần tóm tắt về lĩnh vực "Toán học của Khoa học Dữ liệu", đề cập đến các nền tảng toán học ứng dụng trong phân tích dữ liệu.

Những kỹ thuật toán và lý thuyết toán học trong bài viết này sẽ giúp bạn hiểu sâu hơn về cách xây dựng mô hình học máy hiệu quả hơn, từ đó tối ưu hóa thời gian và chất lượng dự án của mình.

#machine-learning #data-science #deep-learning Source

freeCodeCamp1 Hot18 min3 d agoAI

From Mixtral to Kimi K3: How Mixture-of-Experts Models Evolved

MoE models bắt đầu với một số lượng chuyên gia hạn chế, ví dụ Mixtral sử dụng 8 chuyên gia mỗi lớp. Để đạt hiệu suất cao hơn, các nhà nghiên cứu đã mở rộng số chuyên gia lên gần 900 mỗi lớp trong Kimi K3, đồng thời phải giải quyết vấn đề tính sparse và độ ổn định trong quá trình huấn luyện. Các cơ chế nén như cắt bớt chuyên gia ít dùng, lượng tử hóa và phân tích hạng thấp kết hợp với các kỹ thuật ổn định như loss phụ trợ, hệ số capacity và dropout trên router cho phép mô hình vẫn khả thi để huấn luyện mà không giảm hiệu suất. Điều đáng học là khi mở rộng MoE, việc cân bằng tải giữa các chuyên gia và duy trì độ ổn định của router là then chốt để tránh hiện tượng chuyên gia chết hoặc quá tải. Điều này cho thấy, ngoài việc tăng số chuyên gia, đầu tư vào các kỹ thuật nén và ổn định là yếu tố quyết định sự thành công của các mô hình MoE hiện đại.

Bài viết này giúp lập trình viên hiểu cách mô hình Mixture-of-Experts phát triển từ vài chuyên gia đến gần 900 chuyên gia mỗi lớp và các cơ chế nén ổn định.

#llm #deep-learning #gpu Source

Hugging Face36 Hot12 min1 mo agoAI

Newer Models, Same Advantage

Bài đăng trên Hugging Face của Dharma-AI giới thiệu những phiên bản nâng cấp của mô hình với những ưu điểm tương tự như trước.

Lập trình viên nên đọc bài này để hiểu cách các mô hình AI mới nhất trên Hugging Face không chỉ nâng cấp hiệu suất mà còn mở rộng khả năng ứng dụng thực tế cho các dự án AI/ML của riêng họ.

#machine-learning #deep-learning Source

Shrinking an AI coach onto a phone: a plain-English tour of LoRA fine-tuning

Recommended for you

Bình luận

One POM Line, 42 Phantom Findings: How a Vendor SDK Broke Our detekt Build

This open-source Google app turned my phone into a fully local AI lab

Reliable Message Delivery: the Transactional Outbox Pattern With Okapi

Kimi K3 Architecture Notes

LLMs From Scratch Reaches 100,000 GitHub Stars

[2607.11938] Mathematics of Data Science

From Mixtral to Kimi K3: How Mixture-of-Experts Models Evolved

Newer Models, Same Advantage

One account, the whole ecosystem

8syncdev.com

Courses

Coding practice

IELTS

ZUS — AI IDE

mind0

AcoLeads