From Memory-Hungry HNSW to Quantized SPANN: The Technical Evolution of Pinterest's Manas Platform

We Are .NET1 Hot5 min2 h agoAI

EF Core 10 Is INSANE — Overview of Game Changer features

EF Core 10 giới thiệu các toán tử LeftJoin và RightJoin cấp first-class, cùng với named query filters có thể tắt riêng lẻ. Bản cập nhật này hỗ trợ complex types được ánh xạ trực tiếp vào JSON columns, cải thiện hiệu suất truy vấn. Các tính năng mới giúp giảm thiểu lượng code cần viết khi xử lý các thao tác join và lọc phức tạp. Với khả năng ánh xạ trực tiếp đến JSON columns, EF Core 10 mang lại giải pháp linh hoạt hơn cho việc làm việc với dữ liệu không quan hệ. Những cải tiến này đặc biệt hữu ích cho các ứng dụng cần xử lý cả cấu trúc quan hệ và phi quan hệ.

EF Core 10 mang đến những tính năng đột phá như LeftJoin, RightJoin và bộ lọc truy vấn có thể tắt riêng lẻ, giúp tối ưu hiệu suất và khả năng linh hoạt trong phát triển ứng dụng.

#.net #microsoft-sql-server #vector-search Source

We Are .NET29 Hot9 min27 d agoAI

One Language to Rule Them? LINQ, Abstraction, and What's Next

Bài viết phân tích cách .NET từng có nhiều ngôn ngữ truy vấn riêng cho từng định dạng dữ liệu trước khi LINQ ra đời nhằm thống nhất chúng. Sau đó, mọi định dạng dữ liệu đều dần được chuyển đổi thành objects và truy vấn bằng LINQ.

LINQ không chỉ là công cụ tìm kiếm dữ liệu mà còn là khái niệm trừu tượng hóa và tiêu chuẩn hóa cách xử lý dữ liệu trong các ngôn ngữ .NET, giúp lập trình viên tránh rắc rối của các ngôn ngữ riêng biệt và tối ưu hóa hiệu suất cho các ứng dụng lớn.

#.net #c##vector-search Source

Hugging Face18 Hot8 min21 d agoAI

Quantization-Aware Healing: a compressed, 4-bit model that outperforms its full-precision original

Bài viết giới thiệu phương pháp Quantization‑Aware Healing (QAH) được phát triển bởi Multiverse Computing để nén mô hình ngôn ngữ lớn xuống 4‑bit mà không làm giảm hiệu suất. QAH kết hợp quantization‑aware training với một bước healing sau huấn luyện, trong đó một mạng phụ nhỏ được học để bù lại sai số lượng tử hóa gây ra. Kết quả cho thấy mô hình 4‑bit sau healing đạt được mức perplexity tương đương, và trong một số trường hợp thậm chí tốt hơn so với phiên bản full‑precision (32‑bit) ban đầu. Việc này đồng thời giảm kích thước bộ nhớ cần thiết xuống khoảng 1⁄8 (≈87,5%) và tăng tốc độ suy luận trên phần cứng hỗ trợ tính toán nguyên số. Điều đáng học là việc đầu tư vào quá trình healing có thể bù lại phần lớn tổn thất từ quantization, cho phép triển khai mô hình mạnh mẽ trên môi trường tài nguyên hạn chế mà không hy sinh chất lượng.

Bài viết này giúp lập trình viên hiểu cách tạo mô hình lượng hóa 4-bit hiệu suất hơn cả mô hình full-precision gốc.

#machine-learning #data-science #llm Source

Medium1 Hot9 min3 d agoAI

The 10 Concepts Every AI Engineer Should Actually Understand: Workflow, Architecture, and Real Impact

Bài viết này phân tích 10 khái niệm AI thiết thực mà các kỹ sư cần hiểu sâu, không chỉ học thuộc thuật ngữ. Nguyên nhân chính là nhiều lập trình viên chỉ ghi nhớ khái niệm RAG hay embedding cho phỏng vấn mà không nắm bản chất kỹ thuật. Hệ quả là họ gặp khó khăn khi triển khai hệ thống thực tế, đặc biệt với pipeline RAG độ trễ cao hay embedding model không phù hợp. Bài viết cung cấp kiến thức về architecture AI, workflow xử lý dữ liệu và evaluation metrics để tạo ra hệ thống hiệu quả. Điều đáng học là cách áp dụng các khái niệm này vào project thực tế, với ví dụ cụ thể về tuning embedding model hay optimizing RAG pipeline.

Bài này giúp lập trình viên AI nắm vững 10 khái niệm cốt lõi về workflow, kiến trúc và tác thực tế để phát triển ứng dụng AI hiệu quả.

#llm #mcp #rag Source

gitconnected1 Hot6 min3 d agoAI

Your Agent’s Memory Is a Liability: Defending Against Context Poisoning in Persistent AI Systems

Bối cảnh của bài viết là vấn đề context poisoning trong các hệ thống AI persistent như RAG agents và chatbots, nơi kẻ tấn công có thể inject độc hại vào database. Nguyên nhân kỹ thuật là hệ thống lưu trữ các đoạn hội thoại bị nhiễm độc và tái sử dụng chúng trong các phiên sau, với một nghiên cứu chỉ ra 89% RAG agents và 75% chatbots bị ảnh hưởng. Hệ quả là an ninh của AI system bị xâm phạm nghiêm trọng, dữ liệu người dùng có thể bị rò rỉ và tin tặc có thể thao túng phản hồi. Điều đáng học là việc sử dụng các kỹ thuật như memory scrubbing, context isolation và checksum để phát hiện và ngăn chặn các cuộc tấn công context poisoning, đồng thời cần thiết lập các protocol bảo mật tương tự như phần mềm truyền thống.

Bài viết này giúp lập trình viên nhận biết và phòng thủ nguy cơ độc tố ngữ cảnh trong hệ thống AI có trạng thái liên tục.

#security #ai-agent #claude Source

Medium1 Hot6 min3 d agoAI

Week 1 — Data Science and Machine Learning is not Coding: Context, Problem Solving & Understanding, and then Tools

Bối cảnh của bài viết nhấn mạnh rằng Data Science và Machine Learning không chỉ đơn thuần là lập trình. Nguyên nhân kỹ thuật là nhiều người tập trung quá mức vào công cụ như Python hay TensorFlow mà bỏ qua nền tảng vấn đề. Hệ quả là các dự án AI thất bại do thiếu hiểu biết domain knowledge và không xác định đúng problem statement. Điều đáng học là cần ưu tiên bối cảnh (context), giải quyết vấn đề (problem solving) và sự hiểu biết (understanding) trước khi đến với tools.

Bài viết này giúp lập trình viên nhận ra rằng Data Science và Machine Learning không chỉ là kỹ năng lập trình mà cần hiểu bối cảnh và tư duy giải quyết vấn đề trước tiên.

#python #data-science #career Source

Hacker News55 Hot2 min2 mo agoAI

[2607.11938] Mathematics of Data Science

Bài báo arXiv 2607.11938 giới thiệu phần tóm tắt về lĩnh vực "Toán học của Khoa học Dữ liệu", đề cập đến các nền tảng toán học ứng dụng trong phân tích dữ liệu.

Những kỹ thuật toán và lý thuyết toán học trong bài viết này sẽ giúp bạn hiểu sâu hơn về cách xây dựng mô hình học máy hiệu quả hơn, từ đó tối ưu hóa thời gian và chất lượng dự án của mình.

#machine-learning #data-science #deep-learning Source

Hackaday40 Hot2 min1 mo agoAI

Google Maps Killed The Restaurant Star

Nhà nghiên cứu Lauren Leek phát hiện thuật toán xếp hạng nhà hàng của Google Maps ưu tiên chuỗi cửa hàng, địa điểm đông khách và các vị trí được trả phí, khiến những quán mới hoặc ít tên tuổi khó nổi bật. Cô xây dựng bảng điều khiển công khai sử dụng machine learning để khám phá những quán ẩn mình có chất lượng vượt trội.

Những lập trình viên muốn hiểu cách hệ thống xếp hạng tự động của Google Maps hoạt động, từ đó tìm cách cải thiện hoặc phân tích các cơ chế xếp hạng trong các ứng dụng tương tự để tạo ra giải pháp công bằng và hiệu quả hơn.

#machine-learning #data-science #recommendation-systems Source

From Memory-Hungry HNSW to Quantized SPANN: The Technical Evolution of Pinterest's Manas Platform

Recommended for you

Bình luận

EF Core 10 Is INSANE — Overview of Game Changer features

One Language to Rule Them? LINQ, Abstraction, and What's Next

Quantization-Aware Healing: a compressed, 4-bit model that outperforms its full-precision original

The 10 Concepts Every AI Engineer Should Actually Understand: Workflow, Architecture, and Real Impact

Your Agent’s Memory Is a Liability: Defending Against Context Poisoning in Persistent AI Systems

Week 1 — Data Science and Machine Learning is not Coding: Context, Problem Solving & Understanding, and then Tools

[2607.11938] Mathematics of Data Science

Google Maps Killed The Restaurant Star

One account, the whole ecosystem

8syncdev.com

Courses

Coding practice

IELTS

ZUS — AI IDE

mind0

AcoLeads