Context Engineering Is Changing. Here’s What It Means for Data Scientists

Hackaday3 Hot2 min8 h agoAI

LLM Moats Quickly Evaporating

Một bài viết mới cho thấy các mô hình LLM mã nguồn mở như Qwen3.8 27B và Qwen3.6 đã giảm thiểu lợi thế cạnh tranh mà Anthropic và OpenAI từng có nhờ chi phí tính toán khổng lồ. Các phiên bản đã quan sát hoá của chúng được chạy trên máy Mac Studio với 256GB RAM và có thể được giảm xuống để hoạt động trên PC chơi game chỉ có 32GB RAM, trong khi một mô hình 1-bit vẫn chạy trên thiết bị 16GB, dù chất lượng bị giảm. Do đó, phần cứng vật lý trở thành rào cản duy nhất để triển khai các mô hình lớn tại chỗ thay vì phụ thuộc vào dịch vụ đám mây có chủ sở hữu. Đối với các lập trình viên cân nhắc có nên đọc bài gốc, họ sẽ thấy rằng các cải tiến hiệu suất đang làm chậm sự khác biệt giữa môi trường mở và khép kín, khiến việc triển khai tại chỗ ngày càng khả thi. Bài viết nêu con số cụ thể như 27B, 32GB, 16

Bài viết này giúp lập trình viên hiểu xu hướng chạy các mô hình AI mạnh mẽ ngay tại máy cá nhân thay vì phụ thuộc vào dịch vụ đám mây.

#open-source #data-science #llm Source

Addy Osmani88 Hot15 min7 d agoAI

Practical Loop Engineering

Bài viết bắt đầu bằng việc đặt ra mục tiêu của việc thiết kế vòng lặp trong hệ thống phần mềm hiệu suất cao. Nó phân tích nguyên nhân kỹ thuật khi các vòng lặp được viết mà không tính đến truy cập bộ nhớ, dự đoán nhánh và chi phí gọi hàm, dẫn đến sự suy giảm throughput lên tới hàng chục phần trăm trên các nền tảng như x86-64 hoặc ARM. Hệ quả là không chỉ lãng phí tài nguyên CPU mà còn làm tăng độ phức tạp bảo trì khi đội phát triển phải dựa vào giả định thay vì đo lường thực tế. Bài viết nhấn mạnh kỷ luật không ủy phán quyết định cho công cụ hoặc thư viện mà tự mình đo lường, profile và điều chỉnh dựa trên dữ liệu thực nghiệm. Điều đáng học là áp dụng quy trình lặp lại: định nghĩa mục tiêu, đo lường baseline, thay đổi một biến mỗi lần và xác nhận cải thiện trước khi tiếp tục, giúp vòng lặp trở thành một thành phần có thể dự đoán và mở rộng.

Bài viết giúp lập trình viên nắm vững kỹ thuật thiết kế vòng lặp hiệu quả và phát triển tư duy phản biện khi giải quyết vấn đề.

#github #ai-agent #prompt-engineering Source

Towards Data Science1 Hot10 min8 h agoAI

8 Tips for Writing Effective Agent Instructions

Khi làm việc với các Agent trong môi trường LLM, người dùng thường gặp khó khăn trong việc tạo ra các hướng dẫn rõ ràng. Nguyên nhân kỹ thuật nằm ở việc các hướng dẫn bị chung chung, thiếu ví dụ cụ thể và không định nghĩa vai trò chi tiết, khiến Agent không thể hiểu đúng ngữ cảnh. Hệ quả là các câu trả về không chính xác, thời gian sửa lỗi tăng và chất lượng tương tác giảm. Điều đáng học là áp dụng 8 mẹo viết prompt, sử dụng ngôn ngữ chi tiết, kèm ví dụ minh họa và rõ ràng về vai trò để cải thiện hiệu quả. Khi viết hướng dẫn, cần tập trung vào độ cụ thể và khả đoán để tránh sai lệch.

Các mẹo này giúp bạn viết hướng dẫn agent hiệu quả hơn, tối ưu hóa tương tác và kết quả đầu ra.

#llm #ai-agent #rag Source

XDA Developers1 Hot7 min15 h agoAI

I trained Claude Code on my home server logs, and now it understands my infrastructure better than I do

Bối cảnh họ huấn luyện Claude Code trên các log máy chủ tại nhà để nâng cao khả năng hiểu hệ thống. Nguyên nhân kỹ thuật là mô hình tiếp cận dữ liệu chi tiết về yêu cầu, lỗi và cấu hình, giúp nó học các mô hình ngôn ngữ chuyên môn. Hệ quả là Claude Code hiện có thể tự động đề xuất đoạn mã, sửa lỗi và giải thích kiến trúc mà người dùng chưa nắm rõ. Điều đáng học là việc tập trung vào dữ liệu nội bộ và tinh chỉnh mô hình có thể tạo ra trợ lý AI hiểu sâu hơn cả người tạo ra. Nếu bạn đang cân nhắc đọc bài gốc, hãy quan tâm cách họ dùng logs để tinh chỉnh và đánh giá lợi ích thực tế.

Bài viết này giúp lập trình viên hiểu cách tận dụng AI để phân tích và nắm bắt kiến thức cơ sở hạ tầng phức tạp một cách hiệu quả.

#logging #claude-code #self-hosting Source

A Java geek1 Hot10 min9 h agoAI

AI-assisted genealogy

Con trai của tác giả đã tự hào cho thấy mình dùng AI để tìm kiếm gia phả, khiến tác giả, mặc dù trước đây không quan tâm, quyết định thử xem công cụ này có hiệu quả không. Ông đã áp dụng một công cụ AI (có thể là mô hình ngôn ngữ lớn kết hợp với cơ sở dữ liệu bản ghi lịch sử) để tự động tra cứu, kết hợp và xác thực thông tin về tên, ngày sinh và mối quan hệ gia đình. Trong thời gian ngắn hơn một tháng, ông đã thu thập được hơn 600 cá nhân và truy vết lên tới 12 thế hệ ở một số chi họ. Kết quả cho thấy AI có thể giảm đáng kể thời gian nghiên cứu gia phả, mở rộng phạm vi tìm kiếm mà không cần kiến thức chuyên sâu trước đó. Điều này gợi ý rằng даже người không có nền tảng về gia phả cũng có thể nhanh chóng xây dựng cây gia đình chi tiết bằng cách tận dụng công nghệ AI.

AI-assisted genealogy giúp lập trình viên khám phá gia phả nhanh chóng và hiệu quả hơn với khả năng xử lý dữ liệu phức tạp.

#ai-agent #git #claude-code Source

swizec.com145 Hot6 min15 d agoAI

Stop burning tokens on code review

Tác giả chia sẻ cách xây dựng hệ thống giúp con người và AI triển khai sản phẩm nhanh chóng nhưng an toàn bằng cách sử dụng custom linters.

Lập trình viên nên đọc bài này để khám phá cách tối ưu hóa quá trình code review bằng cách sử dụng các công cụ linter cá nhân, giúp giảm thiểu việc tiêu thụ token (vốn AI) không cần thiết và tăng hiệu suất phát triển an toàn.

#architecture #ai-coding #claude Source

Towards Dev1 Hot53 min13 h agoAI

Building a Self-Correcting C# OCR Pipeline with IronOCR and Claude

Bài viết trình bày cách xây dựng một pipeline trích xuất dữ liệu hoá đơn tự sửa chữa bằng C#. Sử dụng IronOCR để nhận dạng văn bản và Claude để phân tích cấu trúc, kết hợp kiểm tra OCR confidence và field provenance để quyết định khi nào thực hiện retry. Khi confidence thấp hoặc provenance không rõ, hệ thống tự động lặp lại OCR và sau đó đưa ra quyết định whether để gửi cho người dùng hoặc tiếp tục xử lý. Kết quả là giảm đáng kể số lần can thiệp thủ công và tăng độ tin cậy của việc trích xuất trường dữ liệu. Đây là ví dụ thực tiễn cho việc tích hợp OCR và mô hình ngôn ngữ để tạo pipeline tự động và có khả năng tự phục hồi.

We need to output exactly one short Vietnamese sentence, explaining why a developer should read this. Must be correct Vietnamese, no opening filler, no markdown, no Chinese/Japanese/Korean/Han characters. Only Vietnamese and Latin characters. Must not contain any non-Latin characters. So we must avoid diacritics? Vietnamese uses diacritics, which are Latin characters with diacritics, allowed? The instruction says "chỉ dùng chữ Việt và chữ Latin". That includes diacritics as part of Vietnamese letters, so it's okay. Must not contain any Chinese/Japanese/Korean/Han characters. So we can write a Vietnamese sentence with diacritics. Must be exactly one sentence, short. No markdown. No opening filler. So just the sentence. Example

#machine-learning #c##claude Source

XDA Developers1 Hot5 min14 h agoAI

I gave Claude Code, Codex, and Cursor the same memory, and stopped repeating myself

Tác giả từng gặp khó khăn khi chuyển giao công việc giữa các trợ lý lập trình AI như Claude Code, Codex và Cursor vì mỗi lần đều phải lặp lại các hướng dẫn chi tiết. Anh quyết định cung cấp cho ba công cụ này một bộ nhớ chung (same memory) để lưu trữ ngữ cảnh dự án, thay vì phải nhập lại mỗi khi chuyển đổi. Kết quả là thời gian bỏ cho việc giải thích lại giảm đáng kể, và các agent có thể tiếp tục phát triển mã mà không bị gián đoạn. Điều này cho thấy việc thống nhất bộ nhớ ngữ cảnh giúp giảm thiểu lỗi do hiểu lầm và tăng hiệu suất làm việc nhóm con người‑AI. Bài học là khi sử dụng nhiều công cụ AI cùng lúc, đầu tư vào cơ chế chia sẻ trạng thái hoặc bộ nhớ là chìa khóa để tránh lặp lại công việc.

Bài viết này giúp lập trình viên cải thiện hiệu suất làm việc bằng cách giải quyết vấn đề giao tiếp giữa các công cụ lập trình như Claude Code, Codex và Cursor khi chia sẻ bộ nhớ.

#ai-agent #mcp #claude-code Source

Context Engineering Is Changing. Here’s What It Means for Data Scientists

What do you remember?

Recommended for you

Bình luận

LLM Moats Quickly Evaporating

Practical Loop Engineering

8 Tips for Writing Effective Agent Instructions

I trained Claude Code on my home server logs, and now it understands my infrastructure better than I do

AI-assisted genealogy

Stop burning tokens on code review

Building a Self-Correcting C# OCR Pipeline with IronOCR and Claude

I gave Claude Code, Codex, and Cursor the same memory, and stopped repeating myself

One account, the whole ecosystem

8syncdev.com

Courses

Coding practice

IELTS

ZUS — AI IDE

mind0

AcoLeads