“Can You Review This Draft I Generated?”: The 60-Second Adversarial Audit Prompt for AI Slop

Hackaday3 Hot2 min15 h agoAI

LLM Moats Quickly Evaporating

Một bài viết mới cho thấy các mô hình LLM mã nguồn mở như Qwen3.8 27B và Qwen3.6 đã giảm thiểu lợi thế cạnh tranh mà Anthropic và OpenAI từng có nhờ chi phí tính toán khổng lồ. Các phiên bản đã quan sát hoá của chúng được chạy trên máy Mac Studio với 256GB RAM và có thể được giảm xuống để hoạt động trên PC chơi game chỉ có 32GB RAM, trong khi một mô hình 1-bit vẫn chạy trên thiết bị 16GB, dù chất lượng bị giảm. Do đó, phần cứng vật lý trở thành rào cản duy nhất để triển khai các mô hình lớn tại chỗ thay vì phụ thuộc vào dịch vụ đám mây có chủ sở hữu. Đối với các lập trình viên cân nhắc có nên đọc bài gốc, họ sẽ thấy rằng các cải tiến hiệu suất đang làm chậm sự khác biệt giữa môi trường mở và khép kín, khiến việc triển khai tại chỗ ngày càng khả thi. Bài viết nêu con số cụ thể như 27B, 32GB, 16

Bài viết này giúp lập trình viên hiểu xu hướng chạy các mô hình AI mạnh mẽ ngay tại máy cá nhân thay vì phụ thuộc vào dịch vụ đám mây.

#open-source #data-science #llm Source

Addy Osmani88 Hot15 min7 d agoAI

Practical Loop Engineering

Bài viết bắt đầu bằng việc đặt ra mục tiêu của việc thiết kế vòng lặp trong hệ thống phần mềm hiệu suất cao. Nó phân tích nguyên nhân kỹ thuật khi các vòng lặp được viết mà không tính đến truy cập bộ nhớ, dự đoán nhánh và chi phí gọi hàm, dẫn đến sự suy giảm throughput lên tới hàng chục phần trăm trên các nền tảng như x86-64 hoặc ARM. Hệ quả là không chỉ lãng phí tài nguyên CPU mà còn làm tăng độ phức tạp bảo trì khi đội phát triển phải dựa vào giả định thay vì đo lường thực tế. Bài viết nhấn mạnh kỷ luật không ủy phán quyết định cho công cụ hoặc thư viện mà tự mình đo lường, profile và điều chỉnh dựa trên dữ liệu thực nghiệm. Điều đáng học là áp dụng quy trình lặp lại: định nghĩa mục tiêu, đo lường baseline, thay đổi một biến mỗi lần và xác nhận cải thiện trước khi tiếp tục, giúp vòng lặp trở thành một thành phần có thể dự đoán và mở rộng.

Bài viết giúp lập trình viên nắm vững kỹ thuật thiết kế vòng lặp hiệu quả và phát triển tư duy phản biện khi giải quyết vấn đề.

#github #ai-agent #prompt-engineering Source

Sebastian Raschka1 Hot1 min17 h agoAI

Reasoning Models From Scratch: Code Setup

Bài video giải thích mối quan hệ giữa các LLM truyền thống và các mô hình reasoning cùng với các agent trong hệ thống AI. Nó demonstratem cách cài đặt môi trường Python và PyTorch bằng công cụ quản lý gói uv. Quá trình này bao gồm tạo virtual environment, cài đặt torch và các thư viện phụ trợ trong ít phút. Nhờ uv, việc quản lý phụ thuộc trở nên nhanh chóng và nhất quán giữa các máy phát triển. Điều này cho thấy việc chọn trình quản lý gói hiện đại giúp giảm thời gian setup và tập trung vào nghiên cứu reasoning model.

Bài này giúp lập trình viên hiểu mối quan hệ giữa mô hình ngôn ngữ lớn và mô hình suy luận đồng thời thiết lập lập trình Python hiệu quả với uv.

#python #llm #pytorch Source

Towards Data Science1 Hot10 min15 h agoAI

8 Tips for Writing Effective Agent Instructions

Khi làm việc với các Agent trong môi trường LLM, người dùng thường gặp khó khăn trong việc tạo ra các hướng dẫn rõ ràng. Nguyên nhân kỹ thuật nằm ở việc các hướng dẫn bị chung chung, thiếu ví dụ cụ thể và không định nghĩa vai trò chi tiết, khiến Agent không thể hiểu đúng ngữ cảnh. Hệ quả là các câu trả về không chính xác, thời gian sửa lỗi tăng và chất lượng tương tác giảm. Điều đáng học là áp dụng 8 mẹo viết prompt, sử dụng ngôn ngữ chi tiết, kèm ví dụ minh họa và rõ ràng về vai trò để cải thiện hiệu quả. Khi viết hướng dẫn, cần tập trung vào độ cụ thể và khả đoán để tránh sai lệch.

Các mẹo này giúp bạn viết hướng dẫn agent hiệu quả hơn, tối ưu hóa tương tác và kết quả đầu ra.

#llm #ai-agent #rag Source

XDA Developers1 Hot6 min18 h agoAI

This open-source Google app turned my phone into a fully local AI lab

Nhiều nhà phát triển muốn thử nghiệm AI trên thiết bị mà không phải gửi dữ liệu lên đám mây vì lo ngại về quyền riêng tư và độ trễ. Ứng dụng mã nguồn mở của Google tích hợp TensorFlow Lite, MediaPipe và các delegate NNAPI để chuyển đổi mô hình thành phiên bản chạy hoàn toàn trên thiết bị. Nhờ tối ưu hóa mô hình như MobileNetV2 và PoseNet, app đạt tốc độ suy diễn dưới 30 ms trên chip Snapdragon 8 Gen 2 và sử dụng ít hơn 10 MB RAM cho mỗi nhiệm vụ. Điều này cho phép thực hiện phân loại hình ảnh

Ứng dụng mã nguồn mở này biến điện thoại thành phòng thí nghiệm AI toàn địa phương, mang lại trải nghiệm trí tuệ nhân tạo riêng tư ngay trong tay bạn.

#google #llm #android Source

swizec.com145 Hot6 min15 d agoAI

Stop burning tokens on code review

Tác giả chia sẻ cách xây dựng hệ thống giúp con người và AI triển khai sản phẩm nhanh chóng nhưng an toàn bằng cách sử dụng custom linters.

Lập trình viên nên đọc bài này để khám phá cách tối ưu hóa quá trình code review bằng cách sử dụng các công cụ linter cá nhân, giúp giảm thiểu việc tiêu thụ token (vốn AI) không cần thiết và tăng hiệu suất phát triển an toàn.

#architecture #ai-coding #claude Source

Towards Dev1 Hot53 min20 h agoAI

Building a Self-Correcting C# OCR Pipeline with IronOCR and Claude

Bài viết trình bày cách xây dựng một pipeline trích xuất dữ liệu hoá đơn tự sửa chữa bằng C#. Sử dụng IronOCR để nhận dạng văn bản và Claude để phân tích cấu trúc, kết hợp kiểm tra OCR confidence và field provenance để quyết định khi nào thực hiện retry. Khi confidence thấp hoặc provenance không rõ, hệ thống tự động lặp lại OCR và sau đó đưa ra quyết định whether để gửi cho người dùng hoặc tiếp tục xử lý. Kết quả là giảm đáng kể số lần can thiệp thủ công và tăng độ tin cậy của việc trích xuất trường dữ liệu. Đây là ví dụ thực tiễn cho việc tích hợp OCR và mô hình ngôn ngữ để tạo pipeline tự động và có khả năng tự phục hồi.

We need to output exactly one short Vietnamese sentence, explaining why a developer should read this. Must be correct Vietnamese, no opening filler, no markdown, no Chinese/Japanese/Korean/Han characters. Only Vietnamese and Latin characters. Must not contain any non-Latin characters. So we must avoid diacritics? Vietnamese uses diacritics, which are Latin characters with diacritics, allowed? The instruction says "chỉ dùng chữ Việt và chữ Latin". That includes diacritics as part of Vietnamese letters, so it's okay. Must not contain any Chinese/Japanese/Korean/Han characters. So we can write a Vietnamese sentence with diacritics. Must be exactly one sentence, short. No markdown. No opening filler. So just the sentence. Example

#machine-learning #c##claude Source

ploeh blog106 Hot2 min18 d agoAI

Why use ORMs if LLMs write code?

ORMs vẫn cần thiết vì chúng cung cấp lớp trừu tượng an toàn, hiệu quả để tương tác với cơ sở dữ liệu, trong khi LLMs chỉ sinh code tiềm ẩn rủi ro lỗi, kém tối ưu và khó bảo trì. ORMs giúp chuẩn hóa truy vấn, tránh SQL injection và tối ưu hóa hiệu suất thông qua caching, điều mà code do LLM sinh ra khó đảm bảo.

Lập trình viên nên đọc bài này để hiểu cách ORM và SQL vẫn giữ vai trò quan trọng trong quản lý dữ liệu cơ bản, giúp tránh rủi ro lỗi và tối ưu hóa hiệu suất khi ứng dụng lớn cần kiểm soát trực tiếp dữ liệu.

#llm #backend #sql Source

“Can You Review This Draft I Generated?”: The 60-Second Adversarial Audit Prompt for AI Slop

Recommended for you

Bình luận

LLM Moats Quickly Evaporating

Practical Loop Engineering

Reasoning Models From Scratch: Code Setup

8 Tips for Writing Effective Agent Instructions

This open-source Google app turned my phone into a fully local AI lab

Stop burning tokens on code review

Building a Self-Correcting C# OCR Pipeline with IronOCR and Claude

Why use ORMs if LLMs write code?

One account, the whole ecosystem

8syncdev.com

Courses

Coding practice

IELTS

ZUS — AI IDE

mind0

AcoLeads