GPT and Claude go to heraldry school

Addy Osmani88 Hot15 min2 d agoAITop

Practical Loop Engineering

Các kỹ sư thường sử dụng vòng lặp để tự động hoá việc đạt mục tiêu, nhưng khi không kiểm …

HEARTBEAT1 Hot9 min7 h agoAI

How Do You Build an LLM Evaluation Dataset from Production Traces?

Bài viết đặt câu hỏi cách tạo bộ dữ liệu đánh giá LLM từ các trace thu thập được trong môi trường sản xuất, cập nhật lần cuối vào 2026‑08‑25. Để xây dựng dataset, họ dùng các trace chứa input và output của agent, cần lọc, chuẩn hoá và gán nhãn để tránh nhiễu. Kết quả là có thể đánh giá mô hình trên dữ liệu thực tế nhưng rủi ro thiếu đại diện và rò rỉ thông tin nếu không kiểm soát tốt. Điều cần học là phải có quy trình thu thập và chuẩn bị trace có hệ thống, thường dùng công cụ như LangChain hoặc LlamaIndex để extract trace, và luôn audit trước khi đưa vào evaluation. Nếu bạn đang cân nhắc, hãy xem cách họ xử lý trace để hiểu quy trình thực tiễn và xem có phù hợp với pipeline của mình không.

Bài viết này giúp bạn tạo bộ đánh giá LLM chất lượng cao từ dữ liệu thực tế sản xuất.

#llm #testing #observability Source

The New Stack2 Hot4 min13 h agoAI

Tokenmaxxing is out. How to minimize AI spend without sacrificing security capability.

Bối cảnh: Chi phí chạy mô hình AI lớn để thực hiện các tác vụ bảo mật đang tăng nhanh do tiêu thụ token cao. Nguyên nhân kỹ thuật: Khi tất cả các yêu cầu đều được gửi tới mô hình mạnh nhất, lượng token đầu vào và đầu ra tăng không cần thiết, gây ra chi phí không hiệu quả. Hệ quả: Áp dụng mô hình funnel phân cấp – sử dụng mô hình nhẹ cho các truy vấn đơn giản và giữ mô hình mạnh chỉ cho các trường hợp phức tạp – kết hợp với kỹ thuật thiết kế prompt thông minh giúp giảm lượng token tiêu thụ đáng kể mà không làm giảm khả năng phát hiện đe dọa. Điều đáng học: Đội ngũ bảo mật nên xây dựng quy trình định tuyến mô hình dựa trên độ khó của prompt và đầu tư vào tối ưu prompt để tối ưu chi phí AI mà vẫn duy trì mức độ bảo vệ cần thiết.

Bài viết này giúp bạn tiết kiệm chi phí AI an ninh mà vẫn duy trì hiệu năng bảo mật tối ưu.

#security #llm #prompt-engineering Source

GitHub Blog1 Hot13 min8 h agoAI

How to evaluate LLMs before production

Bối cảnh: Trước khi đưa LLM vào hệ thống sản xuất để quét mật mã, nhóm cần xác định xem mô hình có đủ khả năng phát hiện chính xác các secret không. Nguyên nhân kỹ thuật: Các LLM thường sinh ra phản hồi không nhất quán, dễ bị lừa bởi prompt và có xu hướng hallucinate, dẫn đến cả false positive và false negative trong việc nhận diện chuỗi khóa, token hoặc mật khẩu. Hệ quả: Nếu không kiểm soát những lỗi này, hệ thống có thể bỏ qua các secret thực sự (gây rò rỉ bảo mật) hoặc tạo ra quá nhiều cảnh báo không đúng (gây cảnh báo mệt mỏi và lãng phí công sức kiểm tra). Điều đáng học: Đánh giá trước khi triển khai nên dựa trên bộ dữ liệu secret thực tế, đo lường precision, recall và latency, đồng thời kiểm tra mô hình đối với các adversarial prompt và thiết lập quy trình giám sát liên tục sau khi đưa vào production. Các bước này giúp giảm rủi ro và tăng độ tin cậy của giải pháp quét secret dựa trên LLM.

Bài viết chia sẻ kinh nghiệm thực tế đánh giá LLMs cho quét dữ liệu bí mật trong môi trường ứng dụng thực tế.

#security #llm #github Source

MIT Technology Review1 Hot2 min8 h agoAI

Your brain on AI

Bài viết so sánh tác động của GPS đối với khả năng định vị tự nhiên của con người với cách mà sự phụ thuộc vào chatbot AI ảnh hưởng đến tư duy phản biện. Khi người dùng thường xuyên nhận câu trả lời trực tiếp từ chatbot mà không tự tra cứu nguồn, họ dần giảm thói quen kiểm chứng thông tin. Sự suy giảm này dẫn đến khả năng phát hiện tin giả bị yếu hóa, vì người dùng ít khi đặt câu hỏi về độ tin cậy của nội dung được cung cấp. Điều này đồng nghĩa với việc các lỗi lường trong việc đánh giá tin tức có thể tăng lên khi sự can thiệp của con người trong quá trình xác thực bị thay thế bằng tự động hoá. Bài học chính là dù AI có thể cung cấp thông tin nhanh chóng, người lập trình và người dùng vẫn cần duy trì khả năng suy luận độc lập và không thay thế quá trình kiểm chứng bằng sự tự động hoá của chatbot.

Bài viết cảnh báo về tác động tiêu cực của việc quá phụ thuộc vào chatbot đến khả năng nhận diện tin giả của não bộ.

#llm #ethical-ai Source

LangChain1 Hot6 min8 h agoAI

Announcing our $10M seed round led by Benchmark

LangChain, framework mã nguồn mở giúp phát triển ứng dụng AI dựa trên LLM có khả năng nhận diện dữ liệu và hoạt động như agent, vừa hoàn thành vòng seed trị giá 10 triệu USD do Benchmark dẫn đầu. Vốn này được mobilize để mở rộng đội ngũ kỹ thuật và cải thiện các tính năng kết nối dữ liệu ngoài bộ nhớ mô hình, cho phép các LLM truy cập và xử lý thông tin từ nguồn ngoài một cách linh hoạt. Với sự hỗ trợ này, các nhà phát triển có thể xây dựng nhanh chóng các ứng dụng agentic LLMs mà không cần lo lắng về việc tích hợp phức tạp các nguồn dữ liệu khác nhau. Kết quả dự kiến là tăng tốc độ przyjęcie của LangChain trong cộng đồng AI và mở rộng hệ sinh thái các plugin và kết nối dữ liệu. Bài học từ vụ gọi vốn này là việc đầu tư vào nền tảng cơ sở hạ tầng mã nguồn mở cho LLM không chỉ tạo ra giá trị công nghệ mà còn thu hút sự quan tâm của các quỹ đầu tư chiến lược như Benchmark.

Bài viết này cho bạn thấy tiềm năng tài chính và sự ủng hộ từ nhà đầu tư hàng đầu cho công nghệ AI đang định hình tương lai phát triển ứng dụng.

#open-source #llm #venture-capital Source

swizec.com145 Hot6 min10 d agoAI

Stop burning tokens on code review

Tác giả chia sẻ cách xây dựng hệ thống giúp con người và AI triển khai sản phẩm nhanh chóng nhưng an toàn bằng cách sử dụng custom linters.

Lập trình viên nên đọc bài này để khám phá cách tối ưu hóa quá trình code review bằng cách sử dụng các công cụ linter cá nhân, giúp giảm thiểu việc tiêu thụ token (vốn AI) không cần thiết và tăng hiệu suất phát triển an toàn.

#architecture #ai-coding #claude Source

Medium22 Hot9 min3 d agoAI

The AI Errors That Don’t Look Like Errors

Bài viết指出，AI thường tạo ra những lỗi không dễ phát hiện vì chúng không phải là trích dẫn hoàn toàn giả mạo mà là những nguồn thật nhưng có số trang, ngày tháng hoặc thống kê bị thay đổi nhẹ. Những lỗi này xảy ra khi mô hình truy xuất tài liệu thực sự rồi tự động chỉnh sửa lại chi tiết để phù hợp với ngữ cảnh mà nó đang tạo ra, dẫn tới những tham chiếu выглядят chính xác nhưng thực tế sai lệch. Khi vượt qua quá trình kiểm tra thường lệ, các sai số này có thể lọt vào bài báo, tài liệu kỹ thuật hoặc bài viết học thuật, gây nhầm lẫn và làm giảm độ tin cậy của nội dung được hỗ trợ bởi AI. Bài khuyên người đọc nên luôn xác thực từng trích dẫn bằng cách tra cứu nguồn gốc, kiểm tra lại các con số và sử dụng công cụ truy vết nguồn khi có thể. Việc xem đầu ra của AI như một bản nháp cần審閱而不是 kết luận cuối cùng là cách hiệu quả nhất để tránh những lỗi “không nhìn thấy là lỗi” này.

Bài viết này giúp lập trình viên nhận ra những sai lầm tinh vi của AI mà thông thường không thể phát hiện qua bình thường.

#llm #github Source

GPT and Claude go to heraldry school

Recommended for you

Practical Loop Engineering

Bình luận

How Do You Build an LLM Evaluation Dataset from Production Traces?

Tokenmaxxing is out. How to minimize AI spend without sacrificing security capability.

How to evaluate LLMs before production

Your brain on AI

Announcing our $10M seed round led by Benchmark

Stop burning tokens on code review

The AI Errors That Don’t Look Like Errors

One account, the whole ecosystem

8syncdev.com

Courses

Coding practice

IELTS

ZUS — AI IDE

mind0

AcoLeads