Let AI Burn

NVIDIA Developer1 Hot9 min10 h agoAI

NVIDIA AVO Reaches 100% on ARC-AGI-3, Demonstrating a Frontier-Level General-Purpose Architecture for Long-Horizon Autonomous Agents

Công việc xây dựng một tác nhân AI không chỉ dừng lại tại việc huấn luyện một mô hình ngôn ngữ tiên tiến mà còn phụ thuộc vào hệ thống bao quanh – thường được gọi là harness – để cung cấp bối cảnh, bộ nhớ và khả năng sử dụng công cụ. NVIDIA đã phát triển kiến trúc AVO, tích hợp một harness tổng quát với khả năng lập kế hoạch dài hạn và tương tác với môi trường, cho phép mô hình ngôn ngữ hoạt động như một trung tâm quyết định trong một vòng khép kín. Khi được đánh giá trên bộ benchmark ARC-AGI-3, AVO đạt điểm 100%, vượt qua tất cả các tác vụ suy luận trừu tượng và dài hạn mà các mô hình ngôn ngữ đơn thuần thường thất bại. Kết quả này chứng minh rằng một kiến trúc tổng quát ở mức frontier có thể hỗ trợ các tác nhân tự chủ hoạt động liên tục qua nhiều bước mà không cần can thiệp con người. Bài học chính là: để đạt hiệu suất cao nhất trong các tác nhân tự chủ, đầu tư vào thiết kế harness và cơ chế tương tác môi trường là quan trọng không kém việc mở rộng kích thước mô hình.

Bài viết này tiết lộ cách NVIDIA đạt được 100% hiệu suất trong hệ thống agent tổng quát, mở ra hướng phát triển AI tự chủ với tầm nhìn dài hạn.

#ai-agent #nvidia #gpu Source

Arpit Bhayani1 Hot6 min10 h agoAI

Slop Debt

Bài viết bắt đầu bằng việc xác định rằng công nợ kỹ thuật (tech debt) có quy tắc rõ ràng khi團隊故意 để lại lỗi nhỏ để đáp ứng hạn chót. Khi đó, các nhà phát triển thường ghi chú TODO fix this và mong đợi sẽ được xử lý sau khoảng thời gian nhất định, thường là sáu tháng. Do có giới hạn thời gian và khả năng truy vết, công nợ này gây phiền phức nhưng vẫn có thể đo lường và một kỹ sư cấp cao có thể vẽ bản đồ chỉ ra vị trí các "shallow bugs" trong mã nguồn. Điều này trái ngược với "slop debt" mà mô tả là sự tích lũy của mã nguồn loạn lạc mà không có bất kỳ ghi chú hoặc kế hoạch sửa chữa nào, khiến việc định vị và xử lý trở nên khó khăn hơn nhiều. Bài học chính là cần phân biệt hai loại nợ và áp dụng chiến lược trả nợ phù hợp: đối với tech debt, lên kế hoạch sửa trong chu kỳ phát hành; đối với slop debt, cần đầu tư tái cấu trúc sớm để tránh sự suy giảm không thể kiểm soát của chất lượng mã.

Bài viết này giúp lập trình viên nhận diện và quản lý các dạng nợ kỹ thuật vô hình mà không có quy tắc rõ ràng, gây nguy hiểm cho dự án.

#llm #architecture #ai-coding Source

Real Python1 Hot3 min11 h agoAI

Episode #308: Navigating Silent Failures in AI: Strategies for Effective Oversight – The Real Python Podcast

Episode #308 của podcast Real Python mang tính năng Calvin Hendryx‑Parker quay lại để chia sẻ về cách AI có thể thất bại im lặng và những biện pháp giám sát hiệu quả mà ông trình bày trong bài phát biểu “Orchestrate Agentic AI: Context, Checklists, and No‑Miss Reviews”. Ông chỉ ra rằng nguyên nhân kỹ thuật thường là thiếu bối cảnh rõ ràng, отсутствие точек валидации и отсутствие системного процесса ревью в агентных рабочих процессах, что приводит к тому, что модели выдают правдоподобные, но ошибочные результаты без какого‑либо сигнала тревоги. Такие скрытые сбои могут вызывать цепочку последующих ошибок, тратя вычислительные ресурсы и подрывая доверие заинтересованных сторон к системе. В качестве урока он предлагает встраивать контекст, обязательные чек‑листы и шаг “no‑miss” review, который автоматически помечает любые отклонения перед принятием вывода. Применение таких практик, как автоматизированные sanity‑checks, версионированные промпты и аудиты с участием человека, преобразует скрытые сбои в обнаруживаемые проблемы и повышает надежность AI‑конвейеров.

Bài viết này giúp lập trình viên hiểu cách phát hiện và ngăn chặn sự cố thầm lặng trong hệ thống AI, đảm bảo chất lượng và độ tin cậy của ứng dụng.

#python #llm #ai-agent Source

Philipp Schmid1 Hot8 min8 h agoAI

Recursive Self-Improvement

Các agent hiện tại đã có thể tự sửa đổi công cụ, kỹ năng và harness của chúng. Để đạt được cải thiện tự đệ quy, cần một hệ thống có thể nâng cao khả năng xác thực (verifier) mà không bị agent đó bắt giữ (capture). Nếu thiếu cơ chế như vậy, quá trình tự cải thiện sẽ dễ dừng lại hoặc dẫn đến vòng lặp không an toàn khi agent tự thay đổi verifier của mình. Bài viết nhấn mạnh tầm quan trọng của việc tách lớp xác thực ra khỏi lớp được sửa đổi, gợi ý hướng kiến trúc an toàn cho hệ thống tự cải thiện. Điều này cung cấp một góc nhìn cụ thể để lập trình viên đánh giá khả năng áp dụng đệ quy tự cải thiện trong dự án của mình.

Bài viết giúp bạn hiểu thách thức then chốt trong việc tạo ra các hệ thống tự cải tiến đệ quy có khả năng nâng cao bộ xác thực mà không bị chi phối.

#llm #ai-agent Source

XDA Developers1 Hot4 min6 h agoAI

After trying 20+ local LLMs, these are the 4 I keep installed for different jobs

Tác giả đã thử nghiệm hơn 20 mô hình LLM chạy local để tìm ra những cái phù hợp nhất với từng nhu cầu cụ thể. Anh ấy nhận thấy không có mô hình nào tốt nhất trong tất cả các tác vụ; mỗi model có điểm mạnh riêng như tốc độ sinh văn bản, khả năng reasoning hoặc hỗ trợ tốt cho mã nguồn. Do đó, anh quyết định giữ lại chỉ 4 mô hình khác nhau, mỗi cái được cài sẵn để xử lý một loại công việc cụ thể (ví dụ: mô hình A cho tạo mã, mô hình B cho tóm tắt tài liệu, mô hình C cho trò chuyện, mô hình D cho xử lý ngôn ngữ đa ngôn ngữ). Khi cần thực hiện một nhiệm vụ, anh chỉ cần gọi model tương ứng mà không phải lo lắng về việc chuyển đổi hoặc tải lại. Bài học là thay vì tích lũy nhiều model mà không có mục tiêu, nên chọn và giữ những model phù hợp với từng công việc để tối ưu hóa hiệu suất và tiết kiệm tài nguyên.

Bài viết này giúp bạn chọn được 4 mô hình AI địa phương phù hợp nhất cho từng tác cụ thể, tiết kiệm thời gian thử nghiệm.

#data-science #llm #self-hosting Source

SD Times1 Hot2 min6 h agoAI

Sauce Labs Expands AURA with Model Choice

Sauce Labs vừa mở rộng nền tảng AURA bằng tính năng Model Choice, cho phép khách hàng doanh nghiệp tích hợp bất kỳ mô hình ngôn ngữ lớn (LLM) nào vào quy trình phát triển phần mềm. Trước đây, AURA chủ yếu tập trung vào quản lý kiểm thử và triển khai, nhưng việc thiếu sự linh hoạt trong選擇 LLM khiến các đội ngũ gặp khó khăn khi thử nghiệm các mô hình AI mới. Với cập nhật này, nhà phát triển có thể chọn và thay đổi LLM mà không cần rời khỏi môi trường AURA, đồng thời vẫn duy trì chính sách quản lý và giám sát tập trung. Hệ quả là các tổ chức có thể tăng tốc độ thí nghiệm AI, giảm thời gian chuyển đổi giữa các mô hình và giảm rủi ro về sự phân tán công cụ. Điều đáng học là việc kết hợp khả năng chọn mô hình AI linh hoạt với nền tảng quản lý thống nhất giúp doanh nghiệp duy trì sự kiểm soát trong khi khai thác sự đa dạng của các LLM hiện nay.

Tìm hiểu cách Sauce Labs mở rộng AURA với lựa chọn mô hình để doanh nghiệp có thể xây dựng phần mềm với bất kỳ LLM nào trong một nền tảng được kiểm soát.

#llm #testing #cicd Source

Medium1 Hot10 min7 h agoAI

Giving Your Agent Memory: Short-Term vs Long-Term vs Episodic Memory in Code

Bài viết mô tả nhu cầu cung cấp bộ nhớ cho AI agent để duy trì ngữ cảnh trong quá trình thực hiện tác vụ, phân biệt ba loại bộ nhớ: short‑term (working memory) lưu trữ tạm thời trong vòng lặp agent, long‑term (persistent memory) dùng cơ sở dữ liệu vector như FAISS hoặc Pinecone để lưu kiến thức lâu dài, và episodic memory ghi lại từng trajectory interaction dưới dạng log hoặc bảng SQLite. Trong phần triển khai, tác giả minh họa bằng mã Python sử dụng LangChain để tích hợp ba lớp bộ nhớ, với short‑term được lưu trong một deque có kích thước giới hạn 10 tin nhắn, long‑term truy vấn qua FAISS với thời gian trả về trung bình 35 ms, và episodic được lưu trữ trong SQLite để truy xuất lịch sử phiên bản. Kết quả thử nghiệm trên benchmark MiniWoB cho thấy việc kết hợp ba loại bộ nhớ giúp agent duy trì được khoảng 4 000 token ngữ cảnh mà không vượt quá giới hạn mô hình, đồng thời tăng tỷ lệ thành công nhiệm vụ từ 62 % lên 78 % và giảm latency tổng thể xuống dưới 50 ms cho mỗi bước quyết định. Điều đáng học là việc thiết kế rõ ràng các lớp bộ nhớ và chọn công nghệ lưu trữ phù hợp không chỉ cải thiện hiệu suất mà còn giúp mở rộng khả năng xử lý tác vụ phức tạp mà không cần thay đổi kiến trúc mô hình nền.

Bài viết này giúp lập trình viên hiểu cách xây dựng hệ thống trí nhớ hiệu quả cho AI agent với các loại bộ nhớ khác nhau.

#python #llm #architecture Source

Jay Little1 Hot13 min4 h agoAI

Marc Andreessen is a Demilich of Tech

Bài viết bắt đầu từ việc tác giả ngัง xem video YouTube có tiêu đề “Meet The Silicon Valley Billionaire Ruining The World” và thấy nó thuyết phục trong 13 phút. Video đó trích dẫn bài viết của Marc Andreessen năm 2021 có tiêu đề “The Techno Optimist Manifesto”, trong anh ta khẳng định rằng công nghệ sẽ giải quyết mọi vấn đề xã hội mà không cần sự can thiệp của chính sách. Theo tác giả, tư tưởng này bỏ qua các rủi ro như tập trung quyền lực, bất bình đẳng và tác động môi trường, dẫn tới việc Andreessen được xem là một nhân vật gây hại cho ngành công nghệ. Hệ quả của việc lan tỏa tư tưởng này là các nhà đầu tư và nhà phát triển có thể bỏ qua việc đánh giá tác động xã hội của sản phẩm, tập trung chỉ vào tăng trưởng và lợi nhuận. Bài học mà nhà phát triển có thể rút ra là cần luôn cân bằng giữa lạc quan về công nghệ và sự 비판 về hậu quả xã hội, đồng thời tham khảo nguồn gốc như manifesto để hiểu rõ động lực đằng sau các quyết định đầu tư.

Bài này giúp lập trình viên hiểu rõ hơn về quan điểm công nghệ của một nhân vật có ảnh hưởng như Marc Andreessen.

#ai #ethics #big-tech Source

Let AI Burn

What do you remember?

Recommended for you

Bình luận

NVIDIA AVO Reaches 100% on ARC-AGI-3, Demonstrating a Frontier-Level General-Purpose Architecture for Long-Horizon Autonomous Agents

Slop Debt

Episode #308: Navigating Silent Failures in AI: Strategies for Effective Oversight – The Real Python Podcast

Recursive Self-Improvement

After trying 20+ local LLMs, these are the 4 I keep installed for different jobs

Sauce Labs Expands AURA with Model Choice

Giving Your Agent Memory: Short-Term vs Long-Term vs Episodic Memory in Code

Marc Andreessen is a Demilich of Tech

One account, the whole ecosystem

8syncdev.com

Courses

Coding practice

IELTS

ZUS — AI IDE

mind0

AcoLeads