Brown student maps the hidden global labor powering AI

No Human Will Ever Write Code Better Than LLMs? Better at What?

A tweet went around saying: "No human will ever write code better than LLMs. Accept this fact, stop... Tagged with ai, programming, softwareengineering, career.

We won't "just hang out"

On human connection after the Singularity.

Mistral releases open weights for its 1 trillion-parameter Large 4 model

Mistral has released the weights of Mistral Large 4 on Hugging Face, after three weeks of extra training lifted its coding and cyber defence scores.

LLM Voice

Martin Fowler warns writers against letting LLMs draft their prose, arguing it creates an 'uncanny valley' reaction he calls LLM-Voice. Even human editing rarely removes it fully, though he knows one case where a professional editor at a major periodical cleaned up an LLM-drafted piece successfully. He argues delegating writing to LLMs also delegates thinking, since writing forces authors to resolve their own confusions. He makes exceptions for cases like Jim Highsmith, who uses an LLM to write despite Parkinson's disease, and for non-native English speakers using translation tools. Fowler states he used no AI while writing this post and requires contributors to his site to declare AI use in acknowledgments.

Ghost in the Shell: Can a Log File Hijack an AI?

This week's Hacktoberfest theme is Ghost in the Machine. Unfortunately, I don't have enough time to... Tagged with ai, security, halloween, promptengineering.

6 KV Cache Quantization Approaches

Bối cảnh về KV Cache Quantization trở nên quan trọng khi inference model lớn như GPT-3 cần …

I think we're cooked...

Tác giả nhận ra token dùng thử Qwen Cloud đã hết hạn sau khi đăng bài với tiêu đề "I think we're cooked..." - một sự kiện cho thấy việc phụ thuộc vào AI cloud services như Qwen Cloud có thể gây gián đoạn không lường trước. Nguyên nhân kỹ thuật là token xác thực chỉ có thời hạn sử dụng, vấn đề phổ biến với nhiều nền tảng AI cloud như Qwen, Claude hay Gemini. Hệ quả là người dùng có thể mất quyền truy cập vào tài nguyên AI đã thanh toán hoặc được cấp phép, khiến các dự án cá nhân hoặc công việc bị đình đột ngột. Điều đáng học là cần luôn có kế hoạch dự phòng, chẳng hạn lưu trữ kết quả hoặc sử dụng các local alternatives như Ollama, để không phụ thuộc hoàn toàn vào các cloud AI services có thời hạn token.

Bài viết chia sẻ thực tế về những thách thức và cơ hội trong sự nghiệp lập trình viên thời đại AI.

What I Actually Learn When I Build With AI

Tác giả đã dành nhiều đêm liền xây dựng dự án AI với nhiều tính năng hoạt động, nhưng sau đó nhận ra bài học lớn hơn. Nguyên nhân kỹ thuật là việc tập trung vào việc tích hợp các API AI mà bỏ qua kiến trúc nền tảng và xử lý lỗi. Hệ quả là dự án trở nên khó bảo trì và mở rộng khi lượng dữ liệu tăng. Điều đáng học là phải hiểu rõ hạn chế của các AI model như GPT-4 và Claude trước khi triển khai, cũng như thiết kế hệ thống có khả năng fallback khi các API gặp sự cố.

Bài viết này chia sẻ những bài học thực sự quý báu mà lập trình viên có thể nhận được khi xây dựng dự án với AI.