Another Microsoft team admits it’s struggling to handle flood of AI-generated code

Dear Coder: Open This If You're Feeling AI FOMO

Thị trường AI hiện đang cực kỳ cạnh tranh với các công ty liên tục tung ra model đạt hiệu suất X% cao hơn. Nguyên nhân kỹ thuật chính là sự phát triển nhanh chóng của transformer architecture và công nghệ training distributed như DeepSpeed. Hệ quả là các lập trình viên cảm thấy FOMO (sợ bỏ lỡ) và phải liên tục cập nhật kiến thức mới để không tụt hậu. Điều đáng học là tập trung vào fundamentals thay vì đuổi theo hype, vì nền tảng vững chắc giúp bạn hiểu và áp dụng công nghệ AI một cách hiệu quả hơn trong dài hạn.

Bài viết này giúp lập trình viên vượt qua cảm giác bỏ lỡ xu hướng AI và nắm bắt cơ hội phát triển trong thời đại công nghệ mới.

Meet the developers rejecting AI

Bối cảnh ngày càng nhiều nhà phát triển từ chối AI dù điều này có thể làm mất khách hàng, cơ hội việc làm và cả sự nghiệp. Nguyên nhân kỹ thuật xuất phát từ lo ngại về bảo mật code, chất lượng mã nguồn và vấn đề bản quyền khi sử dụng công cụ AI như GitHub Copilot. Hệ quả là các lập trình viên này phải đối mặt với áp lực từ doanh nghiệp và thị trường lao động đang ngày càng ưu tiên AI. Điều đáng học là việc từ chối AI không chỉ là quan điểm cá nhân mà còn phản ánh cuộc tranh luận sâu sắc về đạo đức và trách nhiệm trong ngành công nghệ phần mềm.

Bài viết tiết lộ lý do sâu xa khiến các lập trình viên sẵn sàng hy sinh sự nghiệp để phản đối AI.

The Brain Sandwich

Trong bối cảnh AI coding đang phát triển nhanh, "Brain Sandwich" là quy trình làm việc thực tế gồm ba bước: hiểu vấn đề, dùng agent để hỗ trợ, sau đó kiểm tra và giải thích kết quả trước khi chia sẻ. Nguyên nhân kỹ thuật đằng sau hiệu quả của Brain Sandwich là nó tận dụng khả năng của LLM như GPT-4 trong việc tạo mã nhưng luôn có bước xác minh con người. Hệ quả là quy trình này giúp giảm thời gian coding đáng kể (có thể lên đến 40% theo nghiên cứu) đồng thời giảm thiểu lỗi do thiếu kiểm soát. Điều đáng học ở đây là cách tiếp cận cân bằng giữa tự động hóa và kiểm soát chất lượng, không hoàn toàn phụ thuộc vào AI mà luôn giữ vai trò giám sát của lập trình viên.

Công thức "The Brain Sandwich" giúp lập trình viên tăng hiệu suất làm việc với AI bằng quy trình thực tế từ hiểu vấn đề đến xác minh giải pháp.

Linus wrote Git in about 10 days, so I asked my local LLM to build something similar with one prompt

Khi Linus Torvalds phát triển Git chỉ trong khoảng 10 ngày, tác giả đã thử nghiệm bằng cách yêu cầu một local language model (LLM) xây dựng một hệ thống tương tự với một single prompt. Kết quả bất ngờ khi local LLM tạo ra một phiên bản đơn giản nhưng hoạt động tốt, chứng minh khả năng của AI trong phát triển code cơ bản. Hệ thống được tạo ra có các chức năng cơ bản như add, commit, và log, tuy nhiên không có các tính năng phức tạp như branching hay merging đầy đủ. Điều đáng học hỏi là cách các LLM hiện tại có thể tạo ra các công cụ code đơn giản nhưng hữu ích chỉ với một prompt duy nhất.

Bài viết này cho thấy khả năng đáng ngạc nhiên của các mô hình ngôn ngữ lớn trong việc tái tạo các công cụ lập trình phức tạp chỉ bằng một lệnh đơn giản.

When You Work with AI, You’re a Middle Manager.

Khi làm việc với AI, lập trình viên trở thành middle manager khi phải đưa ra hướng dẫn bằng plain-English thay vì tự xây dựng code. Nguyên nhân kỹ thuật là AI có thể tự giải quyết vấn đề nhưng kết quả không hoàn hảo, khiến lập trình viên phải đối mặt với sự thất vọng. Hệ quả là vị trí middle manager thường bị cắt giảm đầu tiên trong đợt cắt chi phí, tương tự như số phận của Power BI developer role đã suy giảm. Điều đáng học là các lập trình viên nên cân nhắc giữa việc trở thành AI orchestrator hay duy trì kỹ năng xây dựng code thực tế để đảm bảo sự bền vững trong sự nghiệp.

Bài viết giúp lập trình viên nhận thức được rủi ro khi chỉ làm người điều phối AI thay vì xây dựng sản phẩm thực sự.

ReviewBench: An open benchmark for AI code review

ReviewBench là một benchmark đánh giá agents code review được xây dựng từ các pull request điển hình trên GitHub. Benchmark này sử dụng ground truth từ nhiều nguồn và phương pháp đánh giá được calibrating để đảm bảo độ tin cậy. Với các chỉ số đo lường cụ thể như thời gian phân tích, độ chính xác và khả năng phát hiện bug, ReviewBench giúp đánh giá hiệu quả của các AI tools hỗ trợ code review. Lập trình viên nên tham khảo bài viết để hiểu rõ cách đánh giá và so sánh hiệu năng của các code review agents khác nhau trên cùng một tập dữ liệu chuẩn.

ReviewBench cung cấp bộ đánh giá chuẩn hóa giúp lập trình viên hiểu rõ khả năng của các công cụ AI trong việc kiểm tra code chất lượng cao.

Microsoft doubles down on Rust

Microsoft đã nâng Rust lên Tier-1 status trong hệ sinh thái nội bộ và bắt đầu tích hợp với …

The LLM Blindspot: Why Models Forget What’s in the Middle of Your Prompt

Các mô hình LLM (Large Language Model) thường bỏ qua thông tin nằm ở giữa prompt, hiện tượng được nghiên cứu trong bài viết này. Nguyên nhân kỹ thuật đến từ cơ chế attention của transformer architecture, nơi các token ở đầu và prompt được tính trọng số cao hơn. Hệ quả là mô hình có thể hiểu sai hoặc bỏ qua chi tiết quan trọng nằm ở vị trí trung tâm của prompt. Bài viết phân tích cụ thể hiện tượng này với các thí nghiệm trên GPT-3.5 và GPT-4, cho thấy tỷ lệ lỗi tăng lên đáng kể khi thông tin quan trọng được đặt ở giữa. Điều đáng học là các lập trình viên nên thiết kế prompt đặt thông tin quan trọng ở đầu hoặc cuối để tối ưu hóa hiệu quả khi làm việc với LLM.

Bài giải thích này giúp lập trình viên hiểu rõ tại sao mô hình ngôn ngữ lớn có xu hướng bỏ qua thông tin ở giữa prompt.