My local models are worse than Claude at almost everything, but they still run most of my workflow for $0

Narratarr: Self-Hosted Audiobook Manager and Player

Narratarr is a self-hosted audiobook manager with free audiobook discovery, Docker support, a built-in player, and Audiobookshelf integration.

GTA.js, a reimplementation of the 1997 Grand Theft Auto engine in JavaScript and WebGL

Dự án GTA.js tái tạo lại engine của game Grand Theft Auto năm 1997 bằng JavaScript và WebGL, có thể chơi tại gtajs.wtf. Đây là bản reimplement chứ không phải emulator, nên một số vật lý và animation khác với bản gốc, nhưng engine nhiệm vụ chính xác dựa trên tài liệu mtd.doc. Tác giả sử dụng Gemini AI để triển khai hầu hết các tính năng, tham khảo tài liệu mở, ghi chú cộng đồng và trí nhớ cá nhân về game. Hiện tại game đã chơi được nhưng cảnh sát (cops) vẫn chưa được implement.

Lập trình viên nên đọc bài này để khám phá cách tái tạo lại engine game cổ bằng JavaScript và WebGL từ con số không.

No Human Will Ever Write Code Better Than LLMs? Better at What?

A tweet went around saying: "No human will ever write code better than LLMs. Accept this fact, stop... Tagged with ai, programming, softwareengineering, career.

I gave my local LLM my browser history, and it built a better bookmark system than I ever had

My browsing history knew which bookmarks I needed better than I did.

Baseten’s joey-1 makes AI decisions for a penny per million tokens

Baseten's open-weights joey-1 is a 2B model that picks answers instead of writing text, costing $0.01 per million tokens with 20ms response times.

I changed one llama.cpp flag, and my 8GB laptop GPU now runs a 35B model faster than I can read

Một lập trình viên đã tìm ra cách chạy model Llama 35B trên laptop GPU chỉ 8GB VRAM với tốc độ đáng kinh ngạc. Nguyên nhân kỹ thuật nằm ở việc chỉnh sửa cờ n_gpu_layers trong llama.cpp, cho phép tận dụng hiệu quả bộ nhớ VRAM thay vì để nó trở thành điểm nghẽn. Hệ quả là model 35B parameters chạy nhanh đến mức người dùng không kịp theo dõi, vượt xa các kỳ vọng ban đầu về giới hạn phần cứng. Điều đáng học hỏi là đôi khi vấn đề không nằm ở cấu hình phần cứng mà ở cách tối ưu hóa phần mềm để khai thác tiềm năng thực sự của hardware.

Bài viết tiết lộ cách tối ưu hóa một cờ trong llama.cpp để chạy mô hình 35B trên GPU 8GB nhanh hơn tốc độ đọc của bạn.

We won't "just hang out"

On human connection after the Singularity.

Mistral releases open weights for its 1 trillion-parameter Large 4 model

Mistral has released the weights of Mistral Large 4 on Hugging Face, after three weeks of extra training lifted its coding and cyber defence scores.