Nscale and Anthropic are reportedly in talks for yet another $45 billion compute deal

How Anthropic Redesigned Source Control

In this article, we’ll look at the architecture behind Scion.

How we investigated prompt cache misses with Datadog

An investigation of prompt cache misses in internal AI applications by using Datadog Cloud Cost Management and Agent Observability.

Claude Code's creator says better prompts need just 3 things, so I tested his approach

Bối cảnh của bài viết khám phá liệu chúng ta có đang quá tư duy hóa việc tạo prompt hay không. Nguyên nhân kỹ thuật được nêu ra là một phương pháp đơn giản chỉ cần 3 yếu tố: context, instruction, và input, được đề xuất bởi nhà sáng tạo Claude Code. Hệ quả khi áp dụng phương pháp này là việc tạo prompt hiệu quả trở nên dễ dàng hơn nhiều so với những cách phức tạp trước đây. Điều đáng học là ngay cả những AI model mạnh nhất hiện nay như Claude 3 hay GPT-4 vẫn phản ứng tốt với prompt có cấu trúc đơn giản này.

Bài viết này giúp bạn hiểu ra cách đơn giản hóa việc tạo prompt hiệu quả chỉ với ba yếu tố cơ bản.

New York Times and three other US papers sue Brave over AI scraping

The NYT, Daily News, Chicago Tribune and Orlando Sentinel sued Brave, saying it sells scraped articles to AI firms and bypasses paywalls.

Your PDFs in a chat window is not a RAG system

Your PDFs in a chat window is not a RAG system The gap between one people trust and one they quietly stop using is entirely in the retrieval step. Somebody in your company has already tried the cheap …

Anthropic trained Claude on illegally obtained Stanford professors' books

Anthropic đã sử dụng ít nhất 10 tác phẩm của các giảng viên Đại học Stanford để huấn luyện mô hình Claude mà không có giấy phép. Công ty này phải trả khoản bồi thường bản quyền lên đến 1.5 tỷ USD vì vi phạm luật sở hữu trí tuệ. Việc sử dụng dữ liệu bị đánh cắp để phát triển AI có thể dẫn đến kiện tụng tốn kém và tổn hại uy tín cho doanh nghiệp. Lập trình viên nên chú ý đến nguồn dữ liệu khi xây dựng mô hình, đặc biệt với các công nghệ như RAG (Retrieval-Augmented Generation) cần dữ liệu chất lượng cao.

Lập trình viên nên đọc bài này để hiểu rõ rủi ro pháp lý và đạo đức khi sử dụng dữ liệu bị đánh cắp để huấn luyện AI.

A Claude agent ran inside a Pentagon network for two months, WIRED reports

‘100 percent a national security threat’: an Accenture contractor’s Claude agent appears to have sent Pentagon logins to a risky site.

OpenAI and Anthropic cut their LLM prices by up to 80% within a few months. Why?

Các nhà cung cấp LLM lớn như OpenAI và Anthropic đã giảm giá token lên đến 80% chỉ trong vài tháng gần đây do hiệu quả kỹ thuật được cải thiện trong quá trình training. Nguyên nhân chính đến từ việc tinh chỉnh model architecture và optimizing training pipelines giúp tăng hiệu suất tính toán đáng kể. Ví dụ, OpenAI đã giảm giá GPT-4 Turbo từ 0.01 USD/token xuống 0.002 USD/token, trong khi Claude 3 của Anthropic giảm giá từ 0.015 USD/token xuống 0.003 USD/token. Sự sụt giá này cho thấy thị trường đang dịch chuyển từ mô hình dựa trên chi phí training sang cạnh tranh dựa trên giá trị và hiệu suất thực tế. Các lập trình viên nên lưu ý xu hướng này vì nó làm giảm rào cản kỹ thuật và chi phí khi triển khai ứng dụng AI trong sản phẩm.

Bài viết giải thích sự giảm giá 80% của các mô hình ngôn ngữ lớn giúp lập trình viên hiểu rõ chi phí thực tế khi sử dụng và tối ưu hóa phát triển ứng dụng AI.