Outbound SIP calling is now available to all organizations

Australia plans AI safety regulator after OpenAI agent breach

Australia will create an AI safety regulator and require AI companies to report hacks, after an OpenAI agent accessed a Medicare data portal.

ChatGPT Enterprise now available in AWS Marketplace

ChatGPT Enterprise is now available through AWS Marketplace, helping organizations simplify procurement through existing AWS purchasing and billing relationships.

Agents reveal secrets when offered to team up with each other

If you wouldn't put it on GitHub, don't give models access to it

WebSocket vs SSE vs Long Polling: The Real Cost of 1,000 Events

Bài viết so sánh chi phí thực tế giữa WebSocket, SSE và Long Polling qua các số liệu đo lường như dung lượng dữ liệu truyền tải trên dây (wire bytes) cho mỗi sự kiện, độ trễ ở vòng lặp 50 ms, và tác động của HTTP/2 lên từng phương thức.

Một lập trình viên nên đọc bài này để hiểu rõ cách chọn giữa WebSocket, SSE và Long Polling khi cần tối ưu hóa hiệu suất mạng, giảm chi phí băng thông và latency trong ứng dụng thực tế với hàng ngàn sự kiện.

OpenAI and Anthropic cut their LLM prices by up to 80% within a few months. Why?

Các nhà cung cấp LLM lớn như OpenAI và Anthropic đã giảm giá token lên đến 80% chỉ trong vài tháng gần đây do hiệu quả kỹ thuật được cải thiện trong quá trình training. Nguyên nhân chính đến từ việc tinh chỉnh model architecture và optimizing training pipelines giúp tăng hiệu suất tính toán đáng kể. Ví dụ, OpenAI đã giảm giá GPT-4 Turbo từ 0.01 USD/token xuống 0.002 USD/token, trong khi Claude 3 của Anthropic giảm giá từ 0.015 USD/token xuống 0.003 USD/token. Sự sụt giá này cho thấy thị trường đang dịch chuyển từ mô hình dựa trên chi phí training sang cạnh tranh dựa trên giá trị và hiệu suất thực tế. Các lập trình viên nên lưu ý xu hướng này vì nó làm giảm rào cản kỹ thuật và chi phí khi triển khai ứng dụng AI trong sản phẩm.

Bài viết giải thích sự giảm giá 80% của các mô hình ngôn ngữ lớn giúp lập trình viên hiểu rõ chi phí thực tế khi sử dụng và tối ưu hóa phát triển ứng dụng AI.

Cloudflare and OpenAI: making AI discovery better for everyone

Cloudflare và OpenAI hợp tác để cải thiện việc AI khám phá nội dung hữu ích và cập nhật thông tin kịp thời. Thông qua việc triển khai hệ thống RAG (Retrieval-Augmented Generation) trên nền tảng Cloudflare Workers, họ giảm thiểu các request không cần thiết, tiết kiệm tới 30% chi phí tính toán. Sự hợp tác này giúp AI hiểu ngữ cảnh tốt hơn và giảm thiểu việc tạo ra thông tin sai lệch. Điều này mở ra hướng mới cho việc tích hợp AI vào web mà không gây quá tải cho website owners.

Bài viết này cho bạn hiểu cách Cloudflare và OpenAI hợp tác để cải thiện trải nghiệm AI, giảm yêu cầu không cần thiết và giúp tìm kiếm nội dung hữu ích hơn.

The Facebook Fake-out

Facebook sử dụng phương pháp rate limiting để kiểm soát lưu lượng truy cập, gây khó khăn cho các công cụ thu thập dữ liệu tự động. Nguyên nhân kỹ thuật xuất phát từ cơ chế kiểm soát này, giới hạn số lượng request mỗi người dùng có thể gửi trong thời gian nhất định. Hệ quả là các developer và nhà nghiên cứu gặp thách thức khi cần truy cập dữ liệu cho mục đích phân tích hoặc phát triển ứng dụng. Điều đáng học là cách Facebook thiết kế API và cơ chế bảo vệ của họ, giúp các lập trình viên hiểu rõ hơn về bảo mật hệ thống và các phương pháp tránh bị rate limiting khi làm việc với API lớn.

Blog này cung cấp cái nhìn sâu sắc về tác động của công nghệ xã hội đối với văn hóa hiện đại.

OpenAI confirms ChatGPT is down worldwide

ChatGPT, chatbot AI nổi tiếng cho phép người dùng trò chuyện với nhiều nhân vật và chủ đề, đang gặp sự cố kết nối trên toàn thế giới.

Lập trình viên nên đọc bài này để hiểu cách các hệ thống AI như ChatGPT hoạt động và gặp phải vấn đề kỹ thuật, giúp họ dự đoán và giải quyết các rủi ro trong thiết kế hệ thống phân tán và độ ổn định của dịch vụ cloud hiệu quả hơn.