Granite Switch 4.1.1 — Update models like you update software

Granite Switch 4.1: Chat, Decisions, and Speech from One Endpoint

IBM đã phát hành Granite Switch 4.1, một endpoint API kết hợp các khả năng chat, decision making và speech processing thành một hệ thống duy nhất. Công nghệ này sử dụng transformer architecture với mô hình 34 tỷ parameter, được tối ưu hóa để xử lý đa tác vụ mà không cần chuyển đổi ngữ cảnh. Hệ quả là giảm 60% độ trễ so với phương pháp gọi API tuần tự truyền thống, và giảm 40% chi phí vận hành cho các ứng dụng sử dụng nhiều mô hình. Đáng học hỏi cách IBM thiết kế routing mechanism để tự động phân luồng yêu cầu đến các specialized sub-model phù hợp, qua đó tối ưu hiệu suất mà không cần tốn tài nguyên cho một mô hình khổng lồ duy nhất.

Bài viết này giúp lập trình viên khám phá khả năng đa năng của Granite Switch 4.1 trong tích hợp chat, ra quyết định và giọng nói từ một điểm cuối duy nhất.

Introducing Falcon ASR

Falcon ASR là một công nghệ speech recognition được phát triển bởi Technology Innovation Institute, trình bày trên nền tảng Hugging Face. Mô hình này sử dụng kiến trúc transformer với 7 tỷ tham số, đạt độ chính xác cao hơn nhiều so với các mô hình trước đó trong các bài benchmark ASR. Kết quả cho thấy Falcon ASR giảm tỷ lệ lỗi từ xuống còn 5.8% trên bộ dữ liệu LibriSpeech, một cải tiến đáng kể so với các công nghệ hiện có. Với khả năng nhận diện giọng nói 13 ngôn ngữ và độ trễ thấp, Falcon ASR là bước tiến quan trọng trong lĩnh vực speech-to-text. Công nghệ này mở ra tiềm năng ứng dụng trong các hệ thống trợ lý ảo, subtitle tự động và ghi chú cuộc họp thời gian thực.

Bài giới thiệu Falcon ASR giúp lập trình viên nắm bắt mô hình nhận diện giọng nói tiên tiến với hiệu suất vượt trội.

The Roadmap to Mastering Voice Agents

Voice agents mở rộng hệ thống AI dựa trên text bằng cách bọc language model với các lớp speech-to-text (STT) và text-to-speech (TTS), tạo ra thách thức về độ trễ, định dạng âm thanh, gián đoạn và lỗi tích tụ. Con đường học tập gồm bảy giai đoạn: hiểu pipeline STT-LLM-TTS, layer xử lý ngôn ngữ, kiến trúc streaming real-time, thiết kế hội thoại, tích hợp tool và memory, triển khai và đánh giá. Bạn nên bắt đầu từ giai đoạn phù hợp với kinh nghiệm về text-based LLM agents của mình. Các chuyên sâu nâng cao bao gồm hỗ trợ đa ngôn ngữ, phát hiện cảm xúc và voice cloning.

Bài viết cung cấp lộ trình bảy giai đoạn chi tiết giúp lập trình viên nắm vững kiến thức và kỹ năng cần thiết để phát triển hệ thống voice agent hiệu quả.

granite-speech-4.1-2b, kanana-2-30b-a3b-instruct, and OpenFold3 models now available on Amazon SageMaker JumpStart

AWS vừa phát hành ba mô hình mới trên Amazon SageMaker JumpStart: granite-speech-4.1-2b, kanana-2-30b-a3b-instruct và OpenFold3. granite-speech-4.1-2b là mô hình speech-to-text với 2 tỷ tham số, trong khi kanana-2-30b-a3b-instruct là mô hình ngôn ngữ lớn 30 tỷ tham số được fine-tune cho tác vụ chỉ dẫn. OpenFold3 là phiên bản mới nhất của thư tính toán protein, cải thiện đáng kể độ chính xác trong dự đoán cấu trúc 3D. Với sự hiện diện của ba mô hình này, nhà phát triển có thể dễ dàng triển khai các ứng dụng AI tiên tiến trong lĩnh vực y sinh học và xử lý ngôn ngữ tự nhiên mà không cần lo lắng về hạ tầng.

Bài này giúp lập trình viên cập nhật các mô hình AI mới nhất trên Amazon SageMaker JumpStart để ứng dụng vào dự án của mình.

Voice AI in vogue: Nvidia releases new open transcription model

Nvidia just released a free speech-to-text model that can transcribe up to 40 languages, but it only works on recordings, not live audio, so it’s a big step for meeting and medical transcription tools while still leaving real-time use to rivals like ElevenLabs.

Anam Solves Avatar Turn-Taking with Deepgram Flux STT

Anam deployed Deepgram Flux self-hosted to power turn-taking for its real-time interactive avatars, cutting unwanted barge-ins by about 50% with no latency penalty.

Speech Transcription Enhancements with LLM Speech

Learn how Azure AI Speech LLM 2607 improves multilingual and mixed-language recognition, lowers latency, and simplifies domain-specific customization with enhanced phrase lists.

Deepgram India Endpoint Is Now Generally Available

Deepgram đã chính thức triển khai endpoint tại Ấn Độ, cung cấp cả lưu trữ và inference ngay tại thị trường này mà không cần self-hosting. Giải pháp này đáp ứng nhu cầu ngày càng tăng về xử lý dữ liệu voice AI tại khu vực Nam Á với độ trễ thấp. Endpoint Ấn Độ sử dụng cùng công nghệ ASR (Automatic Speech Recognition) và NLU (Natural Language Understanding) core như các trung tâm dữ liệu toàn cầu khác của Deepgram. Điều này cho phép khách hàng tại Ấn Độ đạt được hiệu suất tương tự với chi phí vận hành thấp hơn đáng kể. Đáng chú ý là endpoint Ấn Độ hỗ trợ đầy đủ các tính năng của Deepgram API như streaming speech-to-text, summarization và entity extraction. Lập trình viên nên xem xét endpoint này nếu ứng dụng voice AI của họ phục vụ người dùng Ấn Độ hoặc yêu cầu tuân thủ quy định dữ liệu tại địa phương.

Deepgram India endpoint giúp giảm độ trễ và tăng tốc độ xử lý giọng nói cho ứng dụng thị trường Ấn Độ.