Every modern Mac hides a free local AI, and I got mine answering questions in Home Assistant
Mỗi chiếc Mac chạy chip Apple Silicon đều có sẵn một mô hình ngôn ngữ cục bộ (~3 tỷ tham số) từ Apple Intelligence, nhưng bị giới hạn bởi bộ nhớ 4.096 token và khả năng yếu về toán học hay lập trình. Công cụ Apfel biến mô hình này thành máy chủ OpenAI-compatible tại cổng 11434, cho phép Home Assistant sử dụng thông qua tích hợp Extended OpenAI Conversation HACS, mặc dù phải vô hiệu hóa tools/function calls để tránh vượt giới hạn token. Đây là tùy chọn miễn phí, hoàn toàn chạy tại chỗ nhưng không thể thay thế các trợ lý đám mây hay LLM cục bộ mạnh hơn.
Lập trình viên nên đọc bài này để khám phá cách tích hợp một mô hình AI tích hợp sẵn trên Mac của mình vào các ứng dụng tự động hóa nhà máy thông minh, giúp tiết kiệm chi phí và bảo mật dữ liệu khi xử lý các yêu cầu đơn giản mà không cần cloud.