I gave Home Assistant a local LLM for voice control, then turned it off for most of what I say

Seriously, please stop uploading these files to cloud LLMs (and what to use instead)

Bối cảnh là nhiều lập trình viên thường tải lên các LLM cloud (như OpenAI API) cả các files chứa dữ liệu nhạy cảm mà không nhận thức được rủi ro. Nguyên nhân kỹ thuật là các nhà cung cấp LLM như OpenAI có chính sách lưu trữ dữ liệu đầu vào để cải tiến model và huấn luyện lại, khiến thông tin có thể bị truy xuất lâu sau. Hệ quả là dữ liệu cá nhân, mã nguồn độc quyền hoặc thông tin bí mật công ty có thể bị tiết lộ hoặc sử dụng không kiểm soát. Điều đáng học là bạn nên dùng các local LLM (như Llama 2, Mistral) hoặc self-hosted solution khi làm việc với dữ liệu nhạy cảm, kết hợp với RAG (Retrieval-Augmented Generation) để bảo mật thông tin mà vẫn tận dụng được khả năng xử lý ngôn ngữ tự nhiên.