Google Foresight: ghi biên bản họp offline trên Mac, miễn phí

Google vừa phát hành Foresight, ứng dụng ghi biên bản họp chạy hoàn toàn offline trên macOS và miễn phí. Toàn bộ xử lý nằm trên máy, không gửi dữ liệu lên server.

Foresight làm được gì

Theo The Verge, "Google has released an experimental note-taking app that can transcribe meetings and audio files entirely offline". App có tên Google AI Edge Foresight, "is free to use and runs on macOS using the company's on-device EmbeddingGemma 2 model".

Ngoài phiên âm, app có ba chức năng đáng chú ý với người đi làm:

• Biến gạch đầu dòng viết vội thành biên bản hoàn chỉnh: Google nói bạn "jot down shorthand bullet points during your meeting, and the app will transform them into 'polished notes' based on the information in the transcript".
• Trợ lý hỏi đáp ngay trong app: "Foresight has a built-in assistant you can use to ask questions about what you've heard."
• Đọc file cục bộ: "You can also connect local files to the app, which it can reference when answering your questions."

Điểm bán hàng chính là quyền riêng tư. Google khẳng định file, audio cuộc họp và ghi chú của bạn "never leave your computer". The Verge xếp Foresight cạnh Granola và Wispr Flow, nhưng lưu ý nó "stands out amongst a growing number of AI note-taking apps by operating on-device".

Giới hạn cần biết trước khi cài

App đang ở trạng thái thử nghiệm và The Verge ghi rõ nó "is currently only optimized for Macs with Apple Silicon". Nguồn tin không nói app có chạy trên nền tảng nào khác hay không, nên nếu máy của bạn không phải Mac chip Apple Silicon, hãy xem đây là lựa chọn chưa được xác nhận.

Bản tin cũng không nêu danh sách ngôn ngữ được hỗ trợ, nên chất lượng phiên âm tiếng Việt là câu hỏi mở — hãy thử trên một buổi họp thật trước khi đưa vào quy trình.

Vì sao hướng on-device đáng theo dõi

Chạy model ngay trên máy không chỉ là chuyện riêng tư, nó còn đổi cấu trúc chi phí. Một nhóm kỹ sư vừa ghi lại số liệu cụ thể khi tự host một model nhỏ: họ dùng "Qwen2.5-1.5B-Instruct, GGUF, Q4_K_M (about 1 GB)" và phục vụ bằng "llama.cpp llama-server on an AWS EC2 t4g.medium (2 Graviton vCPUs, 4 GB RAM, no GPU, about $29/month)".

Phần fine-tune được làm ngay trên máy Mac: model giáo viên của họ là "Qwen2.5-14B-Instruct running locally in llama.cpp on an M4 Pro with 24 GB". Kết quả đo được sau khi rút gọn prompt: số token prompt giảm từ 1.444 xuống 788, thời gian xử lý prompt từ 24,6 giây xuống 12,1 giây, tốc độ sinh từ 36,0 lên 38,8 token/giây. Nhóm tác giả tự lưu ý số liệu này "ran on Apple Silicon CPU cores, not Graviton, so read it as a ratio" — tức nên đọc như tỷ lệ, không phải con số tuyệt đối cho hạ tầng của bạn.

Bài học họ rút ra: "For a narrow assistant, a LoRA fine-tune on a small model can replace most of a long prompt. Train behavior; keep facts in the prompt."

Nên làm gì tiếp

Nếu bạn dùng MacBook chip Apple Silicon và thường họp nội dung nhạy cảm, Foresight đáng thử ngay vì miễn phí và không đẩy dữ liệu ra ngoài. Nếu bạn là dev đang cân nhắc tự host, hai con số đáng ghi nhớ là một model 1 GB chạy được trên máy ảo không GPU khoảng $29/tháng, và rằng việc cắt prompt có thể giảm gần một nửa thời gian xử lý.