Opencode TPS Meter 實戰:LLM token 速度量化工具,Gemma / Llama / Qwen 的真實 benchmark
跑本地 LLM 一段時間後,最常被同事問的問題是「Gemma 4 7B 到底比 Llama 3.3 8B 快多少?」、「我的 M2 Max 跑 13B 模型會不會比 API 還快?」。這些問題光靠主觀...
標籤「Gemma」相關文章共 4 篇 — Tony.Wu Blog
跑本地 LLM 一段時間後,最常被同事問的問題是「Gemma 4 7B 到底比 Llama 3.3 8B 快多少?」、「我的 M2 Max 跑 13B 模型會不會比 API 還快?」。這些問題光靠主觀...
把 MCP Server 也本地化,讓 Subagent 能直接查 Postgres、寫檔、推 Mattermost,整條資料鏈不出本機。本篇給完整可複製的 .claude/mcp.json 設定、Subagent 範本、Docker 啟動指令,並搭配自架 Mattermost 完整取代 Slack,實戰 GDPR 等級合規的本地 AI 工作流。
2026 年 Ollama 推出 `ollama launch claude` 讓你把 Claude Code 完全本地化並支援 Subagent 平行執行。本文實測 Hybrid 架構(主雲端 + Subagent 本地)省下 76% 月成本、跑出 2.5× 加速,完整分享 Subagent 定義檔、設計原則、成本實測、踩坑紀錄與一天真實工作流。
2026 年 Ollama 推出 Launch 面板後,本地 AI Coding Agent 部署難度大幅下降。本文實測在 Windows + RTX 3070 Ti 環境,使用 OpenCode 搭配 Google Gemma 4 26B 模型,打造完全離線、零 API 費用的 AI 編碼助理,從安裝、設定、實測到常見問題除錯一次說明。