過去很長一段時間，我把本地模型當(dāng)成另一個聊天窗口在用——粘貼錯誤，復(fù)制答案，回到編輯器，運(yùn)行測試，再復(fù)制下一個錯誤，循環(huán)往復(fù)。

這樣能用，但浪費(fèi)了很多可能性。

Gemma 4吸引我的地方，不只是它是帶多模態(tài)能力的開源模型家族，有針對不同硬件配置的變體。更在于它讓我重新思考一種 setup：模型不再孤立地待在瀏覽器標(biāo)簽頁里，而是嵌入本地開發(fā)工作流。

這次實(shí)驗(yàn)的目標(biāo)很簡單：我想要一個完全本地運(yùn)行的開發(fā)助手，能跟我一起推理，能理解視覺和文本上下文，能讀取項(xiàng)目文件，并且在合適的時候直接操作代碼倉庫——不用把整個代碼庫發(fā)給外部服務(wù)。

為此，我搭了一套組件互相配合的棧。

核心思路是：Gemma 4 的真正價值，在于它從"盒子里的模型"變成本地開發(fā)架構(gòu)的一部分。

這套棧做了職責(zé)分離。Ollama 跑在宿主機(jī)上，因?yàn)樵?macOS Apple Silicon 上，這是利用本地運(yùn)行時的實(shí)際路徑。界面層跑在 Docker 里。Open WebUI 是我思考、對比、檢查視覺上下文、生成輔助圖片的地方。OpenHands 是我從對話轉(zhuǎn)向行動的地方。

這種分離改變了體驗(yàn)。

Google 把 Gemma 4 定位為面向不同硬件和使用場景的開源模型家族。這對本地開發(fā)很重要，因?yàn)椴皇撬腥蝿?wù)都需要同一個模型。

在我的工作流里，有四項(xiàng)能力特別關(guān)鍵。

第一，模型尺寸變成路由決策。有時我只想快速確認(rèn)一個函數(shù)，有時想要對跨模塊改動做深度 review。這是不同的任務(wù)。

第二，更長的上下文改變了模型處理代碼的方式。一個有用的編程助手需要理解代碼規(guī)范、鄰近文件、之前的決策和測試結(jié)構(gòu)。

第三，agent 需要的不僅是好的文本生成。編程 agent 必須持有指令、使用工具、讀取結(jié)果、自我修正。模型重要，周圍的架構(gòu)同樣重要。

第四，多模態(tài)改變了軟件任務(wù)的描述方式。有時上下文不在 .py 或 .ts 文件里，而是一張 UI 崩了的截圖、一張架構(gòu)圖、一個線框、生成的素材、一張圖表，或者錯誤截圖。