2025年12月13日，ollama v0.13.4版本預(yù)發(fā)布，隨后于2025年12月16日正式發(fā)布。本次更新是一次重要的版本迭代，包含新模型的推出、引擎默認(rèn)設(shè)置的調(diào)整、Flash Attention機(jī)制的自動化啟用，以及一系列對Gemma 3架構(gòu)模型的修復(fù)與增強(qiáng)。以下是詳細(xì)更新內(nèi)容。

一、新增模型

1. Nemotron 3 Nano
這是一款全新的開放高效智能代理模型，定義了高性能標(biāo)準(zhǔn)，面向智能代理應(yīng)用場景。

2. Olmo 3 與 Olmo 3.1
這一系列開放語言模型旨在推動語言模型研究科學(xué)化。
其預(yù)訓(xùn)練基于Dolma 3 數(shù)據(jù)集，后訓(xùn)練使用Dolci 數(shù)據(jù)集，代表了更系統(tǒng)化的語言模型訓(xùn)練流程。

二、主要更新內(nèi)容

• ?默認(rèn)啟用 Ollama 引擎
  所有剩余模型均默認(rèn)啟用 Ollama 引擎，統(tǒng)一運(yùn)行環(huán)境。

• ?默認(rèn)啟用 Flash Attention 自動模式
  模型將自動啟用 Flash Attention，以優(yōu)化注意力計算效率。

• ?修復(fù) Gemma 3 長上下文處理問題
  解決了長文本情況下上下文處理異常的問題，使 Gemma 模型更加穩(wěn)定。

• ?修復(fù) Gemma 3 QAT 模型導(dǎo)入問題
  修復(fù)了 Gemma 3 架構(gòu)在量化訓(xùn)練模型導(dǎo)入時可能出現(xiàn)的異常。

• ? 在api/client.go文件中修正了Modelfile的超鏈接后綴，將.md改為.mdx。

• ? 刪除了 macOS 與 Windows 平臺中“發(fā)送 UI 請求消息”的冗余代碼，使應(yīng)用邏輯更簡潔。

• ?cocoa對話框代碼中增強(qiáng)了多文件處理機(jī)制，確保緩沖區(qū)內(nèi)存安全。

• ? Windows 文件對話框錯誤輸出格式更準(zhǔn)確。

• ?server.go修改了模型路徑檢查邏輯，在路徑不可用時使用默認(rèn)路徑。

• ?wintray/eventloop.go改進(jìn)了底層事件循環(huán)的內(nèi)存安全處理，增加了注釋控制。

• ? 文檔docs/api.md全面更新對Modelfile.mdx的鏈接引用，使說明一致化。

• ? 新增工具文檔與示例提取功能：新增目錄：
  .

  docs/tools/extract-examples

  包含：

  提取后可執(zhí)行：

• • ?README.md：介紹如何將 MDX 中的代碼示例提取到臨時目錄運(yùn)行。

  • ?main.go：示例提取腳本，支持自動生成package.json與pyproject.toml依賴文件。

 cd 

 npm install  # JS示例
 node file.js 或 python file.py 或 bash file.sh

• ?envconfig/config.go調(diào)整了OLLAMA_NEW_ENGINE的默認(rèn)值邏輯，引入BoolWithDefault方法，使引擎啟用邏輯更靈活。

• ? 增強(qiáng)了環(huán)境變量映射支持，結(jié)構(gòu)更加全面。

1. Flash Attention 類型系統(tǒng)引入
ml/device.go新增FlashAttentionType枚舉類型：

• ?Auto

• ?Disabled

• ?Enabled

此設(shè)計使 Flash Attention 模式控制更細(xì)化，支持自動適配硬件。

2. GGML 圖計算增強(qiáng)
在fs/ggml/ggml.go中，F(xiàn)lash Attention 引入枚舉類型接口，支持多種量化緩存類型檢測與驗(yàn)證方法，提升兼容性。

3. Llama 引擎增強(qiáng)
llama/llama.go重構(gòu)了 Flash Attention 參數(shù)邏輯——支持自動、啟用與禁用三種模式，適配不同模型及硬件環(huán)境。

4. LLM 服務(wù)邏輯優(yōu)化
llm/server.go增加了 Flash Attention 用戶顯式設(shè)置檢測邏輯，并完善了 KV 緩存量化兼容性處理。當(dāng)使用量化 KV 緩存類型時必須啟用 Flash Attention。
KV 緩存校驗(yàn)機(jī)制進(jìn)一步完善，增加更詳細(xì)的警告提示與邏輯分支。

5. ML 后端結(jié)構(gòu)改進(jìn)
ml/backend.go與ml/backend/ggml/ggml.go中統(tǒng)一 Flash Attention 類型接口，并在注意力計算中使用新的枚舉系統(tǒng)，實(shí)現(xiàn)高效的多設(shè)備內(nèi)存調(diào)度與算子融合優(yōu)化。

六、Gemma 3 架構(gòu)修復(fù)與改良

model/models/gemma3/model_text.go
對 Gemma 3 的旋轉(zhuǎn)位置嵌入 (RoPE) 算法進(jìn)行了調(diào)整：

• ? 新增ropeValuesForLayer方法，按層返回位置嵌入基礎(chǔ)值與縮放因子。

• ? 修復(fù) QAT 權(quán)重導(dǎo)致的錯誤縮放比問題，強(qiáng)制ropeScale為1.0。

• ? 優(yōu)化滑動窗口注意力機(jī)制下的 softcap 和 rope 參數(shù)初始化邏輯，使注意力計算更加準(zhǔn)確。

openai/responses.go
調(diào)整了工具調(diào)用消息的合并邏輯：

• ? 當(dāng)助手消息存在時，將后續(xù)工具調(diào)用結(jié)果合并到上一條消息中，而非新建消息。

• ? 保留思考過程（Thinking）內(nèi)容的正確關(guān)聯(lián)，確保連續(xù)對話上下文一致。

同時新增全面的單元測試openai/responses_test.go，覆蓋函數(shù)調(diào)用與工具輸出場景，驗(yàn)證新邏輯穩(wěn)定性。

八、貢獻(xiàn)統(tǒng)計

• ? 本次版本共有9 次提交，22 個文件修改，涉及6 位貢獻(xiàn)者。

• ? 修改代碼約812 行新增與253 行刪除，覆蓋核心引擎、文檔、模型邏輯與工具部分。

代碼地址：github.com/ollama/ollama

ollama v0.13.4 是一次大幅度增強(qiáng)版發(fā)布，重點(diǎn)在于：

• ? 增強(qiáng)引擎默認(rèn)配置與性能自動化；

• ? 推出新一代開放智能模型；

• ? 完善 Gemma 與 Llama 架構(gòu)的兼容性；

• ? 引入更完整的 Flash Attention 類型系統(tǒng)；

• ? 提高文檔與開發(fā)工具的自動化程度。

我們相信人工智能為普通人提供了一種“增強(qiáng)工具”，并致力于分享全方位的AI知識。在這里，您可以找到最新的AI科普文章、工具評測、提升效率的秘籍以及行業(yè)洞察。 歡迎關(guān)注“福大大架構(gòu)師每日一題”，發(fā)消息可獲得面試資料，讓AI助力您的未來發(fā)展。