国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

實測,本地大模型控制臺:本地部署、數(shù)據(jù)集管理、訓(xùn)練+微調(diào),一站式搞定,Windows 也支持

0
分享至

  Unsltoh 剛剛放出的 Studio 有點東西

  大模型的下載、運行、訓(xùn)練、導(dǎo)出、數(shù)據(jù)集處理都串起來到了統(tǒng)一入

  還有個示例:Qwen3.5-4B 搜索了 20 多個網(wǎng)站,引用了其來源,并找到了最佳答案!

  通過 Unsloth Studio 僅用 4GB RAM 本地運行, 4B 模型通過在思考過程中直接執(zhí)行工具調(diào)用+網(wǎng)絡(luò)搜索實現(xiàn)

  簡介

  一句話說,Unsloth Studio 是 Unsloth 剛推出的一個本地 Web UI,用來統(tǒng)一做模型運行、數(shù)據(jù)處理、訓(xùn)練和導(dǎo)出。

  下圖是官方 README 給出的主界面截圖,整體就是一個很典型的本地 AI 控制臺:

  
Unsloth Studio 主界面

  模型支持:本地運行 GGUF 和 safetensors 格式的模型,支持文本、視覺、TTS、Embedding 等多種模型類型。

  平臺兼容:支持 Windows、Mac、Linux 系統(tǒng)。

  訓(xùn)練與微調(diào):提供數(shù)據(jù)集整理與生成、訓(xùn)練過程可視化、模型對比(Model Arena)功能,并可使用 AI 助手對音頻、視覺、LLM 進行微調(diào),支持導(dǎo)出 GGUF 和 safetensors 模型

  數(shù)據(jù)工具:提供數(shù)據(jù)設(shè)計、合成數(shù)據(jù)生成、快速并行數(shù)據(jù)準(zhǔn)備及嵌入微調(diào)工具。

  交互界面:聊天界面集成自動修復(fù)、工具調(diào)用、Python & Bash 代碼執(zhí)行、網(wǎng)絡(luò)搜索、以及圖像與文檔輸入功能。支持 SVG 渲染

  這類產(chǎn)品最怕的一點就是攤子鋪得很大,最后每一塊都只做了個皮毛

  但 Unsloth Studio 現(xiàn)在給我的感覺是,方向?qū)α耍宜サ膸讉€點很懂實際用戶:

  你可以直接搜模型、跑模型

  你可以上傳 PDF、CSV、JSON、DOCX 這些文件

  你可以把訓(xùn)練后的模型繼續(xù)導(dǎo)出到 llama.cpp、vLLM、Ollama 這些棧里

  它甚至把 Tool Calling、Web Search、代碼執(zhí)行也放進了 Studio Chat

  對于“我既想本地跑一下,又想繼續(xù)微調(diào)一下,再順手導(dǎo)出來接現(xiàn)有系統(tǒng)”的用戶,這套思路很順。

  功能亮點

  我把我覺得最值得關(guān)注的幾個點拎出來

  1. 本地跑大模型,入口更統(tǒng)一了

  官方文檔里提到,它支持搜索和運行 GGUF、safetensors 模型,也支持圖片、文檔、音頻、代碼文件上傳。

  把“本地模型桌面化”,風(fēng)格上很像把本地模型管理、聊天、參數(shù)調(diào)節(jié)整合到了一起:

  
Unsloth Studio 運行模型界面 2. 它把 Tool Calling 和代碼執(zhí)行也塞進來了

  這一點我挺喜歡

  很多本地 UI 做到聊天就停了,能跑工具、能執(zhí)行 Bash 和 Python 的并不多。

  Unsloth Studio 在文檔里明確寫了支持代碼執(zhí)行、Web Search,以及所謂的 self-healing tool calling。

  這個方向一旦成熟,對本地 Agent 會非常有意思

  3. Data Recipes 很像它的隱藏大招

  官方一直在強調(diào) Data Recipes

  簡單理解,就是你把 PDF、CSV、JSON 這些資料丟進去,它幫你轉(zhuǎn)成可用的數(shù)據(jù)集,走的是圖節(jié)點工作流,底層是 NVIDIA Nemo Data Designer

  如果它后續(xù)穩(wěn)定下來,這個價值其實不小

  因為大量微調(diào)項目最麻煩的環(huán)節(jié),往往在前面那堆數(shù)據(jù)整理

  官方截圖如下:

  
Unsloth Studio Data Recipes 4. 訓(xùn)練過程可視化和導(dǎo)出能力也做進去了

  這兩塊我覺得挺實用:

  Observability:實時看訓(xùn)練 loss、gradient norm、GPU 使用率

  Export / Save models:導(dǎo)出 GGUF、16-bit safetensors,繼續(xù)接 llama.cpp、vLLM、Ollama

  這就很像一個真正圍繞“訓(xùn)練閉環(huán)”做的產(chǎn)品,而不是單純套了一層聊天殼子

  
Unsloth Studio Observability 安裝

  官方現(xiàn)在給的安裝方式非常直接,MacOS、Linux、WSL:

  curl -fsSL https://raw.githubusercontent.com/unslothai/unsloth/main/install.sh | sh

  它做了下面幾件事:

  檢查系統(tǒng)依賴,比如cmake、git

  自動安裝uv

  創(chuàng)建名為unsloth_studio的虛擬環(huán)境

  執(zhí)行uv pip install unsloth --torch-backend=auto

  最后再跑unsloth studio setup

  Windows Powershell

  

  安裝完成后,啟動命令如下:

  

  source unsloth_studio/bin/activate
unsloth studio -H 0.0.0.0 -p 8888

  瀏覽器打開:

  http://localhost:8888

  首次啟動會要求你創(chuàng)建密碼,然后進入一個 onboarding 向?qū)?,選擇模型、數(shù)據(jù)集和一些基礎(chǔ)配置

  



安裝體驗

  這條一鍵命令確實省心,但首裝并不算快

  我這邊日志里,依賴解析就花了大約 2 分鐘,隨后開始下載和安裝torch、transformerspyarrow、tokenizersdiffusers、unsloth等包。

  你如果看到終端一段時間沒有明顯新輸出,不用太慌,大概率還在后臺繼續(xù)拉依賴。

  我這次在本機實測時,一鍵安裝腳本跑了 35 分鐘,進程依然停留在uv pip install unsloth --torch-backend=auto這一步。

  官方文檔里也專門提醒了首裝可能需要 5 到 10 分鐘,原因是后面還會涉及llama.cpp相關(guān)構(gòu)建。

  這一點我很建議大家有點耐心,別看到安靜了就順手Ctrl + C。但如果你本地也卡到半小時以上,我建議你去看一下網(wǎng)絡(luò)、鏡像源、磁盤空間,以及uv的下載緩存。

  一個需要注意的小細(xì)節(jié)

  官方文檔目前有一點口徑差異

  在介紹頁的 3 月 18 日更新說明里,官方寫了 MacOS 和 CPU 已經(jīng)啟用了 Data Recipes;

  但安裝頁和系統(tǒng)要求頁里,又依然寫著 Mac 和 CPU 當(dāng)前主要支持 Chat,訓(xùn)練部分還要再等等。

  所以更穩(wěn)妥的理解方式是:

  Windows、Linux、WSL 是當(dāng)前主戰(zhàn)場

  NVIDIA GPU 用戶可以把訓(xùn)練能力作為重點來看

  Mac 用戶當(dāng)前先把它當(dāng)成本地聊天和工作流入口

  適合誰

  如果你屬于下面這幾類用戶,我覺得 Unsloth Studio 很值得盯一下:

  想本地跑模型,又不想一直在命令行里切來切去

  已經(jīng)在玩 GGUF、Ollama、llama.cpp、vLLM,想找一個統(tǒng)一入口

  想從“跑模型”繼續(xù)往“做數(shù)據(jù)、做訓(xùn)練、做導(dǎo)出”再走一步

  想研究本地 Agent、Tool Calling、代碼執(zhí)行這類能力

  如果你只是想要一個極致穩(wěn)定、只負(fù)責(zé)聊天的本地工具,那它當(dāng)前這個 Beta 狀態(tài)還需要你多一點耐心。

  總結(jié)

  Unsloth Studio 最吸引我的地方,在于它試圖把本地 AI 這條鏈路真正串起來,單點功能反而不是我最看重的部分。

  從聊天,到數(shù)據(jù)準(zhǔn)備,到訓(xùn)練,到可視化,到導(dǎo)出,這條路徑如果真被它打通,那它就很有機會成為本地 AI 工作臺里的重要玩家。

  制作不易,如果這篇文章覺得對你有用,可否點個關(guān)注。給我個三連擊:點贊、轉(zhuǎn)發(fā)和在看。若可以再給我加個,謝謝你看我的文章,我們下篇再見!

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
為清華賭上14年青春,吳善柳的結(jié)局,給所有人提了個醒

為清華賭上14年青春,吳善柳的結(jié)局,給所有人提了個醒

李砍柴
2026-04-18 14:38:07
天安門前的華表柱,是用來干什么的?看完不禁感嘆古人的智慧

天安門前的華表柱,是用來干什么的?看完不禁感嘆古人的智慧

抽象派大師
2026-04-19 15:45:34
本菲卡2-1客勝葡體升至第2,特魯賓撲點,拉法-席爾瓦補時絕殺

本菲卡2-1客勝葡體升至第2,特魯賓撲點,拉法-席爾瓦補時絕殺

懂球帝
2026-04-20 03:34:11
注意!僅剩最后十余天,所有車主抓緊辦,5月1日起開始扣分罰款

注意!僅剩最后十余天,所有車主抓緊辦,5月1日起開始扣分罰款

生活魔術(shù)專家
2026-04-19 22:15:11
贏球挨罵!曼城王牌全場隱身,成球隊最大拖油瓶

贏球挨罵!曼城王牌全場隱身,成球隊最大拖油瓶

奶蓋熊本熊
2026-04-20 01:52:31
多名院士調(diào)查發(fā)現(xiàn):吃一口香椿,就或等于進一次毒,真的假的?

多名院士調(diào)查發(fā)現(xiàn):吃一口香椿,就或等于進一次毒,真的假的?

荊醫(yī)生科普
2026-04-17 15:32:24
蘇聯(lián)背后的操控!蓄意擴大朝鮮戰(zhàn)爭,讓中美兩國苦不堪言

蘇聯(lián)背后的操控!蓄意擴大朝鮮戰(zhàn)爭,讓中美兩國苦不堪言

南極狼人
2026-04-17 20:18:46
英國專家:中國至少相當(dāng)于100個伊朗,美國遲早滾出亞太

英國專家:中國至少相當(dāng)于100個伊朗,美國遲早滾出亞太

混沌錄
2026-04-18 13:11:21
博士生過剩,高校裝不下了

博士生過剩,高校裝不下了

麥可思研究
2026-04-19 17:10:25
讓人揪心的事終究來了?央行定調(diào),5月后房產(chǎn)、存款或?qū)⒂瓉碚{(diào)整

讓人揪心的事終究來了?央行定調(diào),5月后房產(chǎn)、存款或?qū)⒂瓉碚{(diào)整

復(fù)轉(zhuǎn)這些年
2026-04-19 23:17:41
綠軍123-91大勝76人!我不得不承認(rèn)5個現(xiàn)實:東部冠軍懸念不大

綠軍123-91大勝76人!我不得不承認(rèn)5個現(xiàn)實:東部冠軍懸念不大

毒舌NBA
2026-04-20 04:55:07
14歲被送上導(dǎo)演的床,17歲拍全裸寫真,被操控半生,如今怎樣了?

14歲被送上導(dǎo)演的床,17歲拍全裸寫真,被操控半生,如今怎樣了?

阿訊說天下
2026-04-18 11:52:55
6歲男孩為躲母親毆打,離家出走22年,長大后才得知母親悲慘人生

6歲男孩為躲母親毆打,離家出走22年,長大后才得知母親悲慘人生

哄動一時啊
2026-04-19 14:38:19
寧波為什么沒有成為熱門旅游地?網(wǎng)友:寧波最好的就是三步一廁所

寧波為什么沒有成為熱門旅游地?網(wǎng)友:寧波最好的就是三步一廁所

君笙的拂兮
2026-03-27 12:25:59
MSC神女號安全通過霍爾木茲海峽

MSC神女號安全通過霍爾木茲海峽

第一財經(jīng)資訊
2026-04-19 23:04:28
采訪了100個娶了小三的男人,他們幾乎都說了同一句話,讓人恍然

采訪了100個娶了小三的男人,他們幾乎都說了同一句話,讓人恍然

千秋文化
2026-04-15 20:18:32
魏積安現(xiàn)狀:在山東過田園生活,70歲身體很硬朗,妻兒都是普通人

魏積安現(xiàn)狀:在山東過田園生活,70歲身體很硬朗,妻兒都是普通人

大魚簡科
2026-04-19 19:19:17
WCBA總決賽:四川女籃轟20-0大勝山西2-1奪賽點 坎貝奇29+10

WCBA總決賽:四川女籃轟20-0大勝山西2-1奪賽點 坎貝奇29+10

醉臥浮生
2026-04-19 21:21:28
潘石屹兩次蛐蛐許家印

潘石屹兩次蛐蛐許家印

哲空空
2026-04-19 11:07:10
誰也沒料到!杜蘭特傷情反轉(zhuǎn),烏度卡一招,火箭季后賽懸了

誰也沒料到!杜蘭特傷情反轉(zhuǎn),烏度卡一招,火箭季后賽懸了

林子說事
2026-04-19 16:57:01
2026-04-20 05:35:00
Ai學(xué)習(xí)的老章 incentive-icons
Ai學(xué)習(xí)的老章
Ai學(xué)習(xí)的老章
3334文章數(shù) 11137關(guān)注度
往期回顧 全部

科技要聞

50分26秒破人類紀(jì)錄!300臺機器人狂飆半馬

頭條要聞

半年下沉22厘米 女子家中坐擁價值上億別墅卻沒法住人

頭條要聞

半年下沉22厘米 女子家中坐擁價值上億別墅卻沒法住人

體育要聞

湖人1比0火箭:老詹比烏度卡像教練

娛樂要聞

何潤東漲粉百萬!內(nèi)娛隔空掀桌第一人

財經(jīng)要聞

華誼兄弟,8年虧光85億

汽車要聞

29分鐘大定破萬 極氪8X為什么這么多人買?

態(tài)度原創(chuàng)

教育
數(shù)碼
手機
公開課
軍事航空

教育要聞

655家單位、1.29萬個崗位,湖南用心幫大學(xué)生找工作

數(shù)碼要聞

華為新機發(fā)布前瞻:闊折疊X Max+影像旗艦Pura 90,都沒懸念了

手機要聞

8.8英寸小鋼炮!REDMI K Pad 2核心配置揭曉

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

伊朗逼退美掃雷艇:美方求給15分鐘撤退

無障礙瀏覽 進入關(guān)懷版