国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

放著Coze和Dify不用,我喜歡上商湯新開源本地Agent平臺(tái)

0
分享至

我接過很多Agent智能體定制的單子,

印象最深是做金槍大叔的腳本Agent,先不說要求是實(shí)時(shí)聯(lián)網(wǎng)+視頻分析+視頻逐字稿+圖片素材生成+發(fā)布文案要在一個(gè)Agent里完成,還需要并行生成四個(gè)模型的運(yùn)行結(jié)果可以對(duì)比(破防),

他們給我的初demo,基本上是用不了的。。。


接到這個(gè)需求的時(shí)候,我深呼吸了500秒,

給了線下版Dify和線上版coze兩套方案,

直接說結(jié)論,已知對(duì)面沒有開發(fā)的情況不選Dify,且不能登他們的Coze賬號(hào)前提下(因?yàn)榭臻g還有知識(shí)庫不夠安全),我直接分享做好的智能體過去是看不到提示語的(如果這里是我配置有問題麻煩立刻踢我),

這意味著,只要有任何的版本更新或者維護(hù)需求,比如覺得AI的某句話文風(fēng)不對(duì),要我改改。我就必須重復(fù)那個(gè)最原始的動(dòng)作:找他們,要賬號(hào),登錄,修改,退出。

而且對(duì)接的人工作空間配得細(xì)碎,做完之后,老板的賬號(hào)還看不到這個(gè)Agent。

頭疼,相當(dāng)頭疼。

上周吃到了@袋鼠帝的LazyCraft安利,簡(jiǎn)單來說這同樣是個(gè)開源AI Agent開發(fā)和管理平臺(tái),

Apache-2.0開源版就包含了一般的企業(yè)級(jí)才齊全的功能點(diǎn),可視化應(yīng)用搭建界面(功能模塊23個(gè),Dify開源版16個(gè)),知識(shí)庫,提示語管理,推理服務(wù),MCP Servers(同時(shí)支持本地和遠(yuǎn)程),數(shù)據(jù)管理,模型評(píng)測(cè),模型微調(diào)的同時(shí)!


還支持多工作空間和多租戶管理,不同身份能調(diào)用的資源可以劃分開。

目前Star還不多,但我翻了翻它的開發(fā)團(tuán)隊(duì),是商湯基于他們?cè)谌ツ觊_源的LazyLLM構(gòu)建的。 https://github.com/LazyAGI


還有還有,他們自己也貼了自己跟Coze和Dify的功能對(duì)比,


所以我也來說說這幾天的使用感受,

再附上小學(xué)生級(jí)的安裝教程(一行命令,多了轟炸我)。

首先,也是最難得的,多用戶多權(quán)限管理。

這基本上是開源項(xiàng)目買企業(yè)版的核心賣點(diǎn),如果還有印象兩年前GPT套殼滿天飛的時(shí)候,我當(dāng)時(shí)就想著省事,買了ChatGPT Web的二次開源版本,結(jié)果就是用戶管理是單獨(dú)一個(gè)套餐,模型分流計(jì)費(fèi)又是一個(gè)套餐,一套接一套,比我一個(gè)南方人冬天去哈爾濱穿的都多。


LazyCraft直接就把它開源了。

它有一個(gè)非常清晰的使用層級(jí),團(tuán)隊(duì) -> 用戶管理 -> 添加用戶。

你可以在后臺(tái)任意添加新用戶,也可以讓他們自己注冊(cè)。然后我可以設(shè)置用戶組,比如產(chǎn)品部門、運(yùn)營(yíng)部門。把指定的用戶,拉進(jìn)這個(gè)組里,然后設(shè)置他的權(quán)限。


只讀,就代表這個(gè)用戶只能查看和使用這個(gè)空間下的Agent應(yīng)用、知識(shí)庫。

讀寫,就代表他可以編輯。

管理員,就代表他有這個(gè)工作空間的最高權(quán)限。

我完全可以給老板一個(gè)只讀權(quán)限,讓他看到所有Agent的運(yùn)行情況,給業(yè)務(wù)部門讀寫權(quán)限,讓他們?nèi)サ约旱腜rompt,給平時(shí)用這個(gè)Agent的運(yùn)營(yíng)部門只讀權(quán)限,隨便用隨便折騰,也不會(huì)搞壞任何配置。

還內(nèi)置了日志記錄和費(fèi)用統(tǒng)計(jì)。



你可以清清楚楚地看到,哪個(gè)用戶,在什么時(shí)間,調(diào)用了哪個(gè)模型,消耗了多少Token。

當(dāng)老板問你,我們這個(gè)月花在大模型上的錢,到底值不值的時(shí)候,

你可以直接給到他一個(gè)后臺(tái)報(bào)表。

有了用戶管理,我們下一步就要解決一個(gè)終極哲學(xué)問題了,用本地模型,本地框架,本地?cái)?shù)據(jù),物理隔絕,隱私安安全全,

還是用API,本地框架,云端數(shù)據(jù)管理,為的是團(tuán)隊(duì)可以使用這一套囤下來的提示語工作流呢?

LazyCraft選擇都要,

在模型倉庫里,我可以直接加載Hugging Face或者M(jìn)odel Scope魔搭上的模型,

https://modelscope.cn/models

https://huggingface.co/models

也可以導(dǎo)入你自己下載好的本地模型文件,選模型我一般是按下載量以及任務(wù)來篩選的,huggingface上還可以先把參數(shù)量限制上。



如果拿不準(zhǔn)的話可以按照這個(gè)公式去估算,以Mac舉例,Memory是24GB的前提,能運(yùn)行的比較流暢的模型大小應(yīng)該是24*0.8/2,20%是留給電腦正常運(yùn)行,*2就是對(duì)應(yīng)上模型本身大小,所以說qwen3:8b(<10)在我的電腦上是可以運(yùn)行的。

如果有足量的數(shù)據(jù)集,想微調(diào)一些0.5B左右大小的模型的話,比方我會(huì)用來做用戶意圖識(shí)別,還可以試試看LazyCraft的模型微調(diào),


微調(diào)完了,還要避免模型蹺蹺板,功能A提升了,功能B忘了,

LazyCraft內(nèi)置了模型測(cè)評(píng),支持人工和AI評(píng)測(cè),在同一個(gè)數(shù)據(jù)集上,進(jìn)行盲測(cè)。那作為開源第一版,LazyCraft的Issues我也挨個(gè)看了一遍


首先就是目前能下載的開源模型,以及能接入的大模型數(shù)量需要更多,我直接列一個(gè)表出來,希望后續(xù)能蹲到更多的更新。


OK,模型ready和數(shù)據(jù)都ready后直接快進(jìn)到可視化搭建,

畫布這個(gè)形式我覺得現(xiàn)在就已經(jīng)追溯不到哪個(gè)是第一個(gè)做的,但目前各家的Agent編輯平臺(tái)基本上已經(jīng)是畫布大一統(tǒng)了,這也降低了上手的難度,


LazyCraft支持兩種MCP接入方式,一種遠(yuǎn)程的SSE,一種本地的STDIO。

很多線上的Agent平臺(tái)不支持本地STDIO的接入。關(guān)鍵是很多功能強(qiáng)大,但又不方便暴露成API的MCP工具,比如一些本地的數(shù)據(jù)處理腳本,它們提供的就是STDIO,MCP出圈的3D Blender模塊,也是STDIO。


這周下來我使用的亮點(diǎn)盤差不多了,

該上炒雞無敵簡(jiǎn)單安裝教程了,說好的一行命令多一行都不行。

先去 https://github.com/LazyAGI/LazyCraft.git 下載代碼,解壓并進(jìn)到子目錄docker


然后安裝docker,每個(gè)人電腦環(huán)境可能都不同,用docker封裝的環(huán)境勝在夠穩(wěn)定 https://www.docker.com/products/docker-desktop/

到了唯一一個(gè)需要代碼的點(diǎn)了,不管是mac還是wins,在剛剛打開的子目錄docker右鍵或者快捷鍵打開命令行,輸入

docker-compose up -d

這行命令短到我甚至不需要用代碼塊單獨(dú)分割出來,看到這個(gè)樣子就成了


然后就在瀏覽器打開 127.0.0.1:30382,

賬號(hào):admin,密碼:LazyCraft@2025。

完事了,搞定了,直接開整了。

它把應(yīng)用編排,模型管理,模型微調(diào),權(quán)限管理,這些企業(yè)落地最痛最核心的能力,完整開源了出來。

說真的,好用的開源項(xiàng)目,再多我也不嫌多。這就像我們?nèi)コ曰疱仯瑐涞牧显阶?,心里就越踏?shí)。

Dify可能就是那盤肥牛,Coze是毛肚,但你總得備點(diǎn)貢菜,紅糖糍粑和白米飯吧。

LazyCraft就是那個(gè)我可能一開始沒注意,

但一口下能讓我吃得飽,吃得舒服的蝦滑。

這樣稱手的工具,多一個(gè),就多一條路。

老話說得好啊,

多準(zhǔn)備一條路,

總沒錯(cuò)的。

@ 作者 / 卡爾

最后,感謝你看到這里如果喜歡這篇文章,不妨順手給我們點(diǎn)贊|在看|轉(zhuǎn)發(fā)|評(píng)論

如果想要第一時(shí)間收到推送,不妨給我個(gè)星標(biāo)

更多的內(nèi)容正在不斷填坑中……


特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
勝獨(dú)行俠勇士迎最佳局面!6配角被盤活,不和格林一起上陣舒服!

勝獨(dú)行俠勇士迎最佳局面!6配角被盤活,不和格林一起上陣舒服!

細(xì)話籃球
2025-12-26 11:13:29
陳培華同志任山東省紀(jì)委副書記

陳培華同志任山東省紀(jì)委副書記

瑯琊新聞網(wǎng)
2025-12-26 14:30:02
1988年,一位臺(tái)籍老者回大陸探親,說出名字的瞬間驚動(dòng)中央,很快便獲批復(fù):恢復(fù)黨籍,享受相關(guān)優(yōu)待

1988年,一位臺(tái)籍老者回大陸探親,說出名字的瞬間驚動(dòng)中央,很快便獲批復(fù):恢復(fù)黨籍,享受相關(guān)優(yōu)待

文史明鑒
2025-12-25 18:02:17
66年那張?jiān)訌椪掌?,周總理為何非要剪掉地面?這一刀讓美國(guó)情報(bào)局傻眼了

66年那張?jiān)訌椪掌?,周總理為何非要剪掉地面?這一刀讓美國(guó)情報(bào)局傻眼了

桃煙讀史
2025-12-14 18:23:22
日本玩家Switch嚴(yán)重鼓大包仍能游玩 這還能用?

日本玩家Switch嚴(yán)重鼓大包仍能游玩 這還能用?

3DM游戲
2025-12-25 08:11:09
華南五虎全軍覆沒

華南五虎全軍覆沒

新浪財(cái)經(jīng)
2025-12-26 00:06:36
庫利巴利:絕不會(huì)用非洲杯交換世界杯名額;非洲杯對(duì)我而言很重要

庫利巴利:絕不會(huì)用非洲杯交換世界杯名額;非洲杯對(duì)我而言很重要

懂球帝
2025-12-26 11:14:23
烏軍確認(rèn)撤出西維爾斯克,庫皮揚(yáng)斯克取得進(jìn)展,克宮拒絕圣誕?;?>
    </a>
        <h3>
      <a href=鷹眼Defence
2025-12-24 16:19:36
一碗雞蛋羹毒倒一家人?醫(yī)生警告:雞蛋盡量別這樣吃,比農(nóng)藥還毒

一碗雞蛋羹毒倒一家人?醫(yī)生警告:雞蛋盡量別這樣吃,比農(nóng)藥還毒

二大爺觀世界
2025-12-25 17:52:11
2026年理想純電車型陣容曝光:旗艦SUV i9定位40萬級(jí)

2026年理想純電車型陣容曝光:旗艦SUV i9定位40萬級(jí)

手機(jī)中國(guó)
2025-12-26 10:06:04
從6連勝到3連??!蘭德爾32+7+6華子空砍44分,森林狼加時(shí)惜敗掘金

從6連勝到3連??!蘭德爾32+7+6華子空砍44分,森林狼加時(shí)惜敗掘金

釘釘陌上花開
2025-12-26 14:44:56
滿意度88%,鄭麗文段位看漲,王金平為最高顧問,盧候向鄭示好

滿意度88%,鄭麗文段位看漲,王金平為最高顧問,盧候向鄭示好

丁丁鯉史紀(jì)
2025-12-25 16:31:09
搭伙只過了兩天就分手,阿姨:非得跟我睡一個(gè)屋,大爺:真能裝

搭伙只過了兩天就分手,阿姨:非得跟我睡一個(gè)屋,大爺:真能裝

烙任情感
2025-12-25 13:22:10
土豪誕生!中超勁旅買斷韓國(guó)球星,預(yù)算超3千萬!明年真要爭(zhēng)冠?

土豪誕生!中超勁旅買斷韓國(guó)球星,預(yù)算超3千萬!明年真要爭(zhēng)冠?

國(guó)足風(fēng)云
2025-12-26 14:09:14
快樂的偽裝:我讀懂了我的寂寞

快樂的偽裝:我讀懂了我的寂寞

疾跑的小蝸牛
2025-12-22 21:27:49
特朗普下令,要把中企一鍋端,美禁令生效前,中國(guó)取消10萬噸訂單

特朗普下令,要把中企一鍋端,美禁令生效前,中國(guó)取消10萬噸訂單

朔方瞭望
2025-12-26 13:57:25
老人被城管隊(duì)員推倒后離世,福建福安警方通報(bào):鄭某亮用身體沖撞吳某富,致吳某富受傷后搶救無效死亡,已被依法刑拘

老人被城管隊(duì)員推倒后離世,福建福安警方通報(bào):鄭某亮用身體沖撞吳某富,致吳某富受傷后搶救無效死亡,已被依法刑拘

揚(yáng)子晚報(bào)
2025-12-25 20:48:28
“全包”華為芯片!郭臺(tái)銘攜46臺(tái)光刻機(jī)回歸:這次是大陸給我賞飯吃

“全包”華為芯片!郭臺(tái)銘攜46臺(tái)光刻機(jī)回歸:這次是大陸給我賞飯吃

白夢(mèng)日記
2025-12-25 20:37:55
少婦玉米地被奸殺,強(qiáng)奸部位及其變態(tài)

少婦玉米地被奸殺,強(qiáng)奸部位及其變態(tài)

衍月
2025-12-24 10:39:53
霍啟剛沒想到,44歲郭晶晶再傳喜訊,讓霍震霆和香港闊太圈沉默了

霍啟剛沒想到,44歲郭晶晶再傳喜訊,讓霍震霆和香港闊太圈沉默了

溫辭韞
2025-12-24 15:08:59
2025-12-26 15:23:00
卡爾的AI沃茨 incentive-icons
卡爾的AI沃茨
前大廠算法工程師,3家科技公司技術(shù)總監(jiān)|致力打造最系統(tǒng)的Al學(xué)習(xí)體系,讓1萬人通過Al提高生產(chǎn)力
185文章數(shù) 62關(guān)注度
往期回顧 全部

科技要聞

收割3000億!拼多多"土辦法"熬死所有巨頭

頭條要聞

男子住院5天點(diǎn)48頓VIP餐續(xù)保被拒 一家三口想換換不了

頭條要聞

男子住院5天點(diǎn)48頓VIP餐續(xù)保被拒 一家三口想換換不了

體育要聞

約基奇有多喜歡馬?

娛樂要聞

朱孝天深夜道歉,只字未提五月天阿信

財(cái)經(jīng)要聞

資管江湖的人事“寒冬”

汽車要聞

速來!智界在上海西岸準(zhǔn)備了年末潮流盛典

態(tài)度原創(chuàng)

健康
旅游
時(shí)尚
游戲
本地

這些新療法,讓化療不再那么痛苦

旅游要聞

跟著抖音生活跨年季,和加菲游小城,到貴州侗寨赴一場(chǎng)侗年之約!

長(zhǎng)外套+短靴,正流行

獵魂世界:吃雞版星雪慶典活動(dòng)分析!不得不說這小游戲真有點(diǎn)上頭

本地新聞

云游安徽|踏訪池州,讀懂山水間的萬年史書

無障礙瀏覽 進(jìn)入關(guān)懷版