在AI應(yīng)用開發(fā)日益復(fù)雜的今天，商湯科技大裝置團(tuán)隊(duì)開源的LazyLLM以其低代碼、高效率的特性，正成為開發(fā)者快速構(gòu)建多智能體大模型應(yīng)用的得力助手。

項(xiàng)目介紹

LazyLLM是由商湯科技大裝置團(tuán)隊(duì)開發(fā)并開源的一款低代碼大模型應(yīng)用開發(fā)框架。該項(xiàng)目在2025年全球開發(fā)者先鋒大會上正式發(fā)布，旨在幫助開發(fā)者以極低的成本和代碼量，快速構(gòu)建和迭代復(fù)雜的多智能體大模型應(yīng)用 。

其核心理念是構(gòu)建一套"原型搭建 -> 數(shù)據(jù)反饋 -> 迭代優(yōu)化"的AI應(yīng)用開發(fā)工作流。開發(fā)者可以快速構(gòu)建應(yīng)用原型，然后基于真實(shí)場景的數(shù)據(jù)反饋，對應(yīng)用中的關(guān)鍵環(huán)節(jié)進(jìn)行算法迭代和模型微調(diào)，從而持續(xù)提升整體性能。

有趣的是，項(xiàng)目名稱中的"Lazy"意為"懶惰"，體現(xiàn)了其設(shè)計(jì)哲學(xué)：希望用戶無需具備高超的技術(shù)或進(jìn)行復(fù)雜操作，就能輕松解決AI應(yīng)用開發(fā)中的問題，越"懶"越好。截至目前，LazyLLM已在GitHub上開源，吸引了大量開發(fā)者的關(guān)注。

核心功能 便捷的AI應(yīng)用組裝流程

LazyLLM讓不了解大模型的開發(fā)者也能像搭積木一樣，借助內(nèi)置的數(shù)據(jù)流和功能模塊，輕松組建包含多個Agent的AI應(yīng)用 。

• 模塊化設(shè)計(jì)：通過精細(xì)化模塊設(shè)計(jì)和符合直覺的代碼風(fēng)格，助力開發(fā)者集中精力打造核心產(chǎn)品

• 數(shù)據(jù)流為核心：采用以數(shù)據(jù)流為核心的應(yīng)用開發(fā)范式，可通過Pipeline、Parallel、Switch、If、Loop、Diverter、Warp、Graph等數(shù)據(jù)流拼接已有組件或其他開源軟件

• 統(tǒng)一體驗(yàn)：對多種模型服務(wù)進(jìn)行封裝，讓開發(fā)者在不同技術(shù)選型時獲得統(tǒng)一體驗(yàn)，實(shí)現(xiàn)統(tǒng)一調(diào)用、統(tǒng)一服務(wù)、統(tǒng)一部署

LazyLLM提供了一鍵部署所有模塊的能力，極大簡化了部署流程 。

• POC階段：通過輕量級網(wǎng)關(guān)機(jī)制簡化多Agent應(yīng)用的部署流程，解決依次啟動各個子模塊服務(wù)并配置URL的問題

• 發(fā)布階段：提供一鍵封裝鏡像的能力，使應(yīng)用可以方便地利用Kubernetes的網(wǎng)關(guān)、負(fù)載均衡和容錯能力

• 多平臺部署：支持將智能體一鍵部署到網(wǎng)頁、企業(yè)微信、釘釘?shù)绕脚_

LazyLLM具備出色的跨平臺能力，無需修改代碼即可一鍵切換IaaS平臺 。

• 廣泛兼容：兼容裸金屬服務(wù)器、開發(fā)機(jī)、Slurm集群、公有云等環(huán)境

• 無縫遷移：使開發(fā)中的應(yīng)用可以無縫遷移到其他IaaS平臺，大大減少了代碼修改的工作量

• 國產(chǎn)化適配：解決了部分國外工具本土化適配不足的問題，得到許多國內(nèi)開發(fā)者的認(rèn)可

LazyLLM支持對應(yīng)用中的模型進(jìn)行微調(diào)，持續(xù)提升應(yīng)用效果。

• 自動框架選擇：根據(jù)微調(diào)場景，自動選擇最佳的微調(diào)框架和模型切分策略

• 網(wǎng)格搜索優(yōu)化：支持網(wǎng)格搜索參數(shù)優(yōu)化，根據(jù)用戶配置自動嘗試不同的基模型、召回策略和微調(diào)參數(shù)

• 非侵入式調(diào)優(yōu)：超參數(shù)調(diào)優(yōu)過程無需對應(yīng)用代碼進(jìn)行大量侵入式修改，幫助用戶快速找到最佳配置

LazyLLM的架構(gòu)設(shè)計(jì)圍繞"敏捷與可靠"的平衡展開，旨在解決Agent開發(fā)中既要快速試錯又要系統(tǒng)穩(wěn)定的矛盾 。

• 數(shù)據(jù)流驅(qū)動：以數(shù)據(jù)流為核心的應(yīng)用開發(fā)范式，使組件拼接和流程編排更加靈活

• 模塊化可插拔：采用模塊化設(shè)計(jì)，支持開源技術(shù)的高效集成，保證框架的擴(kuò)展性

• 企業(yè)級架構(gòu)：支持算法和工程解耦，保障訪問安全與數(shù)據(jù)隔離，支持大規(guī)模并發(fā)和多用戶協(xié)作

針對企業(yè)級應(yīng)用場景，LazyLLM提供了完整的解決方案：

• 權(quán)限體系：完善的權(quán)限管理體系，保障企業(yè)數(shù)據(jù)安全與訪問控制

• 熱更新支持：支持服務(wù)熱更新與算法滾動升級，確保業(yè)務(wù)連續(xù)性

• 全鏈路支持：提供從方案設(shè)計(jì)、模型訓(xùn)練、系統(tǒng)部署到業(yè)務(wù)集成的端到端落地能力

使用方法 安裝與配置

LazyLLM可以通過PyPI安裝，同時支持多種配置方式：

pip install lazyllm

環(huán)境變量配置：

import lazyllm

基礎(chǔ)應(yīng)用開發(fā)

w.start().wait()

構(gòu)建RAG應(yīng)用：

mweb = lazyllm.WebModule(ppl, port=23456).start().wait()

代碼效率對比

LazyLLM在代碼效率方面表現(xiàn)優(yōu)異，相比其他流行框架有顯著提升 ：

• 數(shù)學(xué)公式實(shí)現(xiàn)：LazyLLM僅需10行代碼，而LangChain需要15行，LlamaIndex需要30多行

• RAG應(yīng)用：僅需10行左右代碼即可搭建完整的RAG多路召回應(yīng)用

• 開發(fā)效率：相比傳統(tǒng)方法，開發(fā)效率提升30%-60%以上

應(yīng)用場景 行業(yè)解決方案

基于LazyLLM和萬象平臺，商湯大裝置已為眾多行業(yè)提供AI應(yīng)用落地的綜合解決方案 ：

• 金融行業(yè)：智能客服、風(fēng)險(xiǎn)評估、投資顧問

• 建筑與航空航天：技術(shù)文檔管理、智能問答、知識檢索

• 制造業(yè)：設(shè)備維護(hù)問答、操作規(guī)程查詢、故障診斷

典型應(yīng)用案例

LazyLLM適用于多種AI應(yīng)用場景：

• 智能客服系統(tǒng)：構(gòu)建多輪對話、意圖識別、知識庫檢索于一體的客服機(jī)器人

• 企業(yè)知識庫：支持公司文檔的頻繁增刪改查、分類管理，注冊自定義Reader

• 多模態(tài)應(yīng)用：支持圖像、文本等多模態(tài)能力的集成與編排

• 故事創(chuàng)作：利用Pipeline和并行處理實(shí)現(xiàn)自動化故事生成

優(yōu)勢對比 與傳統(tǒng)開發(fā)方式對比

特性

傳統(tǒng)開發(fā)方式

LazyLLM 框架

代碼量

大量樣板代碼

極簡代碼，10行左右完成應(yīng)用

部署復(fù)雜度

手動配置各模塊

一鍵部署，自動化流程

平臺兼容性

平臺依賴強(qiáng)

跨平臺兼容，無縫遷移

迭代效率

周期長、成本高

快速迭代，數(shù)據(jù)驅(qū)動優(yōu)化

開發(fā)實(shí)戰(zhàn) 一行命令安裝

pip install lazyllm

安裝成功

創(chuàng)建api key 這里我們使用 kimi

https://platform.moonshot.cn/console/api-keys

Python 調(diào)用

    print(f"answer: {res}")

報(bào)錯

一查原來我將python文件命名成lazyllm.py 了，重命名運(yùn)行看下

可正常對話

使用web界面

lazyllm.WebModule(chat, port=23333).start().wait()

啟動一個web頁面

搭建RAG Agent

print(f"Answer: {response}")

運(yùn)行結(jié)果

啟動web

lazyllm.WebModule(llm, port=24444).start().wait()

以下是利用python+pyqt5實(shí)現(xiàn)的一個rag小應(yīng)用

總結(jié)與展望

LazyLLM作為商湯開源的低代碼大模型應(yīng)用開發(fā)框架，通過其模塊化設(shè)計(jì)、高效的工作流和強(qiáng)大的企業(yè)級特性，顯著降低了AI應(yīng)用開發(fā)的門檻。它讓開發(fā)者能夠像搭積木一樣快速構(gòu)建復(fù)雜的多智能體應(yīng)用，同時保證了系統(tǒng)的穩(wěn)定性和可維護(hù)性。

對于企業(yè)開發(fā)者，LazyLLM提供了一條從原型驗(yàn)證到生產(chǎn)部署的快速路徑；對于AI研究者，其低代碼特性讓更多人能夠參與到AI應(yīng)用創(chuàng)新中；對于行業(yè)用戶，豐富的行業(yè)解決方案加速了AI能力的落地轉(zhuǎn)化。

隨著大模型技術(shù)的不斷發(fā)展，LazyLLM也在持續(xù)演進(jìn)，未來將在輕量化RAG、多模態(tài)能力集成、Agent框架等方向繼續(xù)探索，致力于打造更加開放、高效、可復(fù)用的大模型應(yīng)用開發(fā)體系 。

項(xiàng)目地址：

https://github.com/LazyAGI/LazyLLM

版權(quán)聲明：本文作者@13妖。