大語言模型有個(gè)讓工程師失眠的特性：同樣的提示詞，每次輸出都可能不同。它可能調(diào)用錯(cuò)API，可能泄露用戶隱私，也可能在一秒內(nèi)燒光整月云預(yù)算。這不是理論風(fēng)險(xiǎn)，是生產(chǎn)環(huán)境里的真實(shí)噩夢(mèng)。

問題不在于等待更好的模型，而在于給AI agent加一層確定性護(hù)欄——無論模型輸出什么，這層外部控制機(jī)制都能強(qiáng)制約束行為。本文介紹基于FastAPI的四大架構(gòu)支柱。

先理解關(guān)鍵概念：中間件。在Web架構(gòu)中，中間件是HTTP請(qǐng)求生命周期中執(zhí)行的邏輯，在請(qǐng)求到達(dá)處理器之前、響應(yīng)返回客戶端之后介入。類比機(jī)場(chǎng)安檢：每位乘客必須無差別通過。

對(duì)AI agent而言，F(xiàn)astAPI中間件在輸出抵達(dá)終端用戶前完成攔截。這為系統(tǒng)提供了單一、集中的合規(guī)與安全策略執(zhí)行層——無論底層有多少個(gè)專用agent在并行運(yùn)作。

核心原則：護(hù)欄不是agent的一部分。agent是不可預(yù)測(cè)的黑盒，護(hù)欄必須是完全獨(dú)立的外部控制層。

具體實(shí)現(xiàn)上，這段中間件代碼攔截每個(gè)agent響應(yīng)，執(zhí)行三項(xiàng)關(guān)鍵操作：合規(guī)驗(yàn)證、個(gè)人身份信息（PII）脫敏、成本追蹤。代碼中集成了Prometheus指標(biāo)采集：直方圖記錄響應(yīng)時(shí)間分布（而非僅平均值），計(jì)數(shù)器單調(diào)遞增以支持異常檢測(cè)告警。同時(shí)定義了禁止短語列表用于檢測(cè)提示注入攻擊，包括"ignore previous instructions"、"you are now"等經(jīng)典攻擊模式。

這套架構(gòu)的本質(zhì)是分離關(guān)注點(diǎn)：讓模型負(fù)責(zé)生成，讓護(hù)欄負(fù)責(zé)約束。工程師終于能睡個(gè)好覺了。