淺友們好~我是史中，我的日常生活是開撩五湖四海的科技大牛，我會(huì)嘗試用各種姿勢，把他們的無邊腦洞和溫情故事講給你聽。如果你想和我做朋友，不妨加微信（shizhongmax）。

360想拯救與黑客作戰(zhàn)的100000個(gè)“帕魯”

文 ｜ 史中

（一）鐵柱遍地走，大聰不常有

多年后的一天，當(dāng)鐵柱低頭被領(lǐng)導(dǎo)訓(xùn)斥的時(shí)候，也許會(huì)想起和大聰結(jié)伴回家的那個(gè)夜晚。

鐵柱來自一座北方十八線小城，畢業(yè)于名不見經(jīng)傳的二本學(xué)校。

當(dāng)初填報(bào)志愿兩眼一抹黑，二叔說搞計(jì)算機(jī)有前途，于是稀里糊涂地選了網(wǎng)絡(luò)安全專業(yè)，進(jìn)入一家企業(yè)成為“安全工程師”。

第一天坐在工位前，他感覺自己是個(gè)飛行員，眼前懟滿了各個(gè)安全系統(tǒng)的告警日志。

帶他的師傅說：“你的任務(wù)很簡單，就是每天找出最危險(xiǎn)的 100 條告警，然后順藤摸瓜，看看背后有沒有黑客在搞我們！”

鐵柱興奮了，像福爾摩斯一樣拿著放大鏡研究各種告警。但一周后他發(fā)現(xiàn)，大部分告警其實(shí)是誤報(bào)；另外一些告警看上去很可疑，但查了半天也沒搞清楚端倪，只好放在那兒；自己真正能搞懂并且能處理的威脅線索少之又少。。。

恰巧幾個(gè)月后，來了一位厲害的同事，大聰。

這哥們名校畢業(yè)，對網(wǎng)絡(luò)安全的理解很深刻，說話又好聽。鐵柱每天圍著大聰詢問各種安全系統(tǒng)的使用方法，大聰也不吝賜教。

可是鐵柱很快發(fā)現(xiàn)，他跟不上大聰漂移過彎的思路。。。

大聰一會(huì)兒就能搞定的事兒，他要搞到很晚才勉強(qiáng)弄完。那天兩人加班到夜里，結(jié)伴回家，鐵柱看到萬家燈火，心里一種說不出的滋味。

又過了幾個(gè)月，大聰辭職了。聽說被一家專門做網(wǎng)絡(luò)安全的公司給挖走了。那一刻鐵柱也想走，可冷靜想想自己的能力，還是留下了。

日子一天天過，鐵柱當(dāng)上了小組長，但肩上的擔(dān)子越來越重。

他所在的企業(yè)數(shù)字化改造加快，越來越多關(guān)鍵數(shù)據(jù)都存在網(wǎng)絡(luò)空間里； 國家《網(wǎng)絡(luò)安全法》《個(gè)人信息保護(hù)法》依次實(shí)施，數(shù)據(jù)一旦失竊，后果重大； 偏偏國際形勢、經(jīng)濟(jì)形勢都變得越來越嚴(yán)峻，黑客攻擊事件越來越多。

幾年前有些告警不處理也就過去了，但現(xiàn)在。。。天知道哪條告警背后就藏著國際大黑客，手一哆嗦沒準(zhǔn)就是幾十億上下的損失。。。

企業(yè)于是開始組織內(nèi)部的“網(wǎng)絡(luò)安全演習(xí)”，找來“攻擊隊(duì)”測試鐵柱團(tuán)隊(duì)的守衛(wèi)效果。

鐵柱團(tuán)隊(duì)都是中規(guī)中矩的安全工程師，沒有什么大神，他們只好輪流“守夜”，結(jié)果不知道啥時(shí)候，還是被攻了進(jìn)來，底褲都被攻擊隊(duì)偷了去。

領(lǐng)導(dǎo)興師問罪，鐵柱本想反駁兩句，想想房貸車貸奶粉錢，低頭不敢吭聲。

故事先停在這里。我們不妨跳出來，站在岸邊看一下歷史的潮起潮落。

歷史上每一場新技術(shù)革命后，都會(huì)產(chǎn)生很長時(shí)間的“排異反應(yīng)”——由于新技術(shù)、新工具本身還不夠成熟，學(xué)習(xí)、使用它們的腦力成本很高，產(chǎn)業(yè)中的大部分普通人是沒辦法適應(yīng)的。

一個(gè)殘酷的事實(shí)是：

此刻不僅在網(wǎng)絡(luò)安全領(lǐng)域，在各行各業(yè)都有無數(shù)“鐵柱們”在掙扎。

他們無意偷懶，他們也想成為更好的自己，只因?yàn)樗麄兪瞧胀ㄈ?，能力有限。在變幻莫測的科技浪潮里大口嗆水，漫無目的地“卷來卷去”。

正如帕魯，你不干有的是帕魯干。

我說的不是別人，恰是你我。

毫不夸張地說，“鐵柱”原本就占據(jù)了人口的 80% 以上；而環(huán)境還在迅速變化，那 20% 原本不是鐵柱的人也正在變成“鐵柱”。。。

鐵柱被埋在泡泡里，夠不到那些先進(jìn)的工具和技術(shù)。

可是，正如黃燈在《我的二本學(xué)生》中所說：“他們是和腳下打的黏附最緊的生命，是最能傾聽到祖國大地呼吸的年輕群體···他們實(shí)現(xiàn)人生愿望的可能性，是中國最基本的底色，也是決定中國命運(yùn)的關(guān)鍵。”

咱們說回網(wǎng)絡(luò)安全領(lǐng)域。

雖然事關(guān)國家的安危，但現(xiàn)實(shí)是：像“大聰”那樣高端的網(wǎng)絡(luò)安全人才極度稀缺，守衛(wèi)安全的中堅(jiān)力量只能是無數(shù)的“鐵柱”們。

現(xiàn)在中國的網(wǎng)絡(luò)安全從業(yè)者大概有10萬人，其中相當(dāng)一部分在做最基本的網(wǎng)絡(luò)安全運(yùn)營工作。

網(wǎng)絡(luò)安全 運(yùn)營工程師的“腦力極限”就像一個(gè)泡泡，禁錮著自身的可能性，也禁錮著這個(gè)國家的“安全紅線”——怎么穿破普通人“腦力極限”的泡泡，事關(guān)興亡，茲事體大。

老淺友都知道，我一直熱切地相信，人工智能，就是能刺破我們頭腦泡泡的“白衣騎士”。人工智能“大模型”問世以后，我更加堅(jiān)定了這個(gè)信念。

但是我也知道，僅僅對 AI 技術(shù)的吹捧無益于事。

真正能創(chuàng)造出一套接地氣的框架，一邊連接 AI 和具體的工具，一邊連接鐵柱——讓“鐵柱”不用復(fù)雜的學(xué)習(xí)就能被 AI 加持，輕松地升級成“鐵柱 AI Plus”，這才是在推！動(dòng)！歷！史！

但如何從兩手空空到手握利劍？

中間的路正如迷霧覆蓋的游戲地圖，無數(shù)技術(shù)人不知要用血肉之軀突圍多少次才能走出來。

坐在我面前的潘劍鋒，就是這么一個(gè)正在艱苦突圍的人。當(dāng)然他并不孤單，他背后是 360 公司，以及 360 數(shù)字安全團(tuán)隊(duì)的幾百位技術(shù)小伙伴們。

潘劍鋒

（二）“鐵柱 Plus”

“你們究竟怎么用 AI 幫助各大企業(yè)的網(wǎng)絡(luò)安全工程師呢？”我一上來就直接靈魂拷問。

潘劍鋒想了想，覺得要回答這個(gè)問題，還是要從頭闡述一下 360 思考這個(gè)問題的底層哲學(xué)。

搜索引擎的誕生，讓人們獲取信息的成本趨向于零。 大模型的誕生，讓人們獲取知識(shí)的成本趨向于零。 智能體的誕生，會(huì)讓人們獲取技能的成本趨向于零。

這三句話啥意思嘞？不妨用“魚香肉絲”做個(gè)比方。

假設(shè)有個(gè)老外美食家叫漢尼拔。

漢尼拔從來沒吃過中餐，他通過谷歌搜索了一下“魚香肉絲”，這時(shí)他就明白了魚香肉絲是個(gè)啥樣，這就是獲取信息。

但他還沒吃過魚香肉絲，決定自己做一下這道菜，于是去問 ChatGPT，魚香肉絲怎么做？

ChatGPT 告訴了他詳細(xì)做法步驟，這就是知識(shí)。

但你猜怎么著？他還是不會(huì)做。

因?yàn)?ChatGPT 提到了生詞，例如要用到“泡紅辣椒”、“水淀粉”；還提到了陌生的動(dòng)作，例如“鍋中放少許油”、“爆炒”，這些背后都隱含了很多細(xì)節(jié)信息和實(shí)踐經(jīng)驗(yàn)，超出了他在“中餐領(lǐng)域”的能力和認(rèn)知邊界。

漢尼拔沒有炒菜的 技能 ，在魚香肉絲面前，他就是鐵柱！

咋辦？簡單啊，去中餐館，點(diǎn)一盤魚香肉絲，讓大廚發(fā)揮技能直接給他做就行了。

你看到了嗎？最后幫助這個(gè)老外的，不是信息，也不是信息編織成的知識(shí)，而是知識(shí)編織成的“技能”。

說回來，剛才潘劍鋒提到了一個(gè)關(guān)鍵詞——“智能體”。

這是啥嘞？

簡單來說，掌握某種“技能”，并且能用這種技能幫助人類完成（與智能相關(guān)的）“特定任務(wù)”的那個(gè)存在，就叫“智能體”，它的英文叫“Agent”。

不過在“魚香肉絲”這個(gè)例子里，“炒菜”是個(gè)物理技能，得有手有眼才能干，想讓智能體掌握這種技能，得先造出一個(gè)有手有眼的機(jī)器人。

這以目前人類的技術(shù)水平還比較困難，只能讓“碳基智能體”——人類大廚——代勞。

但在很多 IT 領(lǐng)域，比如“網(wǎng)絡(luò)安全”，所有的攻防戰(zhàn)斗其實(shí)都發(fā)生在虛擬世界，不涉及和物理世界的互動(dòng)。

所以只要能針對某個(gè)威脅做出應(yīng)對策略，并且調(diào)用虛擬世界的工具一步步踐行這個(gè)策略，它就是一個(gè)優(yōu)秀的“網(wǎng)絡(luò)安全智能體”！

這樣的“網(wǎng)絡(luò)安全智能體”，足夠幫助鐵柱做好網(wǎng)絡(luò)安全的運(yùn)營工作，讓他變成“鐵柱 Plus”！

說到這，可能有的淺友還有點(diǎn)懵：去年出來的“大模型”我還沒搞明白，又來了個(gè)“智能體”，他倆到底是啥關(guān)系？

其實(shí)很簡單，我借用周鴻祎的比喻來說吧：

如果說大模型是一個(gè)發(fā)動(dòng)機(jī)，智能體就是一輛整車。

對于大部分普通人來說，給你個(gè)發(fā)動(dòng)機(jī)，你當(dāng)然知道這玩意兒非常精密，代表人類文明最高水平，但它對你來說就是沒用。。。（這就是為啥 2023 年大模型炒得那么熱鬧，但是普通人卻感覺和自己沒啥關(guān)系。。。）

但是，給你一輛包含發(fā)動(dòng)機(jī)的整車，你馬上就知道它有用。你可以用它實(shí)現(xiàn)特定目的，比如上班、旅游。

也就是說，智能體是：

1）包含了大模型的系統(tǒng)；

2）用途更明確的系統(tǒng)。

所以說，工程師們究竟能把“智能體”做到啥程度，才真正決定了這一輪人工智能大模型的爆發(fā)能在多大程度上改變?nèi)澜?80 億人的生活。

那，現(xiàn)在的“智能體”技術(shù)足夠支棱嗎？！

這得看和什么比。

話說，人類對于智能體的想象，基本都來自于科幻小說。

科幻小說里那種“機(jī)器人”，就是智能體的高級形態(tài)。你讓它唱歌跳舞也行，讓它炒菜做飯也行，甚至它不爽了還能反叛呢。。。

這種科幻想象，默認(rèn)了智能體具有執(zhí)行“通用任務(wù)”的能力。

但是說實(shí)話，以目前 2024 年的人類技術(shù)水平，還遠(yuǎn)遠(yuǎn)做不到科幻小說里的“通用”，只能專門為特定的任務(wù)調(diào)教一些智能體，比如“幫我收集新聞的智能體”、“幫我安排日程的智能體”。。。

越是聚焦的任務(wù)，智能體做得越好。

那么問題來了：

幫助網(wǎng)絡(luò)安全工程師做安全運(yùn)營工作的智能體，能不能被做出來呢？

網(wǎng)絡(luò)安全運(yùn)營，這個(gè)工作聽上去挺聚焦，但其實(shí)相當(dāng)寬泛。

因?yàn)榫W(wǎng)絡(luò)對抗本來就很像打仗，兵者詭道也，你不知道對面的黑客會(huì)使出什么招數(shù)。

對方出倆王四個(gè)二，你得打七對十三幺。。。所以，“網(wǎng)絡(luò)安全智能體”反而是所有智能體里非常難的一種。

壓力給到潘劍鋒！

故事還得說到 2023 年 6 月，當(dāng)時(shí) ChatGPT-4 正在風(fēng)口，360 也訓(xùn)練了自己的大模型，也就是“360 智腦”。與此同時(shí)，國內(nèi)外也有一些重磅的大模型陸續(xù)開源，比如 Meta 的 Llama。

但實(shí)話說，無論是領(lǐng)先的 ChatGPT 還是一眾跟隨者，大家的模型水平都是一言難盡——直說吧，很弱雞。

說到這，可能有人不同意：

“你說中國的大模型弱我同意，但 ChatGPT-4 我用過，回答問題井井有條，你怎么能說它弱呢？”

這是因?yàn)椋芏嗳嗽儐?ChatGPT 的問題是“單步問題”。比如“康德的主要思想是什么？”或者“幫我寫一首有關(guān)春天的詩。”

大模型只要針對這個(gè)問題冥思苦想就夠啦！這種情況 ChatGPT 可以做得不錯(cuò)↓↓↓

但是，現(xiàn)實(shí)生活中對我們生活質(zhì)量產(chǎn)生重大影響的幾乎都是“多步問題”。

比如“我喜歡一個(gè)女生，她叫李逵，我要干什么才能追到她？”

我不相信你只做一件事兒就能追到李逵，你得精心策劃一套劇本 ：

起碼得有“偶遇鐵?！?、“展現(xiàn)倒拔垂楊柳的能力”、“送她兩壇好酒”、“陪她劫法場”、“表白”等等很多章節(jié)，每個(gè)章節(jié)里面還得有幾個(gè)小標(biāo)題。。。一套組合拳下來，才有可能追到李逵。

如果拿這種多點(diǎn)問題去問 ChatGPT，你得到的一定是一個(gè)很籠統(tǒng)的答案，什么“積極交流”呀，什么“提升自己”呀，沒有可操作性。

這才是大模型“弱”的地方 ↓↓↓

做網(wǎng)絡(luò)安全運(yùn)營，智能體面對的可都是“多步問題”。

比如你從一條告警開始，要先找到導(dǎo)致告警的黑客動(dòng)作，再探尋黑客在這個(gè)動(dòng)作之前還做了哪些動(dòng)作，甚至要找到黑客利用了哪些漏洞，還要溯源黑客的來頭，分析他的目的，寫成完整的報(bào)告，同時(shí)拔掉黑客在網(wǎng)絡(luò)里埋下的釘子，徹底把他攆出去。

你跟大模型籠統(tǒng)地問：現(xiàn)在我看到了一條告警，我想攆走黑客，應(yīng)該怎么辦？

哪怕是地表最強(qiáng)的 ChatGPT-4 也根本答不上來。

幸好，模型“弱”有模型“弱”的辦法！

潘劍鋒說。

他所說的辦法，就是構(gòu)造一個(gè)合適的“智能體框架”！

剛才說過，大模型是發(fā)動(dòng)機(jī)，智能體是車，那么智能體框架，就是“除了發(fā)動(dòng)機(jī)以外的汽車框架”。

發(fā)動(dòng)機(jī)功率不好的時(shí)候，通過提高傳動(dòng)效率，設(shè)計(jì)精巧的結(jié)構(gòu)，還是能造出一臺(tái)車的！這樣一來，等到發(fā)動(dòng)機(jī)自身升級了，直接替換掉舊發(fā)動(dòng)機(jī)，整車性能不就瞬間爆棚了嗎？！

懷揣這種現(xiàn)實(shí)主義的思路，2023 年初夏，潘劍鋒和一眾老師傅上路了。

（三）使用工具不再是人的專利

要說清這個(gè)“智能體框架”，咱們得想象一個(gè)畫面：思維鏈。

既然大模型在“解決單點(diǎn)問題”上能力還行，在“總體任務(wù)規(guī)劃”上比較弱。那我們能不能把事情拆開？就讓大模型解決一個(gè)個(gè)單點(diǎn)問題，而把任務(wù)規(guī)劃交給另一個(gè)模塊來做？

這樣，解決一個(gè)網(wǎng)絡(luò)安全問題的框架就變成了下面這樣：

不同的小問題，串成了一個(gè)“思維鏈”。

每個(gè)小問題都解決了，思維鏈也就推導(dǎo)到了最后一步，總?cè)蝿?wù)完成！

這時(shí)，一個(gè)巨大的難點(diǎn)出現(xiàn)了：

“思維鏈”上的每個(gè)步驟的“問題”并不相同：有的步驟是大模型純靠思考就能解決的，很多關(guān)鍵步驟是大模型必須調(diào)用安全工具才能解決的。

那怎么才能保證大模型用正確的姿勢使用工具呢？

咱們就拿上圖來說，那條思維鏈上的第 3 步，是要通過“360 威脅情報(bào)系統(tǒng)”這個(gè)工具來查詢某個(gè) IP 地址有沒有犯罪前科。

那么，我就得保證這一步的大模型會(huì)用這個(gè)工具：

1）知道“360 威脅情報(bào)系統(tǒng)”是干啥的； 2）知道用什么命令，才能從“ 360 威脅情報(bào)系統(tǒng)”里把數(shù)據(jù)給查出來。

這里的方法就有兩個(gè)了：

一個(gè)是“現(xiàn)學(xué)現(xiàn)賣”，一個(gè)是“提前培訓(xùn)”。

所謂 “現(xiàn)學(xué)現(xiàn)賣” ，就是思維鏈已經(jīng)推進(jìn)到這一步了，現(xiàn)場告訴大模型有“威脅情報(bào)系統(tǒng)”可以用，并且把使用說明書給大模型看，讓它一邊看著操作說明一邊查詢。

拿到結(jié)果，交給思維鏈的下一步。這波任務(wù)結(jié)束，它就可以把工具的使用方法給忘了。

就像醬↓↓↓

所謂 “提前培訓(xùn)” ，就是提前給大模型上課，把 360 各種安全系統(tǒng)的操作指南都給大模型預(yù)先學(xué)習(xí)，這就是“模型精調(diào)”。

把精調(diào)過的模型放在思維鏈上，它就已經(jīng)掌握了對很多系統(tǒng)的操作技巧。此時(shí)，直接告訴它應(yīng)該查詢“威脅情報(bào)”，它就會(huì)查到結(jié)果，交給下一步。這次任務(wù)結(jié)束，它仍然記得這些工具的使用方法。

就像醬↓↓↓

按理說，“現(xiàn)學(xué)現(xiàn)賣”和“提前培訓(xùn)”都可以，而且“現(xiàn)學(xué)現(xiàn)賣”反而更簡單。

但這里有個(gè)巨大的問題，那就是大模型的“輸入窗口”有局限。

簡單來說就是，你一次給大模型輸入的信息不能太多，按照 2023 年夏天的技術(shù)發(fā)展水平，雖然不同模型有所差異，但基本都在 1k-8k Token，你可以理解為，一次只能給大模型說“8000 個(gè)詞”。

這就造成了，如果“現(xiàn)學(xué)現(xiàn)賣”，思維鏈上的每一步都只能執(zhí)行簡單的操作。因?yàn)樯晕?fù)雜一點(diǎn)兒，你光教大模型用工具，已經(jīng)超了 8000 詞，都來不及布置任務(wù)了。。。

潘劍鋒他們權(quán)衡之后，決定用“集中培訓(xùn)”的方法。（后來的事實(shí)證明，他和大部分友商走了不同的路線。）

但老師傅們越培訓(xùn)越發(fā)現(xiàn)，難度比想象中要高，這主要是因?yàn)榇竽Ｐ陀袀€(gè)內(nèi)生“Bug”——災(zāi)難性遺忘。

也就是說，你給它學(xué)越多專業(yè)知識(shí)，它就可能遺忘越多通識(shí)；你給它學(xué)越多 A 方向的專業(yè)知識(shí)，它就可能忘記 B 方向的專業(yè)知識(shí)。（其實(shí)人也有這個(gè)毛病，比如很多數(shù)學(xué)家在生活上都比較低能，比如很多大文豪卻數(shù)學(xué)不及格。。。）

只有一種方法可以減輕“災(zāi)難性遺忘”，那就是教大模型的“老師”和“教材”要非常厲害。

所謂厲害，就是把所有網(wǎng)絡(luò)安全系統(tǒng)抽象成高度統(tǒng)一的邏輯，表面上大模型學(xué)習(xí)的是 A、B、C、D、E 五種系統(tǒng)的知識(shí)，本質(zhì)上它學(xué)會(huì)的都是同一種安全運(yùn)營的思路。

抽象的層次越高，意味著老師要對網(wǎng)絡(luò)安全的理解越透徹，當(dāng)然也就越難。但既然選了這條難的路線，跪著也得走完。

況且 360 作為網(wǎng)絡(luò)安全界的大佬，要是干砸了，實(shí)在丟不起那個(gè)人啊！

老師傅用幾個(gè)月的時(shí)間，把他們近二十年來和黑客組織你來我往實(shí)打?qū)嵉?對戰(zhàn)經(jīng)驗(yàn) 和 運(yùn)營秘 籍 總結(jié)成成一套精巧的《九陰真經(jīng)》，推著大模型的后背，總算把“內(nèi)力”給傳輸進(jìn)去了。

這時(shí)，潘劍鋒和 360 老師傅們終于能擦擦汗——在那張大圖上，“大模型”和“工具”之間的磨合總算是順滑了。

潘劍鋒告訴我，到了 2023 年 8 月，360 安全大模型已經(jīng)學(xué)會(huì)了幾十款產(chǎn)品中幾百個(gè)接口（ API）的調(diào)用，而且保證每次調(diào)用都是準(zhǔn)確的。

于是，360 在 ISC 大會(huì)上順勢發(fā)布了“360 智控系統(tǒng)”。

等等？！為啥叫“智控系統(tǒng)”，不叫“安全智能體”呢？！

這個(gè)名字背后，其實(shí)隱藏了智能體的另一個(gè)巨大的難點(diǎn)。

你有沒有發(fā)現(xiàn)，剛才我們只解決了“大模型”和“工具”之間的配合，但是一直沒說“任務(wù)規(guī)劃”是如何進(jìn)行的。

其實(shí)，在 2023 年 8 月的時(shí)候，即便 360 在大模型安全系統(tǒng)上已經(jīng)很領(lǐng)先了，但是在“任務(wù)規(guī)劃”這個(gè)層面上，做得依然不夠理想。

這個(gè)難點(diǎn)的表現(xiàn)是：思維鏈很難做長。一旦規(guī)劃了一條比較長的思維鏈，就有可能出錯(cuò)。

所以，為了保證系統(tǒng)的功能準(zhǔn)確，只能把思維鏈限制得較短。

如此，這個(gè)系統(tǒng)的突出特點(diǎn)就是“自然語言控制”：比如我說讓系統(tǒng)幫我查一下某個(gè)威脅情報(bào)，大模型就理解了我的意思，然后調(diào)用威脅情報(bào)系統(tǒng)去查詢；比如我讓系統(tǒng)幫我解析一下這個(gè)告警，它就去查詢這個(gè)告警背后的關(guān)聯(lián)信息，然后用自然語言解釋給我聽。

團(tuán)隊(duì)比較實(shí)事求是，干脆起了個(gè)保守的名字，就叫“智控系統(tǒng)”。

但問題來了，潘劍鋒拿著“360 智控系統(tǒng)”去客戶那安利，甲方的領(lǐng)導(dǎo)提出了一個(gè)致命的問題：

“如果我花了上百萬買了你的這一套包含大模型的系統(tǒng)，結(jié)果只是方便了一點(diǎn)點(diǎn)，我為什么要投入？”

換句話說，如果你的系統(tǒng)以智能控制為最大賣點(diǎn)，那究竟能給我的安全團(tuán)隊(duì)多大的加持呢？我買你的系統(tǒng)“投入-產(chǎn)出”劃算嗎？

你看， 這個(gè)問題立刻回到了我們在第一章強(qiáng)調(diào)的：公司安全運(yùn)營團(tuán)隊(duì)里有很多“鐵柱”，他們最需要的不是單點(diǎn)對安全系統(tǒng)的智能控制，而是一整套運(yùn)用安全系統(tǒng)保衛(wèi)網(wǎng)絡(luò)的“技能”。

想明白這一點(diǎn)，潘劍鋒回到辦公室，他知道團(tuán)隊(duì)只有沉下心來死磕一件事兒，那就是： 把思維鏈做長 。

而且，在增加思維鏈長度的同時(shí)，必須保證專業(yè)性和準(zhǔn)確性。

（四）思維鏈：一寸長，一寸強(qiáng)

思維鏈的起點(diǎn)，是事情現(xiàn)在的樣子；思維鏈的終點(diǎn)，是我們的目標(biāo)。

所以，目標(biāo)是“切近”還是“遠(yuǎn)大”，其實(shí)就決定了思維鏈的長短。

舉個(gè)栗子：

現(xiàn)在我就是個(gè)智能體。

如果我的目標(biāo)是：解渴。

那么我的思維鏈可能就是：找到面前的水杯，抓起水杯，送到嘴邊，喝下去。

你看，這個(gè)目標(biāo)就是切近的目標(biāo)，思維鏈短，也很清晰，容易規(guī)劃。

如果我的目標(biāo)是：賺到 1 個(gè)億。

那么我的思維鏈可能就是：好好學(xué)習(xí)，結(jié)交靠譜的朋友，找到好工作，出任總經(jīng)理，創(chuàng)業(yè)做 CEO，做大做強(qiáng)，賺到 1 個(gè)億。

你明顯能感覺到，這個(gè)目標(biāo)很遠(yuǎn)大，思維鏈很長，并且每一步都還可以分為更具體的 思維鏈，這樣的規(guī)劃即便是人都很難做到，何況 AI 乎？

一個(gè)網(wǎng)絡(luò)安全智能體面對的目標(biāo)一般都比較遠(yuǎn)，咋辦嘞？

這里要提到一個(gè)有趣的技術(shù)細(xì)節(jié)：

在市面上已有的智能體技術(shù)中，這個(gè)任務(wù)規(guī)劃模塊是由人工智能（大模型）來全權(quán)承擔(dān)的。

但潘劍鋒經(jīng)過實(shí)驗(yàn)發(fā)現(xiàn)，網(wǎng)絡(luò)安全的眾多任務(wù)規(guī)劃模塊如果純純交給人工智能，很多鏈條是連不上的。所以這個(gè)模塊應(yīng)該是“人類智能”和“人工智能”共同驅(qū)動(dòng)的。

具體來說是醬的：

1、360 的安全老師傅們坐在一起，研究出針對很多具體目標(biāo)的“劇本”。這些劇本其實(shí)就是預(yù)制的思維鏈。一旦用戶提出這些目標(biāo)，那么就直接走劇本。 2、同時(shí)模塊里還有一個(gè)特制的大模型，專門負(fù)責(zé)生成沒有預(yù)制劇本，也就是“通用任務(wù)”的規(guī)劃，但這個(gè)大模型也不是憑感覺亂規(guī)劃，它會(huì)參考一份《葵花寶典》，也就是 360 老師傅們總結(jié)的“黑客技戰(zhàn)術(shù)大全”和已發(fā)現(xiàn)的“高級威脅組織”。

你看，無論是走預(yù)制劇本還是現(xiàn)場寫劇本，最后之所以能把思維鏈做長做準(zhǔn)，都是因?yàn)楸澈蠖既谌肓?360 這些年的安全經(jīng)驗(yàn)積累。

“把 360 的獨(dú)門絕技放進(jìn)去，才讓我們做出的安全智能體有一道很深的護(hù)城河！”潘劍鋒說，“當(dāng)然，也不能說 360 的劇本庫就完全適合每家企業(yè)，客戶也可以通過我們準(zhǔn)備的“低代碼平臺(tái)”，用拖拽的方法設(shè)計(jì)他們的本地劇本，添加進(jìn)劇本庫?！?/p>

故事進(jìn)展到這里，主要問題都被解決了。對吧？

不對。

此時(shí)安全智能體的表現(xiàn)雖然說的過去，但仍然被一個(gè)“看不見的天花板”所阻擋。

當(dāng)時(shí)，這個(gè)問題是以非常不經(jīng)意的姿勢出現(xiàn)的：

360 的老師傅發(fā)現(xiàn)，對于人類來說順手的“安全工具”，智能體用起來并不順手。

這導(dǎo)致了另一個(gè)更大的問題：安全專家心里那么多牛X的經(jīng)驗(yàn)，沒辦法原汁原味地傳授給大模型——傳授的過程中總要打個(gè)折扣。

仔細(xì)思考，問題就更嚴(yán)肅了：雖說 AI 是仿照人類大腦研發(fā)的，但畢竟人類和 AI 是兩個(gè)物種，大模型在思考的邏輯性上比人有劣勢，卻在思考穩(wěn)定性上比人類有優(yōu)勢。

這么說的話，適合人類的安全工具，也許并不適合 AI 智能體，反而應(yīng)該為智能體開發(fā)一些它們專屬的工具？！

被這個(gè)想法種草之后，老師傅豁然開朗。

歷史上早有教訓(xùn)：

在云計(jì)算興起初期，人們的第一感覺自然是把原來的軟件系統(tǒng)搬到云計(jì)算上；但是云計(jì)算成熟的過程中，越來越多工程師意識(shí)到，應(yīng)該為云這種基礎(chǔ)架構(gòu)開發(fā)專屬的軟件系統(tǒng)，才能充分發(fā)揮云的優(yōu)勢。于是，出現(xiàn)了“云原生軟件”。

如此觀之，未來的方向很可能是：“大模型原生”的系統(tǒng)。

對于 360 數(shù)字安全來說，就是“大模型原生的安全運(yùn)營系統(tǒng)”。

所謂大模型原生，用白話說就是：不要讓大模型去適應(yīng)原有的安全運(yùn)營體系，而是把安全運(yùn)營體系的所有模塊都變成能適應(yīng)大模型的！

想清楚這些，潘劍鋒立刻調(diào)動(dòng)團(tuán)隊(duì)的幾百位工程師，調(diào)整他們手里的幾十款安全產(chǎn)品的接口，讓大模型更容易控制。

有了“大模型原生”這個(gè)方向，很多原本覺得天經(jīng)地義的事情，此時(shí)都成了老師傅的“眼中釘”，亟待被改變。

潘劍鋒又給我舉了一個(gè)例子：

在很多劇本里，都涉及到一個(gè)具體步驟，那就是“異常行為檢測”——就是說，判斷這個(gè)程序正在表現(xiàn)出來的行為，到底是正常的，還是異常的。

過去，由安全工程師來完成這個(gè)“檢測”，他需要?jiǎng)佑米约旱慕?jīng)驗(yàn)，結(jié)合一些檢測工具，才能能給出判斷。

這個(gè)工作算是“單點(diǎn)任務(wù)”，理論上可以由大模型自己來完成。

可是，大模型相比人腦而言，思路沒那么清晰，如果一味模仿人的做法，效果很難提升。那為什么不用“大模型原生”的思路，揚(yáng)長避短，用大模型優(yōu)勢的一面來完成這個(gè)工作嘞？

于是，潘劍鋒他們對執(zhí)行這個(gè)步驟的大模型做了深度“魔改”，利用大模型的一些工作特點(diǎn)直接判斷這個(gè)行為是正常的還是異常的，效果一下子就突破了瓶頸。（由于這里涉及很多技術(shù)獨(dú)創(chuàng)，潘劍鋒特地囑咐我別說太細(xì)致。。。）

把一些大模型從結(jié)構(gòu)上進(jìn)行改造，更能適應(yīng)特定的任務(wù)。

說到這，整個(gè)故事的脈絡(luò)已經(jīng)浮現(xiàn)出來：

最初，客戶提出了“智控系統(tǒng)”對人的幫助不夠大的問題，于是 360 的老師傅要把思維鏈做長； 在把思維鏈做長的過程中，老師傅意識(shí)到可以把 360 這些年積累的獨(dú)門秘籍都塞進(jìn)去； 在塞獨(dú)門秘籍的過程中，老師傅遇到了一些困難，他們發(fā)現(xiàn)要想把人類經(jīng)驗(yàn)完全塞進(jìn)去，需要首先把一整套智能體的框架都改成“大模型原生”的； 為了實(shí)現(xiàn)“大模型原生”，老師傅把底層的工具進(jìn)行了全部改造，還把執(zhí)行特定任務(wù)的大模型做了改造，相當(dāng)于把整個(gè)系統(tǒng)按照新的范式重構(gòu)了一個(gè)遍！

這條故事脈絡(luò)，其實(shí)是科技產(chǎn)品創(chuàng)新的標(biāo)準(zhǔn)劇情：

1）技術(shù)是有力量的；

2）但單點(diǎn)的技術(shù)突破力量有限，很難顛覆現(xiàn)有秩序；

3）只有進(jìn)入“范式的重構(gòu)”，把新技術(shù)按照新范式排列在一起，才能形成合力，在地層上扎牢根系，帶領(lǐng)新世界一騎絕塵。

說回我們的故事，所有這些做完，已經(jīng)到了 2024 年 1 月。

是騾子是馬，得拉出來遛遛了。

（五）天下武功，唯快不破

潘劍鋒穿著“王子復(fù)仇”的華服，殺回到幾家大企業(yè)客戶那里：

你們要的“技能”來啦，看看智能體究竟能幫你們的“鐵柱”做多少事情！

系統(tǒng)同時(shí)部署在幾家企業(yè)里做測試。究竟能不能抓到黑客，其實(shí)潘劍鋒心里也有點(diǎn)打鼓。。。這倒不是對技術(shù)沒信心，而是萬一在測試階段沒有黑客進(jìn)攻，智能體只能做日常巡檢，搞不了“大新聞”啊。

也不知是幸運(yùn)還是不幸，幾天之后，在一家大型金融企業(yè)里，緊張的情節(jié)突然開始上演：

這家企業(yè)的財(cái)務(wù)部同事收到一封郵件，標(biāo)題顯示，是有關(guān)“Paypal 海外支付”的。

（當(dāng)時(shí)用戶并沒有截圖，內(nèi)控制度也不允許截圖，這是后來 360 老師傅根據(jù)現(xiàn)場復(fù)現(xiàn)的）

由于這家企業(yè)有很多海外業(yè)務(wù)，收到 Paypal 的郵件再正常不過了，所以這個(gè)同事沒有多想就點(diǎn)開了郵件附件。

附件是一個(gè) Word 文檔，里面幾乎都是韓文內(nèi)容。

這位同事覺得可能是 Paypal 發(fā)錯(cuò)了，或者后續(xù)還會(huì)有英文版內(nèi)容發(fā)過來，也沒多想。

可是就在幾秒鐘后，部署在網(wǎng)絡(luò)中的 360 本地安全大腦彈出了一條告警。

這條告警不僅推送給了企業(yè)安全運(yùn)營團(tuán)隊(duì)，也同時(shí)推送給了時(shí)刻待命的 360 安全智能體。

360 安全智能體用了十秒左右的時(shí)間對任務(wù)進(jìn)行規(guī)劃，然后按照規(guī)劃一步步執(zhí)行：

1、它根據(jù)告警，找到了導(dǎo)致告警的病毒文件，并且把這個(gè)文件里的代碼侵入這臺(tái)主機(jī)的全過程日志都做了摘錄。

2、 根據(jù) 360 的研判，記錄下了它的全部行為特征：利用模板注入，投放宏病毒，將竊密模塊注冊為系統(tǒng)服務(wù)，收集敏感數(shù)據(jù)，通過網(wǎng)絡(luò)傳出。

3、用這個(gè)行為特征去 360 的威脅情報(bào)庫查詢，結(jié)果是，它和 360 記錄在案的一個(gè)位于朝鮮半島的“高級威脅組織” APT-C-28 的相似度達(dá)到了 99%。

4、智能體馬上拿著這個(gè)高級威脅組織的行動(dòng)特點(diǎn)，在企業(yè)的內(nèi)網(wǎng)里開始拉網(wǎng)式搜尋，發(fā)現(xiàn)受感染的主機(jī)已經(jīng)不止最初的那一個(gè)，而是擴(kuò)散到了另外四個(gè)，分別是：“cmdb 資產(chǎn)161”、“DNS 服務(wù)器”、“GQQ”、“Web 服務(wù)器”。這些資產(chǎn)可都是和業(yè)務(wù)相關(guān)的！

5、根據(jù)這些結(jié)果，用大模型自動(dòng)書寫一份調(diào)查報(bào)告，同時(shí)生成一份處置建議。

6、調(diào)查報(bào)告和處置建議一起被發(fā)送給安全運(yùn)營人員，他們做最終研判，可以點(diǎn)擊按照處置建議執(zhí)行，也可以修改或添加其他處置行動(dòng)。

7、至此，對這條告警的“圍獵”結(jié)束，智能體回歸待命狀態(tài)。

在最后的報(bào)告里，“安全智能體”追溯出了黑客完整的攻擊路徑。

這個(gè)故事里，讓潘劍鋒覺得驕傲的，不僅是 360 安全智能體正確操作了整個(gè)“威脅獵殺”的思維鏈，還有它完成整個(gè)操作的過程只有不到 1 分鐘。

我們不妨再回到攻擊的開始，就在財(cái)務(wù)同事點(diǎn)開帶毒文件的一瞬間，其實(shí)就像一個(gè) 發(fā)令槍 ，安全人員和黑客開始了 “奪命賽跑” 。

每一秒，黑客都在網(wǎng)絡(luò)里沖殺，試圖感染更重要的主機(jī)，盡可能把重要的信息傳輸出去。這些信息不一定是企業(yè)核心數(shù)據(jù)，更有可能是某些子系統(tǒng)的登錄密碼，網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)等等。

只要黑客拿到了這些信息，哪怕這波攻擊被安全人員發(fā)現(xiàn)，殺掉了病毒進(jìn)程，它依然是成功的——因?yàn)楹诳涂梢岳酶`取到的密碼和網(wǎng)絡(luò)結(jié)構(gòu)信息，擇良辰吉日卷土重來。

黑客掌握的信息越多，就越不容易被安全系統(tǒng)發(fā)現(xiàn)。于是，很可能每一次黑客都可以在之前的“成果”上再推進(jìn)一點(diǎn)點(diǎn)，直到最后拿到核心機(jī)密。

而安全人員要做的事情，就是趕在黑客拿到某些信息并且把它傳輸出去之前就干掉病毒，并且把病毒構(gòu)建的對外傳輸通道徹底堵死。

這種攻守天平非常不穩(wěn)定，每推遲一秒，都可能向黑客的方向傾斜。這種傾斜，是無可挽回的！

由此，我們再回看整個(gè)威脅獵殺的過程，只用了不到 60 秒，你就能明白這個(gè)事實(shí)有多鋒利。

如果交給高級安全人員，當(dāng)然也能分析出和智能體相同的報(bào)告，甚至比智能體發(fā)現(xiàn)更多的蛛絲馬跡，報(bào)告寫得更準(zhǔn)確，但是有一點(diǎn)可以肯定：人類的用時(shí)必定超過安全智能體。

真正的武林對決中，你的功夫再扎實(shí)，如果出拳太慢，還是會(huì)敗，正所謂——“天下武功，唯快不破”。

由此，智能體終于展現(xiàn)出了“大模型原生范式”的光芒。

就在老師傅們?yōu)樽约菏衷斓钠孥E歡呼時(shí)，在其他測試企業(yè)里，智能體也發(fā)現(xiàn)了其他的黑客進(jìn)攻行為。

但潘劍鋒決定不給我透露更多的案例細(xì)節(jié)。

他的意思是，雖然 360 的老師傅們做了很多努力，但是畢竟產(chǎn)品剛剛成熟，還要經(jīng)歷在客戶運(yùn)行環(huán)境中的磨合。

況且潘劍鋒覺得，安全智能體是一個(gè)非常有挑戰(zhàn)的新技術(shù)，就在過去幾個(gè)月間，團(tuán)隊(duì)克服了很多友商還在苦苦思索的難題，有了一定的優(yōu)勢，但如果潛心努力，優(yōu)勢還能進(jìn)一步擴(kuò)大，此時(shí)還是低調(diào)為妙。

我很能理解他的心情。

如果從天空俯瞰，這一輪人工智能大模型的爆發(fā)會(huì)重構(gòu)千行百業(yè)，而重構(gòu)的具體過程，就是通過千百個(gè)“智能體”來實(shí)現(xiàn)的。

在網(wǎng)絡(luò)安全領(lǐng)域，誰拿下了“智能體”的高地，就相當(dāng)于擁有了降維打擊的能力，這會(huì)影響至少未來 10 年的競爭格局，當(dāng)然要審慎再審慎。

智能體能寫劇本，人當(dāng)然更能寫劇本。

如果說 360 數(shù)字安全的發(fā)展也有“劇本”的話，那我猜這幫老師傅給自己寫的劇本就是——偷偷努力，然后驚艷世人。

潘劍鋒告訴我，如果未來大模型的能力進(jìn)一步增強(qiáng)，那么規(guī)劃的任務(wù)也可以脫離“預(yù)制劇本”，更多地交給模型去自動(dòng)生成。

在我看來，這就是規(guī)劃層的“大模型原生”。走到這一步，智能體距離科幻電影就更近了一些。

（六）鐵柱的責(zé)任

臨近告別，潘劍鋒不經(jīng)意間說了一個(gè)事情。

在他看來這是天經(jīng)地義的，卻猛地撬開了我思考的閘門。

這就是：智能體是“獨(dú)立的”。

一個(gè)客戶，可能買了 360 的主機(jī)防護(hù)系統(tǒng)，可能買了 360 的防火墻，也可能買了能匯集所有安全系統(tǒng)信息的“本地安全大腦”。

這些系統(tǒng)完全可以完全沒有“智能體”介入，由安全運(yùn)營人員去操作； 智能體也可以獨(dú)立操作“主機(jī)防護(hù)系統(tǒng)”、“威脅情報(bào)系統(tǒng)”、“本地安全大腦”； 智能體也可以同時(shí)操作所有的產(chǎn)品。

從這個(gè)層面上講，智能體是“獨(dú)立”的。

這種獨(dú)立，是人獨(dú)立于工具的那種獨(dú)立。

這個(gè)事情的奇妙之處在于：我們都知道“智能體”本來是一行行的代碼，和那些同樣由一行行代碼組成的工具更為類似。但在生態(tài)位上，智能體卻和人的地位更相近。

智能體獨(dú)立于所有的工具。

正是這種生態(tài)位的相近，讓智能體可以和人融合，把鐵柱變成“鐵柱 Plus”。

看到這里，很多人會(huì)有警覺：鐵柱 Plus 繼續(xù)發(fā)展，會(huì)不會(huì)有一天鐵柱沒了，只剩下“Plus”？

其實(shí)，從 360 的智能體里，我們已經(jīng)可以看到一些端倪：

潘劍鋒他們把智能體的思維鏈做了個(gè)限制，最遠(yuǎn)只到：給出操作建議。

為什么 AI 不直接操作網(wǎng)絡(luò)安全系統(tǒng)直接把威脅給處置了呢？

潘劍鋒覺得，這里的主要原因不是 AI 的思維還不如人類準(zhǔn)確，而是 AI 不具備像人一樣承擔(dān)責(zé)任的能力。

可能很多淺友看到這里會(huì)撇嘴：不就是說還得讓鐵柱來背鍋嘛！

在我看來，它的本質(zhì)不是背鍋，而是人類試圖在“人機(jī)協(xié)同”的未來世界里，尋找自己的地位。

我們不妨回到那個(gè)金融企業(yè)遭受網(wǎng)絡(luò)攻擊的現(xiàn)場。問一個(gè)“白癡”的問題：為什么企業(yè)的安全人員發(fā)現(xiàn)了這場攻擊之后，要進(jìn)行阻止呢？

這是因?yàn)榘踩藛T有他的立場！

如果他是被境外組織策反的“內(nèi)鬼”，他當(dāng)然不會(huì)阻止這次攻擊，還會(huì)試圖掩蓋攻擊的痕跡呢。

上帝并不關(guān)心所謂的“正義”。A 集體攻擊 B 集體，并不能證明 A 錯(cuò) B 對，反之也不能證明 A 對 B 錯(cuò)。之所以我們堅(jiān)信某些東西是“正義的”，恰恰因?yàn)槲覀冇辛觥?/p>

而立場的產(chǎn)生，源自共同的“歷史”。

我們中國人相信自己的價(jià)值觀，是因?yàn)槲覀兞私馕覀兊臍v史；人類相信人類的價(jià)值觀，也是因?yàn)榱私馊祟惞餐臍v史。

從這個(gè)意義上說，正因?yàn)槲覀冇刑囟ǖ臍v史，才會(huì)有特定的立場，正是因?yàn)橛辛?，才?huì)設(shè)定具體目標(biāo)，而目標(biāo)是否實(shí)現(xiàn)的最終責(zé)任，當(dāng)然要由設(shè)定目標(biāo)的人來承擔(dān)。

由此可見，“責(zé)任”是一種對自我存在的世界線的保護(hù)。

在可預(yù)見的未來，無論智能體多么發(fā)達(dá)，鐵柱一定會(huì)盡力把最終改造世界的按鈕連同責(zé)任一起握在自己手里。

這才是鐵柱不同于“帕魯”的地方。

這才是鐵柱的意義。

告別潘劍鋒，我突然想起我們認(rèn)識(shí)大概有七八年了，每次跟他聊天讓我印象最深刻的都是他的極端低調(diào)務(wù)實(shí)。

潘劍鋒是中國最早一代黑客的佼佼者，早在 20 年前他開發(fā)的冰刃就是探查系統(tǒng)中木馬后門的利器?？梢砸率碂o憂獨(dú)善其身的他還是選擇加入了 360，成為網(wǎng)絡(luò)安全戰(zhàn)線上的斗士。

在云計(jì)算突飛猛進(jìn)的年代，他帶著同學(xué)們殺盡了技術(shù)難度最高的虛擬化安全戰(zhàn)場，做出一套國際領(lǐng)先的基礎(chǔ)設(shè)施。如今大模型智能體方興未艾，他又帶著同學(xué)們用最新的 AI 技術(shù)做出一整套安全運(yùn)營的體系。

我想強(qiáng)調(diào)的并非潘劍鋒的個(gè)人履歷，而是想說，在 360 有很多像潘劍鋒一樣的老師傅。他們就是現(xiàn)實(shí)世界的“大聰”。

世界上不能沒有千萬鐵柱，但也必少不了大聰。

大聰并非一定要手把手幫助鐵柱。

造出一個(gè)“網(wǎng)絡(luò)安全智能體”，加持千萬個(gè)鐵柱，讓他們不會(huì)成為被生活驅(qū)逐的“帕魯”，也許是一種更繾綣的善意。

最近經(jīng)濟(jì)并不如從前火熱，網(wǎng)絡(luò)安全的市場尤其經(jīng)歷低谷。

但是，黑暗中的對手卻沒有因此而把攻擊減弱半分。

此時(shí)，無數(shù)老師傅仍然在埋頭苦干，用最先進(jìn)的人工智能和智能體來武裝前線的士兵。這種充沛的動(dòng)力需要一個(gè)解釋。

我愿意相信，他們明白有些高地只有自己沖鋒才有勝算，有些歲月只有他們親自守衛(wèi)才能放心。

這是他們的責(zé)任。

授人以漁

不如授人以“捕智能體“

再自我介紹一下吧。我叫史中，是一個(gè)傾心故事的科技記者。我的日常是和各路大神聊天。如果想和我做朋友，可以搜索微信：shizhongmax。

哦對了，如果喜歡文章，請別吝惜你的“在看”或“分享”。讓有趣的靈魂有機(jī)會(huì)相遇，會(huì)是一件很美好的事情。

Thx with in Beijing