国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

感知機(jī)、從錯(cuò)誤中學(xué)習(xí)與邁向人工智能的一步 —— 節(jié)選自《思維法則:探尋心智的數(shù)學(xué)理論》

0
分享至

置頂zzllrr小樂(lè)公眾號(hào)《小樂(lè)數(shù)學(xué)科普》新鮮送到!

感知機(jī)與赫布學(xué)習(xí)法則介紹。

作者:Tom Griffiths(湯姆?格里菲斯,普林斯頓大學(xué)心理學(xué)與計(jì)算機(jī)科學(xué)系亨利?盧斯信息技術(shù)、意識(shí)與文化講席教授,普林斯頓人工智能實(shí)驗(yàn)室主任)2026-4-10

譯者:zzllrr小樂(lè)(數(shù)學(xué)科普公眾號(hào))2026-4-13

邏輯的一大威力在于,它不僅提供了描述世界的方式,還提供了創(chuàng)造新思想的途徑。從一組事實(shí)出發(fā),遵循推理規(guī)則就可以推導(dǎo)出新的事實(shí)??臻g與特征為心理學(xué)家提供了描述人類內(nèi)心世界的新方式,但他們?nèi)匀蝗鄙賹?duì)心智狀態(tài)如何隨時(shí)間變化 —— 即對(duì)思維本身 —— 的清晰刻畫(huà)。邏輯是計(jì)算思想的基礎(chǔ),并在圖靈機(jī)中得到體現(xiàn)。將空間與特征用作心智表征,則需要提出一種全新的計(jì)算模型。

圖靈機(jī)建立在對(duì)理想化數(shù)學(xué)家行為的分析之上:讀取問(wèn)題、執(zhí)行計(jì)算、寫(xiě)下中間結(jié)果。但如果我們更仔細(xì)地觀察這位數(shù)學(xué)家頭腦內(nèi)部發(fā)生的事情,就可以為另一種計(jì)算模型找到靈感。透過(guò)皮肉與骨骼,我們會(huì)發(fā)現(xiàn)閱讀、計(jì)算與書(shū)寫(xiě),全都是這位數(shù)學(xué)家大腦中神經(jīng)元放電的結(jié)果。這些神經(jīng)元以各種方式彼此連接,構(gòu)成了神經(jīng)網(wǎng)絡(luò)。

與其試圖復(fù)制這位數(shù)學(xué)家的思維與行為,何不嘗試復(fù)制她的大腦?

1958年7月13日,《紐約時(shí)報(bào)》刊登了一篇題為《電子 “大腦” 實(shí)現(xiàn)自我學(xué)習(xí)》的醒目文章,將人工神經(jīng)網(wǎng)絡(luò)介紹給了美國(guó)公眾。文章開(kāi)頭寫(xiě)道:

美國(guó)海軍上周展示了一臺(tái)名為 感知機(jī)(Perceptron) 的電子計(jì)算機(jī)雛形,預(yù)計(jì)約一年后完工,它有望成為首個(gè)無(wú)需人類訓(xùn)練與控制、便能 “感知、識(shí)別并辨識(shí)周遭環(huán)境” 的無(wú)生命機(jī)械。在華盛頓演示該設(shè)備雛形的海軍軍官表示,他們不愿稱其為機(jī)器,因?yàn)樗褚粋€(gè) “沒(méi)有生命的人”。

一個(gè)活生生的人,怎能不為此著迷?

模仿人類大腦構(gòu)建電路的想法,早在1940年代就已出現(xiàn)。當(dāng)時(shí)沃倫?麥卡洛克(Warren McCulloch)與沃爾特?皮茨(Walter Pitts)證明了神經(jīng)元如何連接以實(shí)現(xiàn)布爾邏輯,并啟發(fā)約翰?馮?諾依曼思考讓計(jì)算機(jī)像大腦一樣組織起來(lái)。神經(jīng)網(wǎng)絡(luò)在認(rèn)知科學(xué)誕生之初便已登場(chǎng):1956 年,紐厄爾(Newell)與西蒙(Simon)在麻省理工學(xué)院信息理論研討會(huì)上發(fā)表報(bào)告后,緊接著出現(xiàn)了一篇關(guān)于在早期計(jì)算機(jī) IBM 704 上實(shí)現(xiàn)神經(jīng)元數(shù)學(xué)模型的論文。該論文的合著者之一洛伊絲?海布特(Lois Haibt),是此次研討會(huì)上唯一展示研究成果的女性。她后來(lái)作為 FORTRAN 編程語(yǔ)言研發(fā)團(tuán)隊(duì)中唯一的女性,繼續(xù)發(fā)揮著先驅(qū)作用。感知機(jī)的特別之處在于,它不只是由神經(jīng)元構(gòu)成的電路,它還能通過(guò)經(jīng)驗(yàn)學(xué)習(xí)這些神經(jīng)元應(yīng)當(dāng)如何彼此連接。

感知機(jī)的另一大特別之處,是其發(fā)明者弗蘭克?羅森布拉特(Frank Rosenblatt)毫不避諱地宣揚(yáng)它的潛力。他對(duì)《紐約時(shí)報(bào)》表示,感知機(jī)將是 “首個(gè)能像人類大腦一樣思考的電子設(shè)備”。

遺憾的是,外界對(duì)他工作的回應(yīng),揭示出任何想要?jiǎng)?chuàng)造此類設(shè)備的人都將面臨的重大挑戰(zhàn)。

感知機(jī)登場(chǎng)

弗蘭克?羅森布拉特是科班出身的心理學(xué)家,在康奈爾大學(xué)先后獲得心理學(xué)學(xué)士與博士學(xué)位,之后成為布法羅市康奈爾航空實(shí)驗(yàn)室的研究心理學(xué)家。他的博士論文聚焦行為測(cè)試的統(tǒng)計(jì)分析,但在 1956 年的心理學(xué)論文中包含兩項(xiàng)不尋常的內(nèi)容:用數(shù)字計(jì)算機(jī)計(jì)算相關(guān)統(tǒng)計(jì)量的代碼,以及他為同事設(shè)計(jì)的用于自動(dòng)分析行為數(shù)據(jù)的電路圖紙。盡管他最初的興趣是理解人類心智,羅森布拉特卻對(duì)打造更優(yōu)秀的計(jì)算設(shè)備產(chǎn)生了濃厚興趣。

在康奈爾航空實(shí)驗(yàn)室,他得以同時(shí)追求這兩大興趣,并啟動(dòng)了一項(xiàng)由美國(guó)海軍資助的宏大項(xiàng)目。該項(xiàng)目名為PARA 計(jì)劃,全稱是 “感知與識(shí)別自動(dòng)機(jī)計(jì)劃”。他在項(xiàng)目首份報(bào)告中寫(xiě)道:“文中所述理念,源于筆者在生理心理學(xué)領(lǐng)域的獨(dú)立研究,旨在構(gòu)建一種可用于分析的大腦模擬模型。”

羅森布拉特想要打造一顆人工大腦。

具體而言,他想構(gòu)建人工視覺(jué)系統(tǒng) —— 大腦中處理經(jīng)由眼睛輸入信息的部分。他規(guī)劃了一臺(tái)配備人工視網(wǎng)膜的機(jī)器,視網(wǎng)膜由一組感知單元組成,這些單元會(huì)對(duì)圖像對(duì)應(yīng)區(qū)域的光線做出響應(yīng)并激活。每個(gè)感知單元以不同方式連接至一組關(guān)聯(lián)單元,關(guān)聯(lián)單元匯總所有輸入信號(hào),若信號(hào)總和超過(guò)某一閾值便會(huì)激活。關(guān)聯(lián)單元再依次連接至響應(yīng)單元,響應(yīng)單元執(zhí)行相同的匯總與閾值判斷操作。這些響應(yīng)單元會(huì)對(duì)呈現(xiàn)在視網(wǎng)膜上的圖像進(jìn)行分類。例如,某個(gè)單元可以判斷圖形是正方形還是三角形,或是出現(xiàn)在左側(cè)還是右側(cè)。

圖 1簡(jiǎn)易感知機(jī),僅含兩個(gè)關(guān)聯(lián)單元與一個(gè)響應(yīng)單元。感知單元未顯示,負(fù)責(zé)為關(guān)聯(lián)單元提供輸入。


至關(guān)重要的是,關(guān)聯(lián)單元與響應(yīng)單元之間的連接允許擁有不同強(qiáng)度 —— 有些連接較弱,有些較強(qiáng)。這些連接的強(qiáng)度(即權(quán)重weight)為實(shí)數(shù),用于刻畫(huà)輸入與響應(yīng)之間的不同關(guān)系:檢測(cè)三角形可能需要與判斷位置不同的權(quán)重,而這些權(quán)重需要通過(guò)學(xué)習(xí)獲得。

簡(jiǎn)易感知機(jī)的工作流程如圖 1 所示。信息從視網(wǎng)膜流向兩個(gè)關(guān)聯(lián)單元,再連接至單個(gè)響應(yīng)單元(本例中用于將圖像分類為正方形或三角形)。每個(gè)關(guān)聯(lián)單元累加來(lái)自視網(wǎng)膜的信號(hào),若總和高于閾值則輸出激活值1,否則為 0。該激活值(activation)沿連接傳遞至響應(yīng)單元,并與對(duì)應(yīng)權(quán)重相乘。響應(yīng)單元累加所有關(guān)聯(lián)單元的激活值權(quán)重的乘積。若響應(yīng)單元的輸入大于 0,則輸出 1,表示識(shí)別為正方形;否則輸出 -1,表示識(shí)別為三角形。

我們可以用一點(diǎn)數(shù)學(xué)把這一切寫(xiě)得更清晰。首先,用激活值?表示第一個(gè)關(guān)聯(lián)單元的激活值,激活值?表示第二個(gè)關(guān)聯(lián)單元的激活值。從第一個(gè)關(guān)聯(lián)單元到響應(yīng)單元的連接權(quán)重記為權(quán)重??,第二個(gè)關(guān)聯(lián)單元到響應(yīng)單元的連接權(quán)重記為權(quán)重??。

則響應(yīng)單元 r 的輸入可寫(xiě)為:

輸入?=激活值?×權(quán)重??+激活值?×權(quán)重??

將結(jié)果與 0 比較,即可確定響應(yīng)單元的激活值為 1 還是 - 1。

例如,若感知機(jī)接收到的輸入使兩個(gè)關(guān)聯(lián)單元的激活值分別為 1 和 0,對(duì)應(yīng)權(quán)重為 0.2 和 - 0.3,則響應(yīng)單元的輸入為:

1×0.2+0×(?0.3)=0.2

由于該數(shù)值大于 0,響應(yīng)單元的激活值為 1—— 感知機(jī)判斷當(dāng)前存在正方形。

即便如此簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò),也是邁向空間計(jì)算的一步:神經(jīng)網(wǎng)絡(luò)可被視為將一個(gè)空間變換到另一個(gè)空間的方式。

在我們的簡(jiǎn)易感知機(jī)中,可以將關(guān)聯(lián)單元視為定義一個(gè)空間。我們可以定義與激活值?激活值?對(duì)應(yīng)的坐標(biāo)軸,并將關(guān)聯(lián)單元的激活值表示為該空間中的一個(gè)點(diǎn)。每一個(gè)投射到感知機(jī)視網(wǎng)膜上的模式,都會(huì)轉(zhuǎn)化為這個(gè)空間里的一個(gè)點(diǎn)。我們例子中激活值為 1 和 0 的模式,對(duì)應(yīng)該空間中的點(diǎn) (1, 0)。

感知機(jī)的響應(yīng)則定義了另一個(gè)空間 —— 本例中是一維空間。響應(yīng)單元的激活值 1 或 -1,決定了我們?cè)谠摼S度上的位置。在我們的例子中,點(diǎn) (1, 0) 被映射為響應(yīng)值 1。

感知機(jī)整體代表了這兩個(gè)空間之間的映射:關(guān)聯(lián)單元空間中的每個(gè)點(diǎn),都會(huì)被映射到響應(yīng)單元空間中的某個(gè)點(diǎn),產(chǎn)生正向響應(yīng)或不產(chǎn)生正向響應(yīng)。神經(jīng)網(wǎng)絡(luò)的權(quán)重決定了該映射的具體形式 —— 即關(guān)聯(lián)單元空間中哪些點(diǎn)最終會(huì)產(chǎn)生正向響應(yīng)。例如,若例子中使用的權(quán)重不是 0.2 和 -0.3,而是 -0.1 和 0.4,則響應(yīng)單元的輸入為:

1×(?0.1)+0×0.4=?0.1

點(diǎn) (1, 0) 將被映射為 -1。

羅森布拉特對(duì)感知機(jī)的最初描述中,已包含一組可解決簡(jiǎn)單分類問(wèn)題的權(quán)重。但他的真正目標(biāo),是讓感知機(jī)自主學(xué)習(xí)這些權(quán)重。為了理解這如何實(shí)現(xiàn),他借鑒了當(dāng)時(shí)神經(jīng)科學(xué)的前沿思想。


放電與連接

1950年代,神經(jīng)科學(xué)家剛剛開(kāi)始探索大腦如何實(shí)現(xiàn)學(xué)習(xí)。羅森布拉特并未得到他所期望的明確答案,頂尖專家們大多只提出了學(xué)習(xí)如何運(yùn)作的假說(shuō)。其中最具顛覆性的假說(shuō),來(lái)自麥吉爾大學(xué)心理學(xué)家唐納德?赫布(Donald Hebb)。

赫布對(duì)理解人類學(xué)習(xí)抱有濃厚興趣。1904 年,他出生于加拿大新不倫瑞克省圣約翰市,父母均為醫(yī)生(母親是新斯科舍省第三位獲得醫(yī)學(xué)學(xué)位的女性)。他 8 歲前接受家庭教育,入學(xué)后第一年從二年級(jí)跳級(jí)到四年級(jí),第二年升至六年級(jí)??上н@種加速學(xué)習(xí)適得其反,導(dǎo)致他難以維持穩(wěn)固的社交關(guān)系。他回憶道:“12 歲進(jìn)入九年級(jí)時(shí),我是班里年紀(jì)最小的,當(dāng)時(shí)我更在乎同伴的尊重,而非解代數(shù)題、廣泛課外閱讀,或是拼寫(xiě)比全校師生都好。” 因無(wú)聊與缺乏動(dòng)力,他十一年級(jí)掛科,對(duì)學(xué)校教育的價(jià)值留下了糟糕印象。

因此,順利畢業(yè)并獲得達(dá)爾豪西大學(xué)學(xué)士學(xué)位后,他竟成為家鄉(xiāng)村莊小學(xué)校長(zhǎng),這或許令人意外??上温毑⒉豁樌.?dāng)年晚些時(shí)候,省督學(xué)評(píng)估學(xué)校時(shí),對(duì)這位新任校長(zhǎng)說(shuō):“沒(méi)關(guān)系,赫布,我第一年當(dāng)校長(zhǎng)也一塌糊涂?!?/p>

赫布離開(kāi)學(xué)校,先后在麥田當(dāng)卡車司機(jī)、在魁北克做體力勞動(dòng)者,并開(kāi)始閱讀弗洛伊德著作。這段經(jīng)歷讓他走上成為心理學(xué)家的道路:他在蒙特利爾一所小學(xué)教書(shū)的同時(shí),在麥吉爾大學(xué)攻讀研究生學(xué)位。

接下來(lái)的幾年,赫布有機(jī)會(huì)從實(shí)踐與理論兩方面理解學(xué)習(xí)。在小學(xué),他用 “允許做作業(yè)” 作為良好行為的獎(jiǎng)勵(lì),用 “趕去戶外玩?!?懲罰調(diào)皮學(xué)生。在麥吉爾大學(xué),他親身體驗(yàn)巴甫洛夫條件反射實(shí)驗(yàn),訓(xùn)練狗對(duì)特定線索產(chǎn)生唾液分泌反應(yīng)。最終,他在碩士論文中提出理論,闡釋心智如何在大腦中表征線索與結(jié)果之間的關(guān)聯(lián):

興奮的神經(jīng)元傾向于減少向不活躍神經(jīng)元的放電,增加向任何活躍神經(jīng)元的放電,從而形成通向該神經(jīng)元的通路,無(wú)論兩個(gè)神經(jīng)元之間是否存在中間神經(jīng)元。經(jīng)過(guò)重復(fù)激活,這種傾向在神經(jīng)通路形成中占據(jù)主導(dǎo)地位。

這個(gè)簡(jiǎn)單的想法 —— 神經(jīng)元會(huì)與同時(shí)活躍的其他神經(jīng)元形成更強(qiáng)連接 —— 讓17年后的赫布聲名遠(yuǎn)揚(yáng)。

在此期間,赫布前往芝加哥攻讀博士學(xué)位,導(dǎo)師卡爾?拉什利(Karl Lashley)轉(zhuǎn)至哈佛后,他也隨之轉(zhuǎn)學(xué);之后在蒙特利爾神經(jīng)研究所研究人腦損傷對(duì)行為的影響,又赴佛羅里達(dá)研究黑猩猩大腦,最終回到麥吉爾大學(xué)擔(dān)任教授。一路走來(lái),他不斷思考大腦如何表征概念,并得出結(jié)論:一個(gè)概念,就是一組相互反復(fù)激活的皮層神經(jīng)元。但這樣的神經(jīng)元集群,究竟如何形成連接以實(shí)現(xiàn)反復(fù)激活?

1949 年,赫布在《行為的組織》一書(shū)中給出答案,并以更簡(jiǎn)潔的語(yǔ)言重述了他在碩士論文中首次提出的觀點(diǎn):

若細(xì)胞 A 的軸突足夠接近細(xì)胞 B,并反復(fù)或持續(xù)參與激活細(xì)胞 B,那么兩個(gè)細(xì)胞之一或兩者會(huì)發(fā)生生長(zhǎng)或代謝變化,使得細(xì)胞 A 激活細(xì)胞 B 的效率提升。

這就是學(xué)習(xí)理論

神經(jīng)元的軸突是細(xì)胞體通向與其他神經(jīng)元連接的部分。因此,赫布理論的核心是:只要兩個(gè)神經(jīng)元距離足夠近、能夠相互影響,當(dāng)它們同時(shí)激活(放電)時(shí),兩者之間的連接強(qiáng)度就會(huì)增強(qiáng)。神經(jīng)科學(xué)家卡拉?沙茨(Carla Shatz)將其凝練為一句格言:一同放電的神經(jīng)元,綁定在一起(neurons that fire together, wire together)。

盡管聽(tīng)起來(lái)復(fù)雜,這套對(duì)學(xué)習(xí)的解釋卻相當(dāng)直觀。暫時(shí)拋開(kāi)神經(jīng)元,僅從事件之間形成關(guān)聯(lián)的角度思考,就完全說(shuō)得通。我們將陽(yáng)光與溫暖關(guān)聯(lián),是因?yàn)樗鼈兎磸?fù)持續(xù)共存;就像巴甫洛夫條件反射實(shí)驗(yàn)中的狗,聞到喜愛(ài)食物的氣味會(huì)分泌唾液,是因?yàn)闅馕锻ǔEc進(jìn)食同時(shí)出現(xiàn)。赫布將這種聯(lián)想原則,延伸到了單個(gè)神經(jīng)元層面。

赫布理論有兩大重要優(yōu)點(diǎn)。第一,它基本正確 —— 后續(xù)神經(jīng)科學(xué)家深入研究學(xué)習(xí)背后的機(jī)制后發(fā)現(xiàn),大腦中確實(shí)存在與赫布描述高度相似的過(guò)程。第二,對(duì)我們而言可能更重要的是,它可以被轉(zhuǎn)化為清晰的數(shù)學(xué)表達(dá)式。

回到我們的簡(jiǎn)易感知機(jī),赫布理論給出了一條可用于修改權(quán)重的規(guī)則:每個(gè)權(quán)重的增量Δ,等于它所連接的兩個(gè)單元激活值的乘積。若兩個(gè)單元均放電(激活值為 1),權(quán)重就會(huì)增加。若關(guān)聯(lián)單元未放電(激活值為 0),權(quán)重則不變。若關(guān)聯(lián)單元放電但響應(yīng)單元輸出-1,權(quán)重就會(huì)減小。如此一來(lái),與正向響應(yīng)同步激活的關(guān)聯(lián)單元,權(quán)重最終會(huì)更高;與負(fù)向響應(yīng)同步激活的關(guān)聯(lián)單元,權(quán)重最終會(huì)更低(或?yàn)樨?fù)值)。

我們?cè)儆靡稽c(diǎn)數(shù)學(xué)把它寫(xiě)出來(lái)。用激活值?表示響應(yīng)單元的激活值,則:

Δ權(quán)重??=激活值激活值?

其中激活值?權(quán)重?分別為第 i 個(gè)關(guān)聯(lián)單元的激活值與權(quán)重(i=1 對(duì)應(yīng)第一個(gè)單元,i=2 對(duì)應(yīng)第二個(gè)單元)。

在實(shí)際應(yīng)用中,我們可能希望控制權(quán)重的修改幅度,這可以通過(guò)在公式中加入學(xué)習(xí)率(learning rate)實(shí)現(xiàn)。于是得到:

Δ權(quán)重?? = 學(xué)習(xí)率×激活值激活值?

這就是為紀(jì)念唐納德?赫布而命名的赫布學(xué)習(xí)法則(Hebbian learning rule)

赫布學(xué)習(xí)是捕捉數(shù)據(jù)中相關(guān)性的一種方式。由于兩個(gè)單元激活值均為正時(shí)權(quán)重增加,一正一負(fù)時(shí)權(quán)重減小,權(quán)重會(huì)追蹤這些單元所代表事物的共存程度。在我們的簡(jiǎn)易感知機(jī)中,赫布學(xué)習(xí)會(huì)捕捉關(guān)聯(lián)單元激活與響應(yīng)之間的相關(guān)性。如果我們知道響應(yīng)單元應(yīng)當(dāng)輸出的目標(biāo)值,還可以使用修正版學(xué)習(xí)法則:

Δ權(quán)重??=學(xué)習(xí)率×目標(biāo)值?×激活值?

其中目標(biāo)值?是響應(yīng)單元應(yīng)當(dāng)輸出的目標(biāo)值。這會(huì)讓權(quán)重捕捉關(guān)聯(lián)單元激活與響應(yīng)目標(biāo)值之間的相關(guān)性。

赫布學(xué)習(xí)已被用于多種神經(jīng)網(wǎng)絡(luò)模型,尤其是研究神經(jīng)元集群如何通過(guò)建立適當(dāng)關(guān)聯(lián)來(lái)存儲(chǔ)與提取記憶的模型。但這并未讓羅森布拉特滿意 —— 他讀研期間曾拜訪過(guò)赫布的實(shí)驗(yàn)室。赫布成功描述了一種學(xué)習(xí)方式:巴甫洛夫條件反射,即兩件事物因反復(fù)共存而相互關(guān)聯(lián)。但羅森布拉特感興趣的是另一種學(xué)習(xí) ——從錯(cuò)誤中學(xué)習(xí)。訓(xùn)練感知機(jī)的人能夠判斷它何時(shí)出錯(cuò),而這些錯(cuò)誤對(duì)于找到正確權(quán)重似乎尤為重要。

羅森布拉特需要提出一種全新的學(xué)習(xí)法則。

從錯(cuò)誤中學(xué)習(xí)

羅森布拉特決定探索一個(gè)簡(jiǎn)單想法:僅當(dāng)感知機(jī)出錯(cuò)時(shí),才更新其權(quán)重。也就是說(shuō),僅當(dāng)響應(yīng)單元輸出錯(cuò)誤答案時(shí),關(guān)聯(lián)單元與響應(yīng)單元之間的權(quán)重才會(huì)改變。例如,若響應(yīng)單元用于判斷是否存在正方形或三角形,錯(cuò)誤答案包括:三角形出現(xiàn)時(shí)輸出 1(應(yīng)為 -1),或正方形出現(xiàn)時(shí)輸出 -1(應(yīng)為 1)。當(dāng)錯(cuò)誤發(fā)生時(shí),所有激活的關(guān)聯(lián)單元的權(quán)重會(huì)向正確答案方向調(diào)整:若目標(biāo)應(yīng)為 1 而響應(yīng)單元輸出 -1,則增加激活關(guān)聯(lián)單元的權(quán)重,有助于將響應(yīng)單元推向正確方向;同理,若目標(biāo)應(yīng)為 -1 而響應(yīng)單元輸出 1,則減小權(quán)重。

這條學(xué)習(xí)法則相當(dāng)直觀:發(fā)現(xiàn)自己錯(cuò)了,是學(xué)習(xí)的強(qiáng)大動(dòng)力。如果你看到某物以為是貓,結(jié)果發(fā)現(xiàn)是狗,你可能會(huì)調(diào)整賦予貓狗不同特征的重要性,以便區(qū)分它們。反之,確認(rèn)是貓,似乎不太會(huì)顯著改變你對(duì)貓的表征。羅森布拉特的學(xué)習(xí)算法 ——感知機(jī)學(xué)習(xí)法則—— 捕捉到了錯(cuò)誤的重要性:錯(cuò)誤讓我們關(guān)注形成響應(yīng)所需的信息。

我們也可以用一些簡(jiǎn)單數(shù)學(xué)寫(xiě)出感知機(jī)學(xué)習(xí)法則,所用術(shù)語(yǔ)與赫布學(xué)習(xí)法則相同:

Δ權(quán)重??= 學(xué)習(xí)率×(目標(biāo)值??激活值?)×激活值?

你可以驗(yàn)證,這條學(xué)習(xí)法則僅在感知機(jī)出錯(cuò)時(shí)才更新權(quán)重:若響應(yīng)與目標(biāo)一致,則目標(biāo)值? ?激活值?為 0。同時(shí),權(quán)重會(huì)向正確方向修改:目標(biāo)為 1、響應(yīng)為 -1 時(shí)權(quán)重增加;目標(biāo)為 -1、響應(yīng)為 1 時(shí)權(quán)重減小。

對(duì)比感知機(jī)學(xué)習(xí)法則與赫布學(xué)習(xí)法則的公式,會(huì)發(fā)現(xiàn)一個(gè)有趣的事實(shí)。回想一下,赫布學(xué)習(xí)法則基于單元激活的相關(guān)性修改權(quán)重。感知機(jī)學(xué)習(xí)法則同樣可以被視為基于相關(guān)性修改權(quán)重 —— 即響應(yīng)誤差(目標(biāo)值? ?激活值?)與關(guān)聯(lián)單元激活(激活值?)之間的相關(guān)性。

這是羅森布拉特的核心創(chuàng)新:學(xué)習(xí)并非由共存驅(qū)動(dòng),而是由單元對(duì)感知機(jī)犯錯(cuò)所承擔(dān)的責(zé)任程度驅(qū)動(dòng)。這樣一來(lái),學(xué)習(xí)可以更高效,專注于對(duì)減少錯(cuò)誤最重要的修改。

憑借這條強(qiáng)大的學(xué)習(xí)法則,羅森布拉特證明了一個(gè)驚人的定理:感知機(jī)能夠?qū)W會(huì)它所能表征的任何輸入 — 輸出關(guān)系。也就是說(shuō),如果存在一組權(quán)重能讓感知機(jī)對(duì)一組樣本輸出正確響應(yīng),那么對(duì)這些樣本足夠多次地應(yīng)用該學(xué)習(xí)法則,最終一定能得到產(chǎn)生正確響應(yīng)的權(quán)重。

正是感知機(jī)的這一特性,讓羅森布拉特對(duì)自己創(chuàng)造的 “人工大腦” 充滿信心。他堅(jiān)信,只要合理配置傳感器到關(guān)聯(lián)單元的連接,他的學(xué)習(xí)法則就能學(xué)會(huì)為任何有意義的任務(wù)生成恰當(dāng)響應(yīng)。1958年《紐約時(shí)報(bào)》報(bào)道的演示,基于該學(xué)習(xí)法則的計(jì)算機(jī)模擬;此后,羅森布拉特與同事打造了實(shí)現(xiàn)感知機(jī)學(xué)習(xí)算法的物理設(shè)備 ——Mark I 感知機(jī)。它的人工視網(wǎng)膜由 20×20 個(gè)光電池組成(可處理最高 400 像素的圖像),配有插線板用于配置傳感器與關(guān)聯(lián)單元之間的連接,還包含 512 個(gè)步進(jìn)電機(jī)驅(qū)動(dòng)電位器,用于調(diào)整關(guān)聯(lián)單元與最多 8 個(gè)響應(yīng)單元之間電路的電阻。

即便沒(méi)看到《紐約時(shí)報(bào)》關(guān)于羅森布拉特演示的報(bào)道,《紐約客》的讀者也在同年讀到了對(duì)他的專訪。專訪刊登在 “城中閑話” 欄目,標(biāo)題俏皮地定為《對(duì)手》,理由是 “在我們看來(lái),它是有史以來(lái)第一個(gè)能與人類大腦一較高下的嚴(yán)肅發(fā)明,我們的大腦也被它宣稱的能力徹底震撼”。記者問(wèn)羅森布拉特,感知機(jī)是否存在局限 —— 有什么是它做不到的?羅森布拉特?cái)傞_(kāi)雙手,直白回答:“愛(ài)、希望、絕望。簡(jiǎn)而言之,人類本性。我們自己都不懂人類性欲,憑什么指望機(jī)器能懂?” 然而,羅森布拉特的對(duì)手們認(rèn)為,感知機(jī)面臨著更根本的局限……

關(guān)于感知機(jī)的局限,以及這些局限最終如何被突破,詳見(jiàn)新書(shū)《思維法則:探尋心智的數(shù)學(xué)理論》The Laws of Thought: The Quest for a Mathematical Theory of the Mind。本文為其節(jié)選,?2026 湯姆?格里菲斯,保留所有權(quán)利。

文章 DOI:10.1090/noti3333

原文參考文獻(xiàn)

[1] Tom Griffiths. The Laws of Thought: The Quest for a Mathematical Theory of the Mind. Henry Holt and Company, 2026.

致謝

圖 1 由湯姆?格里菲斯提供

參考資料

https://www.ams.org/journals/notices/202605/noti3333/noti3333.html

小樂(lè)數(shù)學(xué)科普近期文章

·開(kāi)放 · 友好 · 多元 · 普適 · 守拙·


讓數(shù)學(xué)

更加

易學(xué)易練

易教易研

易賞易玩

易見(jiàn)易得

易傳易及

歡迎評(píng)論、點(diǎn)贊、在看、在聽(tīng)

收藏、分享、轉(zhuǎn)載、投稿

查看原始文章出處

點(diǎn)擊底部捐一筆

助力騰訊公益

點(diǎn)擊zzllrr小樂(lè)

公眾號(hào)主頁(yè)

右上角

置頂★加星

數(shù)學(xué)科普不迷路!

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
中國(guó)制裁有沒(méi)有用?看看今天的美國(guó)洛馬就知道了,什么叫釜底抽薪

中國(guó)制裁有沒(méi)有用?看看今天的美國(guó)洛馬就知道了,什么叫釜底抽薪

觸摸史跡
2026-04-24 04:58:08
比馬杜埃凱更爛!阿森納真正該清洗的是他:“半吊子卡索拉”

比馬杜埃凱更爛!阿森納真正該清洗的是他:“半吊子卡索拉”

瀾歸序
2026-04-24 02:47:48
楊鈺瑩28年后坦白:若當(dāng)年接受毛寧,現(xiàn)在已是母親

楊鈺瑩28年后坦白:若當(dāng)年接受毛寧,現(xiàn)在已是母親

解鎖世界風(fēng)云
2026-04-23 13:48:39
“性侵工傷認(rèn)定”當(dāng)事人崔麗麗訴前司勞動(dòng)爭(zhēng)議案開(kāi)庭:崔麗麗身著職業(yè)裝、佩戴女兒送的項(xiàng)鏈出庭,提到網(wǎng)友鼓勵(lì)落淚

“性侵工傷認(rèn)定”當(dāng)事人崔麗麗訴前司勞動(dòng)爭(zhēng)議案開(kāi)庭:崔麗麗身著職業(yè)裝、佩戴女兒送的項(xiàng)鏈出庭,提到網(wǎng)友鼓勵(lì)落淚

極目新聞
2026-04-23 15:05:28
臺(tái)灣女歌手40歲離世!自己定墓園和壽衣,3200萬(wàn)遺產(chǎn)全給姐姐

臺(tái)灣女歌手40歲離世!自己定墓園和壽衣,3200萬(wàn)遺產(chǎn)全給姐姐

她時(shí)尚丫
2026-04-23 21:59:18
WTI原油期貨結(jié)算價(jià)收漲3.11%

WTI原油期貨結(jié)算價(jià)收漲3.11%

每日經(jīng)濟(jì)新聞
2026-04-24 05:48:04
A股大消息!上交所、深交所、北交所,集體發(fā)布

A股大消息!上交所、深交所、北交所,集體發(fā)布

中國(guó)基金報(bào)
2026-04-23 19:55:13
張?zhí)鞇?ài)太豐滿了!穿掛脖裙都兜不住好身材,性感又撩人!

張?zhí)鞇?ài)太豐滿了!穿掛脖裙都兜不住好身材,性感又撩人!

小椰的奶奶
2026-04-23 18:12:08
澤連斯基喊話:美國(guó)已將重心轉(zhuǎn)向中東,深陷伊朗問(wèn)題,我認(rèn)為重要的是,不要忘記烏克蘭

澤連斯基喊話:美國(guó)已將重心轉(zhuǎn)向中東,深陷伊朗問(wèn)題,我認(rèn)為重要的是,不要忘記烏克蘭

極目新聞
2026-04-23 13:14:04
有趣的醫(yī)學(xué)案例:直腸射精!

有趣的醫(yī)學(xué)案例:直腸射精!

黯泉
2026-04-07 21:58:25
73歲老人“試住”老年公寓當(dāng)天猝死,家屬索賠54萬(wàn),法院:未簽訂書(shū)面合同,公寓適當(dāng)賠償4.5萬(wàn)元

73歲老人“試住”老年公寓當(dāng)天猝死,家屬索賠54萬(wàn),法院:未簽訂書(shū)面合同,公寓適當(dāng)賠償4.5萬(wàn)元

大風(fēng)新聞
2026-04-23 12:16:07
世體:亞馬爾傷缺約一個(gè)半月,若保守估算只能趕上出戰(zhàn)烏拉圭

世體:亞馬爾傷缺約一個(gè)半月,若保守估算只能趕上出戰(zhàn)烏拉圭

懂球帝
2026-04-24 01:17:28
“我女兒敢這樣,腿給砸斷”,寶媽曬2個(gè)女兒出門(mén),裝束讓人怒了

“我女兒敢這樣,腿給砸斷”,寶媽曬2個(gè)女兒出門(mén),裝束讓人怒了

番外行
2026-04-15 10:13:21
裁判分析機(jī)構(gòu):VAR選錯(cuò)幀畫(huà)面,費(fèi)蘭-托雷斯進(jìn)球應(yīng)判有效

裁判分析機(jī)構(gòu):VAR選錯(cuò)幀畫(huà)面,費(fèi)蘭-托雷斯進(jìn)球應(yīng)判有效

懂球帝
2026-04-23 10:52:32
徐子淇在富豪老公面前真敢穿,豐滿身材穿薄紗挖洞裙,真豁得出去

徐子淇在富豪老公面前真敢穿,豐滿身材穿薄紗挖洞裙,真豁得出去

蓓小西
2026-04-21 12:27:46
德國(guó)緊隨韓國(guó)之后,也發(fā)布了“中文標(biāo)語(yǔ)”,引起了中國(guó)游客的不滿

德國(guó)緊隨韓國(guó)之后,也發(fā)布了“中文標(biāo)語(yǔ)”,引起了中國(guó)游客的不滿

涼了時(shí)光人
2026-04-23 14:25:36
CBA收官戰(zhàn)央5直播有變!上海沖23連勝,廣東拒3連敗,新大外出場(chǎng)

CBA收官戰(zhàn)央5直播有變!上海沖23連勝,廣東拒3連敗,新大外出場(chǎng)

老吳說(shuō)體育
2026-04-24 06:20:03
一覺(jué)醒來(lái)日本連遭3噩耗,麻生太郎帶頭“造反”,高市或?qū)⑾屡_(tái)

一覺(jué)醒來(lái)日本連遭3噩耗,麻生太郎帶頭“造反”,高市或?qū)⑾屡_(tái)

春日在捕月
2026-04-24 04:30:37
瘦骨嶙峋現(xiàn)身靈堂,二十年不見(jiàn)人影,他卻沒(méi)病也沒(méi)窮

瘦骨嶙峋現(xiàn)身靈堂,二十年不見(jiàn)人影,他卻沒(méi)病也沒(méi)窮

手工制作阿殲
2026-04-23 12:23:38
26歲龐家駿6-10不敵世界第2!世錦賽16強(qiáng)出爐:斯佳輝遇巨大尷尬

26歲龐家駿6-10不敵世界第2!世錦賽16強(qiáng)出爐:斯佳輝遇巨大尷尬

風(fēng)過(guò)鄉(xiāng)
2026-04-24 06:47:18
2026-04-24 07:28:49
小樂(lè)數(shù)學(xué)科普 incentive-icons
小樂(lè)數(shù)學(xué)科普
zzllrr小樂(lè),小樂(lè)數(shù)學(xué)科普,讓前沿?cái)?shù)學(xué)流行起來(lái)~
324文章數(shù) 7關(guān)注度
往期回顧 全部

科技要聞

馬斯克喊出"史上最大產(chǎn)品",但量產(chǎn)難預(yù)測(cè)

頭條要聞

特朗普:不急于結(jié)束與伊朗戰(zhàn)爭(zhēng) 可伊朗沒(méi)時(shí)間了

頭條要聞

特朗普:不急于結(jié)束與伊朗戰(zhàn)爭(zhēng) 可伊朗沒(méi)時(shí)間了

體育要聞

給文班剃頭的馬刺DJ,成為NBA最佳第六人

娛樂(lè)要聞

王大陸因涉黑討債被判 女友也一同獲刑

財(cái)經(jīng)要聞

普華永道賠償10億 恒大股東見(jiàn)到"回頭錢(qián)"

汽車要聞

預(yù)售30.29萬(wàn)起 嵐圖泰山X8配896線激光雷達(dá)

態(tài)度原創(chuàng)

本地
手機(jī)
藝術(shù)
時(shí)尚
公開(kāi)課

本地新聞

SAGA GIRLS 2026女團(tuán)選秀

手機(jī)要聞

vivo X500 Pro Max被曝光:2nm工藝+5GHz,2K直屏九月發(fā)!

藝術(shù)要聞

罕見(jiàn)曝光!毛澤東 36 幅經(jīng)典對(duì)聯(lián),每一幅都是絕品!

李昀銳:林深見(jiàn)木

公開(kāi)課

李玫瑾:為什么性格比能力更重要?

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版