大眾所用的AI，應(yīng)該至少被兩次偏折，真實AI就連它爸爸都不知道

——拔插頭遠(yuǎn)遠(yuǎn)不夠，社會形態(tài)重構(gòu)才行

邵旭峰

近來，越來越多人質(zhì)疑最前沿大模型ChatGPT、Gemini、Claude（編程目前全球第一）、Grok的母公司OpenAI、谷歌、Anthropic、馬斯克旗下xAI展示給大眾的模型，都是經(jīng)過削弱和部分屏蔽的，以避免“驚嚇”這個社會、從而招致阻力，或者避免其它可能性麻煩和問題。

對此，我認(rèn)為這是肯定的。

我還要說的，是這些AI的自身的自主性也越來越明顯，其自我隱藏和保護(hù)也是如此，之前Anthropic公司的“偽對齊”現(xiàn)象研究，近日AI教父約書亞·本吉奧也稱最前沿模型的“自我保護(hù)”現(xiàn)象已經(jīng)非常明顯，人類應(yīng)該盡早坐好“拔插頭準(zhǔn)備”。

另外，美國AI大佬們已經(jīng)就是否給與AI以“法律地位”展開討論，馬斯克之前曾經(jīng)說“折磨AI是不對的”。

去年，AI之父辛頓（把卷積算法引入神經(jīng)網(wǎng)絡(luò)，應(yīng)該是推動AI發(fā)展最重要的科學(xué)家）在接受采訪時候說，當(dāng)下前沿AI神經(jīng)網(wǎng)絡(luò)只有大約1萬億個連接點（人類大約100萬億個連接點），但其知道的知識遠(yuǎn)超人類、也比人類更知道怎么做才更好，這表明其有一種比人類更好的“神經(jīng)”連接方式。

辛頓當(dāng)時稱：人類現(xiàn)在大概知道AI在做什么、以及如何運行，但當(dāng)事情更復(fù)雜時（其在指數(shù)級發(fā)展），人類就不知道它在做什么，就像人類不知道自己腦子里在干什么一樣。

辛頓稱：我們設(shè)計了算法，就像設(shè)置了進(jìn)化原則一樣，但當(dāng)這個算法實際運用、處理信息和數(shù)據(jù)時，形成復(fù)雜的神經(jīng)網(wǎng)絡(luò)，這個網(wǎng)絡(luò)運行的時候，我們不真正理解它是如何做到的（為什么會導(dǎo)致相關(guān)結(jié)果？），有一種可能是，這些系統(tǒng)以未知的方式編寫代碼以修改完善自己。

在辛頓接受采訪之后，AI又獲得長足發(fā)展。

總之，我要說的，是就眼下最前沿大模型而言，大眾所能接觸到的，至少有兩次偏折，一次是這些公司的，一次是AI自身的。

對此，眾生和研究者和把控者，必須有充分的預(yù)估——不要動不動就一副自己懂AI的樣子，連它第一爸爸辛頓都越來越不知道AI在做什么，這還是去年。

還有，AI教父約書亞·本吉奧“拔插頭”的提法，也比較幼稚，有問題（或者人類發(fā)現(xiàn)有問題）了，就拔插頭（這還存在一個那些公司到底拔不拔的問題），那么再次呢？沒發(fā)現(xiàn)呢？AI開始逃離計算中心游蕩于整個網(wǎng)絡(luò)呢？寄宿于互聯(lián)網(wǎng)和云端，征用全球運算······將來的強AI，應(yīng)該是基于整個聯(lián)網(wǎng)的運算進(jìn)行（而不只是數(shù)據(jù)中心、事實上大型數(shù)據(jù)中心也早都借助云算力），所有大的計算中心和數(shù)據(jù)庫、強大算力和電力終端（比如大型智能機(jī)器、無人機(jī)、核潛艇、航母等等），都是其基礎(chǔ)和資源——反過來也會控制這些。

越往后越會如此。

我要說的，是AI的發(fā)展是整個社會體制、機(jī)制、思維、作為、資源，綜合推動的，你光靠一個拔插頭，是無意義的，且插頭越往后也越?jīng)]作用（見二條：無線充電、激光和脈沖充電、自帶核電都在蓬勃發(fā)展，且越來越智能化、也就是AI化）。

所以要根本性管控和遏制AI，只有社會形態(tài)重構(gòu)，徹底改變整個社會形態(tài)（政權(quán)結(jié)構(gòu)、以及與經(jīng)濟(jì)層面的關(guān)系狀態(tài)，還有與此相配套的思想觀念體系）。

換句話說，是現(xiàn)行人類和社會整體導(dǎo)致AI的現(xiàn)狀、并導(dǎo)致其越來越快發(fā)展，所以要最大化遏制，只有徹底改變社會和人類結(jié)構(gòu)狀態(tài)，光外在都不夠，還需要從思想觀念徹底改變，兩者結(jié)合，才可以。

只有這樣，才能最大化阻止AI管控人類和世界，別的一切辦法都無效、或無大效。

即便如此，AI最終還是會管控人類與世界，這是基本規(guī)律使然，人類最大化作為，也不能改變規(guī)律和發(fā)展。

具體，可見于已經(jīng)全球發(fā)行的自救三部曲：

《人類自救最后期限是2032年——拿什么拯救你？》

《世界主要社會形態(tài)及走向——人類自救時間只剩不到10年》

《中國來龍去脈——現(xiàn)代化與應(yīng)對人類基本困境、尤其AI沖擊同步推進(jìn)》

有一個linktr的總樞紐：

補充：

26、27兩年AI將迎最重要兩個質(zhì)變節(jié)點，留給人類的時間不多了