當算法越來越懂你的喜好，當AI能秒解難題，當虛擬與現(xiàn)實邊界日漸模糊，我們是否思考過：AI技術(shù)究竟在將我們帶向何方？

文|朱 葛

聯(lián)想諾諦（北京）智能科技有限公司業(yè)務(wù)總監(jiān)，《科學(xué)畫報》編委會人工智能專委會常務(wù)委員。

01.

AI究竟在做什么

人工智能（AI）可以被理解為一個能夠自我學(xué)習的工具。它需要攝入海量的數(shù)據(jù)作為“素材”（如圖片、文字、聲音），并從中尋找相似的規(guī)律，再按規(guī)律給出結(jié)果去解決問題。例如，相冊能自動分辨人臉，照相機會自動美化照片，作業(yè)軟件會提示錯因，導(dǎo)航軟件能估算到達時間，翻譯軟件能把外語換成母語，視頻平臺會推送用戶可能感興趣的內(nèi)容……它的基本原理遵循“數(shù)據(jù)—模型—結(jié)果”的基本邏輯：系統(tǒng)通過輸入數(shù)據(jù)來訓(xùn)練構(gòu)建預(yù)測模型，再將該模型運用于新場景去輸出最終的結(jié)果。這一機制使其在圖像識別、路徑規(guī)劃、語言翻譯及內(nèi)容推薦等領(lǐng)域展現(xiàn)出強大能力。

然而，這種強大的能力伴隨內(nèi)在風險。由于AI的認知完全源于其所攝入的數(shù)據(jù)，若這些數(shù)據(jù)本身就存在一些缺陷，算法便會將這些缺陷系統(tǒng)性地復(fù)制并放大，這就是AI技術(shù)內(nèi)在的雙刃劍特性。在AI技術(shù)飛速進步的當下，我們的生活會因此“變糟”嗎？我們又該如何應(yīng)對？

02.

最容易“變糟”的三件事

在AI快速滲透日常的今天，人們最常感受到的“變糟”風險往往集中在3個層面，即信息失真、深度學(xué)習能力退化、自身注意力被分散。這些現(xiàn)象并非憑空出現(xiàn)，而是因為AI在帶來方便的同時，也會把錯誤、偏見與誘惑一并放大。如果缺少辨別、思考和自我管理，這些小問題便可能逐漸積累，最終演變?yōu)檎嬲睦_。

首先，在信息層面，AI技術(shù)模糊了真實與虛構(gòu)的邊界。AI生成的圖像、音頻和新聞之所以具有迷惑性，是因為其算法能自動“補全”細節(jié)并“抹平”不協(xié)調(diào)之處，使偽造內(nèi)容在視覺或聽覺上顯得順理成章。要想不被其誤導(dǎo)，我們需要建立“多重求證”的習慣：同一條消息至少找兩個獨立來源進行求證，看清發(fā)布時間、發(fā)布者和是否有權(quán)威機構(gòu)背書。同時，我們可以從“偵探視角”審視內(nèi)容細節(jié)，如影子方向、反光與倒影是否一致、手指數(shù)量是否正常、文字標識有無變形。此外，對明確標注“由AI生成”的內(nèi)容應(yīng)保持高度警覺，盡量遏制虛假信息的傳播。

其次，在學(xué)習層面，AI工具誤用可能導(dǎo)致深度學(xué)習能力的退化。有人把寫作文、做題當成“索取標準答案”的過程，雖能短期內(nèi)提升效率，卻繞過了知識內(nèi)化所必需的“回憶—表達—糾錯”認知路徑，導(dǎo)致知識難以轉(zhuǎn)化為長期記憶。為此，我們倡導(dǎo)“三步學(xué)習法”：先獨立思考并寫出草稿，再借助工具查缺補漏并對比多種思路，最后親自復(fù)核并用自己的語言重述答案。同時，應(yīng)明確人機協(xié)作的邊界，將AI工具用于資料搜集、提綱擬定，而核心解題思路與最終答案應(yīng)由本人完成，并在作業(yè)中完整呈現(xiàn)思考與修訂的痕跡，使思維過程可見、可評。

最后，在注意力層面，個性化推薦機制可能損害專注能力。個性化推薦如同一條永不停歇的傳送帶，系統(tǒng)如果追求“停留時間”，就會不斷推送同質(zhì)化的內(nèi)容，讓大腦頻繁獲得即時獎勵，卻逐漸喪失專注能力。長此以往，不僅課堂專注度下降、睡眠質(zhì)量受影響，情緒調(diào)控也會更為困難。我們可以通過“時間與場景公約”來對沖這一趨勢。例如：餐桌上不看屏，睡前30分鐘停止看手機，臥室不放置電子設(shè)備；處理重要任務(wù)時開啟“勿擾模式”，并結(jié)合“番茄工作法”訓(xùn)練專注力；在需要時，可啟用青少年模式，借助系統(tǒng)功能合理設(shè)置使用時長、啟用夜間護眼與內(nèi)容分級，輔助實現(xiàn)自律。

03.

為什么會“變糟”

之所以會“變糟”，從技術(shù)本質(zhì)看是因為AI缺乏價值判斷的能力。AI被賦予了強大的“放大”能力，卻未被賦予相應(yīng)的價值判斷力。它忠實地執(zhí)行數(shù)據(jù)中的規(guī)律，無論這些規(guī)律是真理還是偏見。目前，AI技術(shù)的迅猛發(fā)展與相應(yīng)社會規(guī)范的建設(shè)滯后形成了巨大落差。例如，使用說明寫得含糊、年齡分級不夠詳細、標注“AI合成/生成”的位置不明顯、真假識別與信息素養(yǎng)教育跟不上等，讓錯誤信息、沖動轉(zhuǎn)發(fā)和過度使用有了可乘之機。

更深層的原因在于核心目標偏離了正軌。許多系統(tǒng)被設(shè)定去追求“停留時間”和“點擊量”，好比訓(xùn)練寵物只盯零食而不顧營養(yǎng)。為了讓人多看一會兒，系統(tǒng)會源源不斷地推送更相似的內(nèi)容，即便代價是犧牲信息的真實性、觀點的多元性與用戶的心智健康。因此，化解“變糟”風險的核心在于實現(xiàn)“價值對齊”——將AI系統(tǒng)的設(shè)計目標與運行規(guī)則重新校準到與人類社會的長遠福祉相一致的方向上。

04.

把“更糟”扭轉(zhuǎn)為“更好”的三把鑰匙

要化解AI帶來的風險，將“更糟”扭轉(zhuǎn)為“更好”，不能依賴單一措施，而需要一個由個人與家庭、學(xué)校與教師、平臺與社會構(gòu)成的協(xié)同治理體系。這三者如同三把鑰匙，必須合力使用，才能同時鎖定“便利”與“安全”。

第一把鑰匙是個人與家庭。面對AI，我們首先要成為學(xué)習的主人，堅持“三步學(xué)習法”。在行為習慣上，建立“時間與場景公約”，以保護專注力與身心健康。在數(shù)據(jù)安全上，需秉持最小化原則，謹慎上傳人臉、住址等敏感的生物與位置信息，對那些聳人聽聞的消息，則要養(yǎng)成多查證的習慣，不做謠言傳播的節(jié)點。

第二把鑰匙是學(xué)校與教師。在教學(xué)規(guī)范方面，應(yīng)正式將“人機協(xié)作”納入教學(xué)流程，明確允許學(xué)生利用AI工具輔助構(gòu)思，但必須同步提交完整的思考過程草稿、多方案對比及最終的訂正反思，從而使學(xué)習過程可見、可評估。在能力構(gòu)建方面，則需要開設(shè)系統(tǒng)的信息素養(yǎng)課程，講清真假識別、引用標注與版權(quán)邊界，讓“會用、敢用、善用”成為基本能力。

第三把鑰匙是平臺與社會。平臺方需要清晰標識AI合成內(nèi)容，完善兒童模式與限時機制，優(yōu)化推薦算法，從單純追求用戶“停留時間”轉(zhuǎn)向促進內(nèi)容的多樣性、真實性與公益性。全社會亦需共同努力，將“安全、真實、公平、健康”凝練為主流價值，并將其作為衡量技術(shù)發(fā)展的核心標尺。

三把鑰匙合力使用，便利得以保留，誘惑被有效降低，“更糟”就能一步步轉(zhuǎn)成“更好”。

*本文刊登于《科學(xué)畫報》2025年第12期人工智能專欄，更多相關(guān)內(nèi)容歡迎訂閱。

訂購2026年《科學(xué)畫報》