對于所謂的“智駕”，我們應(yīng)該感到害怕。不是害怕機(jī)器太智能，而是害怕機(jī)器做出一些它們沒有能力做出的決策。

時針退回到2021年7月3日——馬斯克在推特上“懺悔”，他低估了開發(fā)完全自動駕駛汽車的難度，萬萬沒想到想要實(shí)現(xiàn)通用自動駕駛?cè)绱似D難。馬斯克感嘆道：

Nothing has more degrees of freedom than reality.

回到2025年的今天，近期智能駕駛相關(guān)交通事故頻發(fā)，愈發(fā)暴露了當(dāng)前技術(shù)在識別、響應(yīng)及人機(jī)協(xié)作上的局限性，以及大眾對自動駕駛的認(rèn)知缺失。

車評人陳X駕駛勞斯萊斯閃靈時，因開啟輔助駕駛系統(tǒng)并對其能力邊界認(rèn)知不足，在復(fù)雜路口引發(fā)事故……

小米SU7致命事故：一輛開啟導(dǎo)航輔助駕駛（NOA） 的小米SU7，在高速上對施工路障識別較晚，碰撞前約2秒才發(fā)出警報……

理想L9誤識別：一輛理想L9在高速行駛中，將廣告牌上的車輛圖片誤判為真車，導(dǎo)致車輛自動緊急剎車，造成后車追尾……

此外，特斯拉的“全自動駕駛”系統(tǒng)也因涉及多起闖紅燈等違規(guī)行為，正在美國接受大規(guī)模調(diào)查。

湛廬君翻到了馬斯克在10年前曾發(fā)過的一條微博：

However,when self-driving cars become safer than human-driven cars,the public may outlaw the latter.Hopefully not.

彼時，馬斯克還在擔(dān)心人類駕駛員與AI駕駛員相處的公平性，然而令人“欣慰”的是，今天的自動駕駛?cè)匀恍枰祟愸{駛員的高度參與。

如果有某家車企宣稱制造出了完全自動駕駛的汽車，它要么就是在布施一場騙局，要么就是將測試駕駛環(huán)境與真實(shí)的復(fù)雜駕駛環(huán)境混為一談。

就算是科學(xué)家、技術(shù)專家，都常常陷入虛幻進(jìn)步坑：

誤以為AI解決了簡單問題，就相當(dāng)于在難題上取得了進(jìn)步；誤以為找到了在某些時候發(fā)揮作用的AI方案，只要再多一些數(shù)據(jù)，此方案就能在所有時刻發(fā)揮作用。事實(shí)并不見得如此。

點(diǎn)擊書封，馬上入手好書

6.5折+包郵，截至10月19日24時

我們離真正的自動駕駛還有多遠(yuǎn)？

換句話說，先要脫離“人工”實(shí)現(xiàn)“智能”，還有哪些技術(shù)需要突破？從理想跨到現(xiàn)實(shí)，需要越過哪些鴻溝？一個完全自動駕駛時代，又意味著什么？你真的準(zhǔn)備好將自己的生死大權(quán)“拱手相讓”給機(jī)器嗎？

消費(fèi)者、商家、決策者……我們都是科技變革時代的參與者，什么是真實(shí)的？什么又是新科技發(fā)展中的幻象？

如果我們對AI技術(shù)的認(rèn)知，只是由科幻電影和小說所塑造的話，我們就無從應(yīng)對它即將對我們的生活和工作帶來的真實(shí)影響。

哪怕你僅僅是想要入手一臺人工智能汽車，又或者想要投資一家科技企業(yè)，請記?。褐哺谑聦?shí)的認(rèn)知永遠(yuǎn)是更好的向?qū)?/strong>。

1.

幾年還是幾十年？

我們離真正的自動駕駛還有多遠(yuǎn)

點(diǎn)擊書封，馬上入手好書

6.5折+包郵，截至10月19日24時

自動駕駛汽車還要多久才能普及？這取決于你怎么定義“自動駕駛”。美國國家公路交通安全管理局為車輛定義了6個自動等級：

0級：人類駕駛員執(zhí)行全部的駕駛?cè)蝿?wù)。

1級：車輛能夠偶爾通過控制方向盤或車速來對人類駕駛員提供支持，但不能同時進(jìn)行。

2級：在某些情境下（通常是在高速公路上），車輛可以同時控制方向盤和車速。人類駕駛員必須時刻保持高度注意力，監(jiān)控駕駛環(huán)境，并完成駕駛所需的其他行為，如變換車道、駛離高速公路、遇到紅綠燈時停車、為警車讓行等。

3級：在某些特定情境下車輛可以執(zhí)行所有的駕駛行為，但是人類駕駛員必須隨時保持注意力，并隨時準(zhǔn)備在必要時收回駕駛控制權(quán)。

4級：在特定情境下，車輛能夠完成所有的駕駛行為，人類不需要投入注意力。

5級：車輛可以在任何情境下完成所有駕駛行為。人類只是乘客，并且完全不需要參與駕駛。

來自圣塔菲研究所的梅拉尼·米歇爾教授在《AI3.0》一書中，闡釋了自動駕駛的分級，并指出了那個非常重要的限定條件：在特定的情境下。

她解釋道：我們無法為這個特定情境列出一個詳盡的清單，比如說，對于一輛4級自動駕駛汽車而言，盡管你能想象到許多有可能會對其造成挑戰(zhàn)的情境：惡劣的天氣、城市交通擁堵、在建筑區(qū)域內(nèi)導(dǎo)航穿行，或是在沒有任何車道標(biāo)志的、狹窄的雙向道路上行駛。

在梅拉尼寫作《AI3.0》一書時，路上行駛的大多數(shù)車輛都處于0級和1級之間，它們都有巡航控制系統(tǒng)，但沒有轉(zhuǎn)向或制動控制系統(tǒng)，其中，一些最近生產(chǎn)的帶有自適應(yīng)巡航控制系統(tǒng)的車型，被認(rèn)為達(dá)到了1級。僅有少量幾款車型目前處于2級和3級，例如，裝備了自動駕駛系統(tǒng)的特斯拉汽車，這些車輛的制造商和使用者仍在學(xué)習(xí)哪些情境屬于人類駕駛員接管的“特定情境”。

當(dāng)然，也有一些試驗(yàn)車輛可以在相當(dāng)寬泛的情境下實(shí)現(xiàn)完全自動駕駛，但是它們?nèi)匀恍枰粋€隨時待命、收到通知就能立刻接管車輛的人類“安全駕駛員”。目前為止，已經(jīng)發(fā)生了好幾起自動駕駛汽車引發(fā)的致命事故，其中也包括一些試驗(yàn)用車，這些事故都發(fā)生在應(yīng)由人類駕駛員接管車輛，但卻沒被及時注意到的場景。

圖源：《速度與激情》系列

自動駕駛汽車行業(yè)迫切希望生產(chǎn)和銷售完全自動駕駛汽車，也就是5級自動駕駛汽車（特斯拉造車的終極目標(biāo)與終極難點(diǎn)）。事實(shí)上，完全自動駕駛是我們消費(fèi)者一直期盼的，也是自動駕駛汽車的相關(guān)各方所努力的方向。

對于自動駕駛汽車的未來，還存在一個尤為棘手的問題：汽車行業(yè)應(yīng)該以實(shí)現(xiàn)部分自主駕駛——汽車在特定情境下執(zhí)行所有駕駛行為，但仍然需要車內(nèi)駕駛員保持注意力并在必要的時候接管為目標(biāo)？還是應(yīng)該以實(shí)現(xiàn)完全自主駕駛——人類能夠完全信任車輛的駕駛并且完全無需花費(fèi)注意力作為唯一目標(biāo)？

在梅拉尼看來，實(shí)現(xiàn)足夠可靠的、在幾乎所有情境下都能自主行駛的、完全自動駕駛汽車的技術(shù)還不存在，我們也很難預(yù)測這些難題什么時候才能被解決，專家們的預(yù)測為從幾年到幾十年不等。

2.

The AI Chasm

理想與現(xiàn)實(shí)的鴻溝

點(diǎn)擊書封，馬上入手好書

6.5折+包郵，截至10月19日24時

從業(yè)界到普通群眾，狹義AI短期成績上的癡迷，以及大數(shù)據(jù)帶來的唾手可得的“低垂的果實(shí)”，都將人們的注意力從長期的、更富有挑戰(zhàn)性的AI問題上轉(zhuǎn)移開來。這一問題，就是如何為機(jī)器賦予對世界產(chǎn)生更深刻理解的能力。

梅拉尼在《AI3.0》中寫道，“車輛的完全自主需要我在14章中描述過的一些核心直覺知識，包括：直覺物理學(xué)、直覺生物學(xué)，特別是直覺心理學(xué)”。

圖源：《速度與激情》系列

理想與現(xiàn)實(shí)之間，存在著一個被稱為AI鴻溝（The AI Chasm）的大坑，紐約大學(xué)教授蓋瑞·馬庫斯在《如何創(chuàng)造可信的AI》一書中告訴我們，以自動駕駛汽車為例，此大坑可以一分為三，每一個都需要我們坦誠面對。

第一個坑，我們稱之為“輕信坑”。

從表面上看，機(jī)器的行為常常與人類行為有相似之處，于是我們會不假思索地認(rèn)為機(jī)器也擁有和人類一樣的某種思想機(jī)制，而事實(shí)并非如此。

2016年，一位電動汽車車主將自己的性命完全交托給自動巡航系統(tǒng)，據(jù)說，他是一邊看電影，一邊任由系統(tǒng)載著他在路上行駛。在安全駕駛數(shù)萬公里后，車輛遇到了預(yù)期之外的情境：一輛白色貨運(yùn)卡車橫穿高速公路，小汽車直接鉆到貨車下面，車主當(dāng)場斃命。

事故調(diào)查表明，車輛似乎向車主發(fā)出過幾次報警，請他將雙手放在方向盤上，但車主似乎心不在焉。

這場事故背后的道理十分清楚：某些東西在某些時刻貌似擁有智慧，并不意味著它的確如此，更不意味著它能像人類處理所有的情況。

第二個坑，我們稱之為“虛幻進(jìn)步坑”。

誤以為AI解決了簡單問題，就相當(dāng)于在難題上取得了進(jìn)步。一句值得記住的格言是：對于一項(xiàng)復(fù)雜的技術(shù)項(xiàng)目，完成其前90%的工作往往需要花費(fèi)10%的時間，而完成最后10%則需要花費(fèi)90%的時間。

計算機(jī)安全專家已經(jīng)表明：當(dāng)今我們駕駛的許多非自動駕駛汽車正越來越多地受到軟件的控制，因而它們與無線網(wǎng)絡(luò)（包括藍(lán)牙、手機(jī)網(wǎng)絡(luò)和互聯(lián)網(wǎng)）的連接很容易受到黑客的攻擊。由于未來的自動駕駛汽車將完全受軟件控制，它們更有可能受到黑客的惡意攻擊。

圖源：《黑客帝國》

另一個進(jìn)步難題是“人為干擾”。人們難免會想對完全自動駕駛汽車搞一些惡作劇，以探索它們的弱點(diǎn)，例如，在車前面來回走動假裝要過馬路，來阻止汽車前進(jìn)。

第三個坑，就是我們所謂的“魯棒坑”。

正如杜克大學(xué)人類與自動化實(shí)驗(yàn)室主任米西·卡明斯所言，問題不在于某輛自動駕駛汽車能在不出事故的情況下跑多遠(yuǎn)，而在于汽車本身的適應(yīng)能力有多強(qiáng)。

為了讓車輛在所有情況下都能可靠地駕駛，司機(jī)（可能是AI）需要了解共享道路的其他司機(jī)、騎自行車的人、行人和動物的動機(jī)、目標(biāo)，甚至情感。打量一眼負(fù)責(zé)的情境并瞬間判斷誰有可能橫穿馬路、沖過街道去追趕公共汽車、不打信號燈就突然轉(zhuǎn)向，或者在人行橫道上停下來接打電話、整理書包……這是大多數(shù)人類司機(jī)的第二天性，但自動駕駛汽車還不具備這些。

從AI的角度來看，駕駛的大部分挑戰(zhàn)來自駕駛的開放性。好天氣下在高速公路上駕駛的情況，狹義AI還有能力處理，因?yàn)楦咚俟繁旧磉€算是個封閉系統(tǒng)，行人不能穿越，就連車輛的進(jìn)入也有所限制。但是，在熙熙攘攘的城市道路上，任一給定時刻會出現(xiàn)什么狀況，有著無窮無盡的可能性。

蓋瑞·馬庫斯指出，將車輛在理想情況下的行駛表現(xiàn)與車輛在極端情況下的表現(xiàn)混為一談，是將整個行業(yè)置于生死邊緣的重大問題。行業(yè)目前的狀態(tài)，就是拿著數(shù)十億美元在無人駕駛汽車的技術(shù)研發(fā)上打水漂，因?yàn)檫@條老路的魯棒性差得太遠(yuǎn)。

3.

個人公共交通

道德、倫理，終極世界

點(diǎn)擊書封，馬上入手好書

6.5折+包郵，截至10月19日24時

對于更多普通人來說，完全自動駕駛當(dāng)然也會帶來“友善”的改變。人工智能專家杰瑞·卡普蘭就在《人工智能時代》一書中告訴我們，相關(guān)研究表明，實(shí)現(xiàn)自動駕駛后的交通事故將會減少90%。相應(yīng)的還有交警的開支、損壞的車輛、車輛的維修以及交通法庭。

汽車保險將成過去，我們也不需要“考駕駛證”這一環(huán)節(jié)了。戴曼迪斯在《未來呼嘯而來》一書中，也有相同的指認(rèn)。

圖源：《變形金剛4》

自動駕駛技術(shù)將會革命性地改變我們對交通的理解，同時也會對社會造成強(qiáng)烈的影響，然而在杰瑞·卡普蘭看來，對于完全自動駕駛汽車來說，一個更好的描述應(yīng)該是“個人公共交通”。他在書中這樣描述，“一旦這種科技變得隨處可見，也就沒有什么必要非要擁有一輛車了。

當(dāng)你需要車的時候，你只需要召喚一輛，就像今天的出租車一樣，只不過到時車會出現(xiàn)得更可靠、更及時。當(dāng)你下車后，車會靜靜地跑到最近的集結(jié)待命，等候下一位乘客的召喚。幾十年后，你不會再去考慮買一輛屬于自己的車，就像今天你不會想買一節(jié)私人火車車廂一樣。”

點(diǎn)擊書封，馬上入手好書

6.5折+包郵，截至10月19日24時

我們假使馬斯克期望的完全自動駕駛可以投入使用，但請你想象一下，如果你心臟病發(fā)作，而你的自動駕駛汽車卻拒絕加速乃至超速把你送到醫(yī)院，你該怎么辦？明天，你召喚的自動駕駛出租車可能決定不載你了，因?yàn)槟憧雌饋砗茸砹恕５任覀儼l(fā)現(xiàn)這些問題時，可能為時已晚。這就是未來的先兆，也就是我們想要的完全自動駕駛的世界。

我們把權(quán)力交給機(jī)器后，也就把重要的道德決定、甚至個人決定交給了它們。以防抱死剎車系統(tǒng)（ABS）為例?，F(xiàn)在的情境是，你的車仍舊聽你的，除非你踩剎車踩得太重。如果我們把對剎車的控制完全交出去，就是把做出生死攸關(guān)的道德決定的能力委托出去。

最開始，智能汽車調(diào)整的可能僅僅是避免擁堵的行車路線，但是最終，在完全自動駕駛時代，這些系統(tǒng)可能會控制你生活的地點(diǎn)、你學(xué)習(xí)的內(nèi)容，甚至是你約會的對象。

就像你的智能手機(jī)中的芯片越來越小一樣，始終都好像是它們在為我們的福祉做貢獻(xiàn)，直到它們開始介入我們的生活，防止我們傷害自己。那時我們才會明白真相——誰是圈養(yǎng)者，誰又是被圈養(yǎng)者。

點(diǎn)擊書封，馬上入手好書

6.5折+包郵，截至10月19日24時

不是就業(yè)問題、不是技術(shù)壁壘、不是不明就里的指責(zé)，對于“完全自動駕駛”我們最應(yīng)該擔(dān)憂的問題是：

我們在沒有充分意識到人工智能的局限性和脆弱性時，就賦予了太多的自主權(quán)；我們傾向于擬人化人工智能系統(tǒng)，我們把人類的品質(zhì)灌輸給這些系統(tǒng)，卻又高估了這些系統(tǒng)可以被完全信任的程度。

10年？50年？100年？人類終歸會迎來完全自動駕駛時代，通用的、人類水平的人工智能或許就會出現(xiàn)。它們能感受到情緒嗎？它們具有生存的本能和對死亡的恐懼嗎？它們需要意識嗎？

梅拉尼說，我們應(yīng)該感到害怕，不是害怕機(jī)器太智能，而是害怕機(jī)器做出一些它們沒有能力做出的決策。

圖源：《復(fù)仇者聯(lián)盟2：奧創(chuàng)紀(jì)元》

人工智能對我們所有人的影響都將持續(xù)深化。

盡可能閱讀人工智能的好書。它們都在幫助我們成為一個有思想的人，能更好地去了解人工智能的現(xiàn)狀，包括尚未解決的問題、技術(shù)的潛在風(fēng)險和益處，以及它所引出的關(guān)于理解人類自身職能的科學(xué)和哲學(xué)問題。

人人都想要那輛完全不需要費(fèi)心操控的AI汽車，不管是在城市、在鄉(xiāng)村，是在山路還是高速上行駛，都能做一個自在愜意的乘客。

為了實(shí)現(xiàn)那一刻，請你認(rèn)真把握方向盤。

全網(wǎng)首發(fā)！下單即現(xiàn)貨

限量5折，到手89.9還贈獨(dú)家精美周邊

現(xiàn)在入手，可享限量款金印版

本期策劃：Burt

編輯：蘆丁

CHEERS CHEERS CHEERS

BD@cheerspublishing.com,

拜托點(diǎn)下“在看”