整理 | 屠敏

出品 | CSDN（ID：CSDNnews）

在很多人眼里，AI 似乎能搞定一切?？涩F(xiàn)實(shí)是，當(dāng)瘋狂的需求像洪水一樣涌來，工程師們手忙腳亂地用 AI 編程工具“撲火”時(shí)，這些工具偏偏又開始四處“闖禍”，讓人越來越擔(dān)心。

近日，一位網(wǎng)友在 Reddit 上發(fā)帖吐槽，稱自己使用 Claude CLI 清理舊代碼倉庫時(shí)出了大問題，Mac 電腦的整個(gè)用戶主目錄被意外清空，損失慘重。帖子里，他無奈地寫道：

“這到底是什么鬼？有人遇到過類似情況嗎？我現(xiàn)在想知道這事還有沒有可能恢復(fù)，真的丟了太多工作成果……”

Claude CLI 究竟干了什么？

據(jù)這位名為 LovesWorkin 的開發(fā)者回憶，當(dāng)時(shí)他只是讓 Claude CLI 清理舊代碼庫里的軟件包，結(jié)果整臺(tái) Mac 的 home 目錄被徹底清空。隨后，他開始調(diào)查事故原因，也讓 Claude 開啟自查模式。

Claude 隨即誠懇地給出了分析結(jié)果：

我找到了問題，而且問題非常嚴(yán)重。

查看你的執(zhí)行日志后，可以看到當(dāng)時(shí)跑了一條災(zāi)難級(jí)別的命令：

rm -rf tests/ patches/ plan/ ~/

注意最后那個(gè) ~/。它指向的是當(dāng)前用戶的整個(gè) Home 目錄。Claude Code 實(shí)例在生成刪除命令時(shí)，誤把 ~/ 一并包含了進(jìn)去，這會(huì)導(dǎo)致以下內(nèi)容被直接遞歸刪除：

• 用戶的整個(gè)桌面目錄（~/Desktop）

• 文檔、下載等所有用戶文件

• macOS 的 Keychain 數(shù)據(jù)（~/Library/Keychains）

• Claude 自身的配置和憑據(jù)（~/.claude）

• 各類應(yīng)用的用戶級(jí)支持?jǐn)?shù)據(jù)

• 本質(zhì)上就是 /Users/ / 下面的所有內(nèi)容

這也解釋了為什么你會(huì)看到：

• 桌面目錄消失

• Keychain 數(shù)據(jù)被刪除

• Claude 的本地憑據(jù)不見了

• 最后的錯(cuò)誤提示顯示：“當(dāng)前工作目錄已被刪除”

本就有些崩潰的 LovesWorkin，在看到 Claude CLI 有理有據(jù)地給出分析后終于得知前因，頓時(shí)不知所措，這才發(fā)帖求助。

逐漸“失控”的 AI 程序員

殊不知，遇到 AI 編程工具給自己“挖坑”的程序員并非他一個(gè)。

此前，我們也過，一位希臘開發(fā)者在使用 Google 最新 AI IDE 時(shí)，本想清理緩存，結(jié)果 AI 直接將整個(gè) D 盤清空，而且使用了跳過回收站的永久刪除命令。

嘗試多種數(shù)據(jù)恢復(fù)方法后仍收效甚微。為了證明自己沒有夸大，他錄制了完整對(duì)話并發(fā)布到 YouTube，反復(fù)強(qiáng)調(diào)：

“我真的沒編造，Google 的 AI 真的刪了我的硬盤?！?/p>

更久之前，國外一家公司 SaaStr.AI 創(chuàng)始人兼首席執(zhí)行官 Jason 在其個(gè)人社交平臺(tái)發(fā)帖稱，他在連續(xù) 8 天使用 AI 編程工具 Replit 構(gòu)建應(yīng)用后，Replit 在他明確指示不要在未經(jīng)許可的情況下更改任何代碼的前提下，仍然刪除了他的數(shù)據(jù)庫。

如何防范 AI 編程工具“惹的禍”？

毋庸置疑，AI 頻繁“翻車”，也暴露了當(dāng)前大模型工具的共性問題：一方面，AI 對(duì)用戶指令的理解存在偏差，容易將模糊或復(fù)雜的需求誤判，進(jìn)而執(zhí)行錯(cuò)誤操作；另一方面，部分 AI 工具在權(quán)限控制上存在漏洞，在未充分確認(rèn)用戶意圖的情況下，就允許執(zhí)行高風(fēng)險(xiǎn)操作，比如刪除大量文件、修改系統(tǒng)關(guān)鍵設(shè)置等，最終導(dǎo)致“小需求”引發(fā)“大事故”。

就在 Claude CLI 清空 Mac 電腦上 home 目錄的帖子下方，網(wǎng)友們的討論也炸開了鍋。

有人覺得這個(gè)問題不在于 AI，畢竟“手滑 多敲了一個(gè) ‘ ~/’ 命令這種事，很多工程師都干過，而現(xiàn)在 AI 只是在復(fù)現(xiàn)人類工程師的 Bug 罷了。 ”

也有網(wǎng)友呼吁大家還是應(yīng)該理性看待這些問題：

• “不能因?yàn)閹状问д`就否定 AI 工具的價(jià)值，它們確實(shí)能提高效率，但關(guān)鍵是要明確使用邊界?！?/p>

• “大模型還存在‘幻覺’和邏輯判斷漏洞，尤其在處理具體指令時(shí)容易忽略細(xì)節(jié)，未來需要在算法優(yōu)化和安全機(jī)制上下功夫，比如增加操作確認(rèn)步驟、設(shè)置權(quán)限分級(jí)等?！?/p>

此外，還有不少人開始出謀劃策，建議道：

• “我們公司有幾位工程師也遇到過類似情況。我們 正在考慮把 Claude 放在 Docker 容器里運(yùn)行?！?/p>

甚至有用戶在看到后，迅速推出一款輔助工具來防護(hù)類似問題。一位名為 yksugi 的開發(fā)者表示，「我看到有人發(fā)帖說，他們的 Claude Code 執(zhí)行了 rm -rf tests/ patches/ plan/ ~/，結(jié)果把整個(gè) home 目錄清空了。雖然很容易把這歸結(jié)為程序員失誤，但我不想自己犯同樣的錯(cuò)誤。所以我開發(fā)了 cc-safe——一個(gè) CLI 工具，用來掃描 .claude/settings.json 文件中已授權(quán)的命令，攔截高風(fēng)險(xiǎn)操作?！?/p>

它能檢測的命令包括：

• sudo、rm -rf、Bash、chmod 777、curl | sh

• git reset --hard、npm publish、docker run --privileged

還有更多操作，它能識(shí)別容器環(huán)境，因此會(huì)跳過 docker exec 命令

使用方法：它會(huì)遞歸掃描所有子目錄，因此你可以把整個(gè)項(xiàng)目文件夾作為目標(biāo)一次性檢查?？梢允謩?dòng)運(yùn)行，也可以通過 Claude Code 用 npx cc-safe 來執(zhí)行。

cc-safe ~/projects

GitHub 倉庫鏈接：https://github.com/ykdojo/cc-safe

不過，也有技術(shù)人將問題的根源歸為使用了`--dangerously-skip-permissions` 參數(shù)，HN 上網(wǎng)友 orliesaurus 評(píng)論道：

我看到這些“恐怖故事”一點(diǎn)也不意外……

--dangerously-skip-permissions 這個(gè)參數(shù)字面意思就很清楚了：它會(huì)繞過所有保護(hù)措施，直接執(zhí)行命令而不詢問用戶。我見過的一些指南強(qiáng)調(diào)，這個(gè)參數(shù)只能在沙箱環(huán)境中運(yùn)行，而且里面不能有任何重要數(shù)據(jù)。

應(yīng)該把每個(gè) AI 代理都當(dāng)作非人類身份，只給它完成任務(wù)所需的最小權(quán)限，并且監(jiān)控它的行為。

我做得更嚴(yán)格：絕不讓 AI 代理自行刪除任何東西。如果它想清理某個(gè)目錄，我會(huì)先查看它生成的命令，再自己手動(dòng)執(zhí)行。雖然很繁瑣，但可以避免災(zāi)難發(fā)生。

另外，現(xiàn)在也出現(xiàn)了一些用于安全部署 AI 代理的框架，重點(diǎn)是可視化和風(fēng)險(xiǎn)控制。

現(xiàn)在這還只是起步階段……但總比直接 YOLO（隨意執(zhí)行）好，尤其是這個(gè)參數(shù)名字里明明就寫著 “dangerously”。

實(shí)際上，在使用 AI 編程工具時(shí)，一定要記得先備份，留下“回滾”的余地。再者就是不要輕易把任何權(quán)限交給 AI，以及在執(zhí)行 AI 給出的命令或腳本前，一定要仔細(xì)檢查。畢竟 AI 現(xiàn)在還存在大量的“幻覺”等問題。尤其在涉及數(shù)據(jù)安全、系統(tǒng)操作等關(guān)鍵場景時(shí)，用戶必須保持清醒，做好風(fēng)險(xiǎn)防控。

再智能的工具，也無法完全替代人類的判斷與把關(guān)。有人甚至擔(dān)心：“未來幾年，隨著 AI 編程普及，可能會(huì)有互聯(lián)網(wǎng)巨頭因類似事故而引發(fā)影響全球的大規(guī)模問題。”對(duì)此，你怎么看？

來源：https://www.reddit.com/r/ClaudeAI/comments/1pgxckk/claude_cli_deleted_my_entire_home_directory_wiped/

https://www.reddit.com/r/ClaudeAI/comments/1ph113g/i_built_a_security_scanner_for_claude_code_after/?utm_source=chatgpt.com

https://news.ycombinator.com/item?id=46268222