AI已成為提升效率的重要工具

寫文案、做表格、查資料、做設(shè)計(jì)

都更加便捷高效

但便利之下

也隱藏著不容忽視的風(fēng)險(xiǎn)

如果使用不當(dāng)

不僅可能惹上麻煩

還可能危害國家安全、觸碰法律紅線

嚴(yán)重的甚至?xí)蛔肪啃淌仑?zé)任

小王是某單位工作人員，為提升工作效率，他嘗試使用一款流行的開源AI工具分析一份標(biāo)注“秘密”的內(nèi)部報(bào)告。由于電腦系統(tǒng)默認(rèn)開啟公網(wǎng)訪問，且未設(shè)置訪問密碼，小王上傳文件后，該AI工具的后臺(tái)服務(wù)端口直接暴露在公網(wǎng)。經(jīng)查，該開源框架的默認(rèn)配置存在安全缺陷，而單位未進(jìn)行任何安全加固，也未對(duì)使用外部AI工具進(jìn)行安全評(píng)估和審批。此次泄露導(dǎo)致內(nèi)部涉密資料外流，損害了國家安全。該機(jī)關(guān)單位及直接負(fù)責(zé)的主管人員、直接責(zé)任人員小王等人依法受到處分。根據(jù)法律規(guī)定，如泄露內(nèi)容經(jīng)鑒定屬于國家秘密且情節(jié)嚴(yán)重，相關(guān)責(zé)任人員可能構(gòu)成過失泄露國家秘密罪，并依法追究刑事責(zé)任。

那么，使用AI時(shí)有哪些紅線不能碰：

1.把涉密內(nèi)容“喂給”AI

有人為了省事，把涉密文件、內(nèi)部報(bào)告、國防科研數(shù)據(jù)、敏感政務(wù)信息直接輸入AI，讓其寫報(bào)告、整理材料、潤(rùn)色文字；還有人把未公開的科研數(shù)據(jù)、技術(shù)參數(shù)、試驗(yàn)結(jié)果輸入AI分析，甚至把涉及軍事設(shè)施、敏感地理信息的照片發(fā)給AI識(shí)別。許多AI應(yīng)用具有自動(dòng)存儲(chǔ)、云端上傳、持續(xù)學(xué)習(xí)等功能，用戶輸入的文字和圖片可能被后臺(tái)記錄。一旦被不法分子或境外機(jī)構(gòu)獲取，就可能造成國家秘密、工作秘密泄露。無論故意還是過失，只要情節(jié)嚴(yán)重，都可能被依法追責(zé)。

2.用AI非法抓取敏感數(shù)據(jù)

一些企業(yè)或個(gè)人為了訓(xùn)練模型，非法抓取人口、金融、能源、地理測(cè)繪等重要數(shù)據(jù)，甚至入侵政務(wù)網(wǎng)站、高校數(shù)據(jù)庫、國企系統(tǒng)，竊取技術(shù)資料和行業(yè)敏感信息，用于訓(xùn)練AI或牟利。還有人收集公民個(gè)人信息、醫(yī)療健康數(shù)據(jù)并整合出售給境外機(jī)構(gòu)。國家核心數(shù)據(jù)、重要數(shù)據(jù)和個(gè)人敏感信息，絕不能非法獲取、買賣或向境外提供。此類行為涉嫌非法獲取計(jì)算機(jī)信息系統(tǒng)數(shù)據(jù)罪、侵犯公民個(gè)人信息罪等；若向境外提供，后果更嚴(yán)重。

3.用AI造假傳播虛假信息

有人借助AI換臉、配音技術(shù)偽造官方通知、政策解讀，或批量生成抹黑國家形象、煽動(dòng)對(duì)立、制造恐慌的文章、海報(bào)、短視頻。AI生成內(nèi)容成本低、傳播快、迷惑性強(qiáng)，容易誤導(dǎo)公眾、擾亂秩序、損害國家公信力。特別是在重大節(jié)日、重要會(huì)議期間，危害更大。此類行為可能涉嫌編造、故意傳播虛假信息罪，尋釁滋事罪，甚至危害國家安全類犯罪。

違法使用AI，代價(jià)有多大

隨意將涉密信息輸入AI，非法抓取數(shù)據(jù)，制作傳播虛假信息，都會(huì)付出代價(jià)。輕則承擔(dān)民事責(zé)任，如賠償損失、刪除內(nèi)容、公開道歉；違反行政管理規(guī)定的，可能被罰款、行政拘留，公職人員還會(huì)面臨降級(jí)、撤職直至開除處分。若嚴(yán)重危害國家安全和社會(huì)秩序，則可能觸犯刑法，構(gòu)成泄露國家秘密、非法獲取數(shù)據(jù)、編造傳播虛假信息等犯罪，面臨有期徒刑甚至更重處罰。企業(yè)違法的，還可能被處以巨額罰款、停業(yè)整頓、吊銷資質(zhì)，負(fù)責(zé)人同步追責(zé)。

用好AI，記住4條準(zhǔn)則

1.選擇正規(guī)平臺(tái)。在使用AI應(yīng)用時(shí)，應(yīng)優(yōu)先選擇國內(nèi)正規(guī)平臺(tái)提供的服務(wù)，避免通過社交媒體、陌生郵件、未知鏈接等非官方途徑下載應(yīng)用。對(duì)于聲稱提供“免費(fèi)掃碼試用”或“限時(shí)內(nèi)測(cè)”的非官方來源應(yīng)用程序，應(yīng)保持警惕、注意甄別，確保數(shù)據(jù)安全。

2.審慎授予權(quán)限。在安裝AI應(yīng)用時(shí)，應(yīng)仔細(xì)審查其權(quán)限請(qǐng)求，審慎授予訪問通訊錄、位置信息、相冊(cè)、麥克風(fēng)等涉及隱私的數(shù)據(jù)權(quán)限。定期檢查已授權(quán)應(yīng)用的權(quán)限狀態(tài)，及時(shí)取消不必要的權(quán)限，防止敏感信息泄露。

3.筑牢保密紅線。嚴(yán)格遵守“涉密不上網(wǎng)，上網(wǎng)不涉密”的原則，嚴(yán)禁連接互聯(lián)網(wǎng)使用AI應(yīng)用處理國家秘密。工作中的機(jī)密文件、國家秘密、敏感政務(wù)數(shù)據(jù)，堅(jiān)決不輸入任何AI應(yīng)用。

4.嚴(yán)守法律底線。不用AI偷數(shù)據(jù)、不搞違法研發(fā)，不造不傳AI虛假信息。看到AI換臉、AI造假的有害內(nèi)容，不轉(zhuǎn)發(fā)、不傳播。疑似涉及國家安全的，及時(shí)撥打12339國家安全機(jī)關(guān)舉報(bào)電話。

享受便利的同時(shí)

更要守住AI使用的安全底線

始終繃緊風(fēng)險(xiǎn)之弦

堅(jiān)持規(guī)范使用、理性使用、安全使用

來源：最高人民法院微信公號(hào)