擔(dān)心隱私安全、廣告轟炸、信息誤導(dǎo)等問題——

　　AI工具雖好用，受訪青年更盼“放心用”

　　近日，影視颶風(fēng)工作室創(chuàng)始人潘天鴻(Tim)發(fā)布了一條視頻，展示字節(jié)跳動(dòng)發(fā)布的AI視頻生成模型“Seedance 2.0”的效果，在感慨該模型的強(qiáng)大功能后，他又特別提到一個(gè)“比較恐怖”的意外發(fā)現(xiàn)——當(dāng)他把自己的照片傳到“Seedance 2.0”上，模型生成的視頻中，不僅有他活靈活現(xiàn)的面孔，這張面孔發(fā)出的聲音，也和他本人的一模一樣。這意味著“Seedance 2.0”大量使用賬號(hào)“影視颶風(fēng)”發(fā)布的視頻進(jìn)行訓(xùn)練。潘天鴻是否曾授權(quán)相關(guān)企業(yè)使用這些視頻？“平臺(tái)的用戶協(xié)議里可能隱藏了類似的授權(quán)條款，但我個(gè)人沒有收過錢，也沒有被聯(lián)系過授權(quán)。也許他們在法理上是合規(guī)的，但是，這有點(diǎn)恐怖，對吧？”潘天鴻在視頻中說。

　　盡管“Seedance 2.0”很快緊急叫停了真人人臉上傳功能，但就讀于湖北一所高校的張宇菁依然有所擔(dān)憂。社交媒體時(shí)代，人們常常將自己的影像、聲音等上傳到網(wǎng)上?！斑@種數(shù)據(jù)一旦泄露或被濫用，很容易引發(fā)詐騙、信息騷擾，作為普通人，我們毫無還手之力?！彼械绞褂肁I的安全感正在被消磨。

　　隨著“ChatGPT”“DeepSeek”“Sora”“Seedance”等模型一次又一次刷新人們對AI的認(rèn)識(shí)，這些工具也正在愈發(fā)深入地涌入普通人的日常生活。近日，中國青年報(bào)·中青校媒面向以大學(xué)生為主的青年發(fā)起AI工具使用相關(guān)問卷調(diào)查，共回收有效問卷1390份。調(diào)查結(jié)果顯示，受訪者最常用的AI工具是語言生成類(77.12%)，此外還有圖像生成類(65.32%)、音視頻處理類(30.86%)、辦公學(xué)習(xí)類(27.84%)等。受訪者擔(dān)心目前AI可能引起的風(fēng)險(xiǎn)，有產(chǎn)生“AI幻覺”或虛假信息，誤導(dǎo)用戶(58.13%)；可能侵犯肖像權(quán)、著作權(quán)等個(gè)人權(quán)益(52.52%)；AI生成內(nèi)容可能被用于詐騙，威脅財(cái)產(chǎn)安全(44.39%)；AI生成內(nèi)容可能受商業(yè)利益影響，缺乏客觀性(27.12%)，等等。

　　近六成受訪者擔(dān)心與AI對話被用于精準(zhǔn)用戶畫像

　　張宇菁日常使用頻率最高的AI是豆包，幾乎遇到任何問題都會(huì)第一時(shí)間向其咨詢，但一次意外的搜索，讓他對個(gè)人數(shù)據(jù)安全產(chǎn)生了強(qiáng)烈的不安。“我在豆包里搜我的名字和學(xué)校，它直接彈出了一整段我的各類信息匯總，我瞬間覺得后背發(fā)涼?！睆堄钶颊f，AI的訓(xùn)練依賴海量數(shù)據(jù)，可普通用戶對于自己的信息如何被收集、使用，完全沒有知情權(quán)和控制權(quán)。

　　張宇菁提到的平臺(tái)用戶信息收集，也讓畢業(yè)于武漢工程大學(xué)的張鴻博感到無奈?！叭缃窀黝惼脚_(tái)動(dòng)輒要求用戶同意全部條款才能使用，不同意則無法注冊，這種‘霸王條款’讓用戶對隱私保護(hù)毫無選擇權(quán)?！睆堷櫜┑哪赣H喜歡使用短視頻平臺(tái)的一鍵生成視頻功能，把家人的照片拼接起來，配上動(dòng)畫、文字和音樂，分享生活點(diǎn)滴。但每次上傳照片，母親都會(huì)格外擔(dān)心：“這些面部信息傳上去，萬一被泄露了怎么辦？”張鴻博也擔(dān)心，如今AI聲音合成、真人圖像生成的技術(shù)日趨成熟，一旦個(gè)人信息泄露，被不法分子利用，進(jìn)行詐騙，后果不堪設(shè)想。張鴻博還發(fā)現(xiàn)，如今抖音、視頻號(hào)上充斥著大量AI生成的內(nèi)容，有些內(nèi)容看似專業(yè)，實(shí)則是虛假信息，一些年輕人都難以辨別，家中長輩更是頻頻中招，常常將AI生成的虛假科普視頻轉(zhuǎn)發(fā)到家庭群。

　　北京一所高校的學(xué)生李?yuàn)W(化名)則遇到了個(gè)人地址被AI獲取的情況。當(dāng)他在與AI的對話框里輸入“某補(bǔ)貼怎么領(lǐng)取”，幾秒后，AI回答：“結(jié)合您當(dāng)前的位置湖北省荊門市……”李?yuàn)W盯著那行字，心里覺得不太對勁?！澳翘煳矣玫氖蔷W(wǎng)頁版。手機(jī)App要獲取地址權(quán)限前，會(huì)提前彈窗詢問，但在網(wǎng)頁端使用，好像沒有很明顯的提示?！焙髞硭痛俗穯朅I，AI解釋說地址是系統(tǒng)信息授權(quán)得來的，并且保證不會(huì)泄露用戶個(gè)人隱私。“但那種被讀取信息的感覺，還是不太舒服?！崩?yuàn)W說。

　　今年50歲的遼寧大連市民劉明英熱衷于網(wǎng)購，也很喜歡使用AI。但她發(fā)現(xiàn)，自己和同事聊天提到的喜好，比如想買某種面包、某種服飾，第二天手機(jī)上就會(huì)出現(xiàn)相關(guān)的推薦內(nèi)容，“感覺自己的談話被竊聽了，連消費(fèi)喜好、生活日常都藏不住”。為了避免這種情況，如今她和家人、朋友聊天時(shí)，會(huì)特意把手機(jī)放到其他房間。

　　中青校媒調(diào)查顯示，受訪者擔(dān)心與AI的對話被用于精準(zhǔn)的用戶畫像，并進(jìn)行精準(zhǔn)營銷(57.70%)；AI工具過度收集手機(jī)號(hào)、位置等私人信息(48.78%)；一些公司使用自己的社交媒體信息進(jìn)行訓(xùn)練(33.96%)；等等。

　　受訪者擔(dān)心被AI生成信息誤導(dǎo)或欺騙

　　李?yuàn)W感到，這幾年AI已經(jīng)有了明顯的進(jìn)步，甚至可以深度思考、解決專業(yè)性較強(qiáng)的問題。李?yuàn)W用AI最多的時(shí)候是做課設(shè)。他的作業(yè)需要處理的數(shù)據(jù)量大、雜、亂，需要好幾步預(yù)處理。現(xiàn)階段的AI就能很好地幫助提升效率。但他也發(fā)現(xiàn)了AI仍存在局限，例如常常生成誤導(dǎo)性信息。

　　“有一次，AI表示，它給出的代碼會(huì)對數(shù)據(jù)進(jìn)行五步清洗，我逐行審查，發(fā)現(xiàn)這些代碼真正完成的只有兩步?！彼忉屨f，“可能是因?yàn)閷υ捝舷挛奶L了，它自己記串了，產(chǎn)生了幻覺。每次到這個(gè)時(shí)候，就得自己人工再核查一遍，從頭再過一遍代碼?！?/p>

　　云南一所高校的王馨儀在學(xué)校校園媒體運(yùn)營微信公眾號(hào)，寫文案是家常便飯，想不到合適的文案時(shí)，她會(huì)求助AI。AI輸出的內(nèi)容質(zhì)量很高，語句很優(yōu)美，看起來完美無缺。在文案基本寫好，準(zhǔn)備推進(jìn)審核時(shí)，她讓AI把引用內(nèi)容的出處也列出來。當(dāng)她照著這些出處去網(wǎng)上逐一核對，卻傻了眼：“根本找不到出處，作者名字都是虛構(gòu)的。如果我當(dāng)時(shí)沒仔細(xì)核實(shí)，盲目地用了它給的信息和來源，那發(fā)表的內(nèi)容就是假的?！?/p>

　　中青校媒調(diào)查顯示，受訪者本人(16.91%)、身邊的同齡朋友(29.57%)、身邊的長輩(29.35%)等，曾遇到過對AI生成內(nèi)容信以為真，甚至被騙的情況。

　　張宇菁發(fā)現(xiàn)，一些生成式AI還會(huì)刻意“討好”用戶，順著用戶的觀點(diǎn)說話，可能讓人形成認(rèn)知偏見。“我說某個(gè)專業(yè)很賺錢，AI就只跟我說這個(gè)專業(yè)的就業(yè)利好；等我反過來說這個(gè)行業(yè)不賺錢，它又立刻找一堆反面例子，并不會(huì)客觀分析利弊。”張宇菁直言，這種“墻頭草”式的回應(yīng)，會(huì)讓用戶愈發(fā)堅(jiān)信固有認(rèn)知。

　　張宇菁家中冰箱異常結(jié)冰，他向AI咨詢溫度調(diào)節(jié)方法，得到的答案卻與正確方法完全相反?！氨錅乜?-7檔，正確的是夏季調(diào)1-2檔、冬季調(diào)5-6檔，結(jié)果AI告訴我冬季要調(diào)1-2檔，還好我自己反應(yīng)過來了，不然冰箱里的冰可能越結(jié)越厚。”張宇菁說，當(dāng)他指出錯(cuò)誤后，AI簡單道歉并糾正，但無法解釋為何會(huì)出現(xiàn)這樣的錯(cuò)誤?！八荒鼙ＷC輸出的信息在網(wǎng)上出現(xiàn)過，但無法保證真實(shí)性。”張宇菁說。

　　劉明英則感到，AI工具對中老年群體并不友好。劉明英說會(huì)遇到AI工具操作步驟復(fù)雜，或是想要放大字體卻無法實(shí)現(xiàn)的情況。當(dāng)她著急想要獲取一個(gè)簡單的答案，AI卻給出一大段分析內(nèi)容?！拔蚁Ｍ鸄I可以根據(jù)需求靈活調(diào)整回答的詳略?！?/p>

　　84.18%受訪者曾遇到過AI向自己推薦商品或服務(wù)

　　王馨儀最近發(fā)現(xiàn)，一些AI工具融入了廣告內(nèi)容。就在春節(jié)前幾天，王馨儀在朋友圈里刷到很多朋友“曬”通過千問平臺(tái)買的一分錢奶茶。“感覺今年AI領(lǐng)域的競爭格外激烈。”她說。“把AI的功能開發(fā)到這個(gè)程度，讓AI和商業(yè)合作，是一件我從來沒想過的事情。”

　　看似便捷和優(yōu)惠的一杯奶茶，卻讓王馨儀提高了警惕?！癆I現(xiàn)在可以幫忙點(diǎn)奶茶，那以后是不是能訂飛機(jī)票、高鐵票？AI與生活聯(lián)系得越緊密，隱私的開放度就越高?！痹谒磥恚珹I的發(fā)展是好事，但使用時(shí)還是要處處留心。因此，王馨儀手機(jī)里的每一款A(yù)I應(yīng)用的權(quán)限管理都很謹(jǐn)慎，不讓它們隨意訪問相冊和定位。

　　中青校媒調(diào)查顯示，84.18%受訪者曾遇到過AI向自己推薦商品或服務(wù)，其中14.03%受訪者經(jīng)常遇到，36.19%受訪者有時(shí)遇到，33.96%受訪者較少遇到。對于AI推薦商品或品牌的情況，12.52%受訪者表示排斥，認(rèn)為這損害了AI回答的客觀性；54.75%受訪者表示要謹(jǐn)慎看待，懷疑其是否受商業(yè)利益影響；25.03%受訪者表示只要推薦合理且有用，就可以接受；5.90%受訪者表示歡迎，認(rèn)為這是一種高效獲取購物建議的方式；還有1.80%受訪者認(rèn)為無所謂。

　　張鴻博也隱約感到AI有意無意地向他輸出廣告。因?yàn)槭滞笞鲞^手術(shù)，他在健身前咨詢了豆包，如何健身才能保護(hù)手腕，豆包告訴他的方法中，有一條是使用護(hù)腕，并在回答問題后，又展示了幾個(gè)可以繼續(xù)點(diǎn)擊的選項(xiàng)，其中有一條是“是否需要我給你推薦一些護(hù)腕”。張鴻博順勢點(diǎn)下去，豆包就推薦了Keep、勞拉之星等品牌的護(hù)腕。張鴻博不知道這些并未標(biāo)注廣告字樣的推薦背后是否確實(shí)有商業(yè)合作，但他對AI推薦的這些產(chǎn)品是否好用持懷疑態(tài)度。

　　張宇菁也曾遇到類似情況，他想購買索尼相機(jī)，向AI咨詢索尼不同系列產(chǎn)品的性能區(qū)別，得到的回答里不僅有產(chǎn)品介紹，還直接附帶了商品鏈接；健身時(shí)，他詢問AI如何補(bǔ)充“歐米伽3”，AI在推薦相關(guān)食物后，又推送了多款魚油的購買鏈接?！八f得有理有據(jù)，很容易讓人相信。”但張宇菁認(rèn)為，這些看似客觀的回答，實(shí)則暗藏消費(fèi)引導(dǎo)，至少應(yīng)該有明顯的“廣告”字樣標(biāo)注。

　　劉明英有時(shí)會(huì)主動(dòng)讓元寶等AI推薦養(yǎng)生產(chǎn)品、化妝品，但即使她明確表示自己想要經(jīng)濟(jì)實(shí)惠的品牌，但AI還是會(huì)給她推薦一些價(jià)格昂貴的品牌，沒有什么針對性。劉明英因此產(chǎn)生了警惕心：“怕它為了賣產(chǎn)品故意推薦。”

　　在使用AI的過程中，張鴻博嘗試過各種方式，規(guī)避虛假信息和各類風(fēng)險(xiǎn)。但在他看來，這些方法治標(biāo)不治本，AI行業(yè)的健康發(fā)展，更需要從源頭進(jìn)行治理。“首先要讓用戶條款更透明，把選擇權(quán)交還給用戶，比如可以勾選是否授予平臺(tái)某些重要權(quán)限，而不是一刀切?！睆堷櫜┙ㄗh，應(yīng)該給AI生成的內(nèi)容添加數(shù)字水印，讓用戶能清晰識(shí)別，同時(shí)建立完善的舉報(bào)渠道，對虛假信息、違規(guī)推薦進(jìn)行監(jiān)管，更重要的是開展AI素養(yǎng)教育，提升全民的辨別能力，讓大家能理性看待和使用AI。

　　面對AI常常給出的誤導(dǎo)信息，李?yuàn)W則認(rèn)為，需要從設(shè)置上讓AI直面“幻覺”?！拔蚁Ｍ鸄I能擁有不知道的勇氣。承認(rèn)自己不知道，比硬編造一個(gè)聽起來合理的答案要好得多?！崩?yuàn)W說。

　　張宇菁雖然覺得AI仍存在各種各樣的問題，但他并不否定AI的價(jià)值，只是希望行業(yè)能朝著更規(guī)范的方向發(fā)展。“我希望AI能少一點(diǎn)迎合，多一點(diǎn)客觀，給出問題答案時(shí)，能提供多方面的觀點(diǎn)和解決方案。更重要的是，AI的信息來源要更嚴(yán)謹(jǐn)，引用權(quán)威機(jī)構(gòu)的內(nèi)容并標(biāo)注來源，讓用戶能清晰辨別真?zhèn)巍！蓖瑫r(shí)，他也呼吁平臺(tái)加強(qiáng)自我監(jiān)管，尤其是在生物數(shù)據(jù)使用、AI生成內(nèi)容審核方面，建立完善的反饋和修正機(jī)制，“只有把AI的信息‘黑箱’打開，把數(shù)據(jù)安全的防線筑牢，才能讓用戶真正放心地使用AI，讓技術(shù)真正服務(wù)于人”。

　　中青校媒調(diào)查顯示，受訪者認(rèn)為，可以建立便捷的渠道，便于公眾舉報(bào)AI生成的侵權(quán)或有害內(nèi)容(57.99%)；在所有AI生成圖像上強(qiáng)制添加易于識(shí)別的“數(shù)字水印”或標(biāo)識(shí)(50.22%)；企業(yè)公開其核心AI模型的基本訓(xùn)練數(shù)據(jù)來源與安全、倫理審查情況(49.28%)；平臺(tái)的征求用戶授權(quán)使用相關(guān)素材進(jìn)行AI訓(xùn)練的信息需要寫在明顯的位置(42.30%)，等等。