“AI一鍵生成最優(yōu)志愿方案”“AI大模型，讓志愿填報(bào)不再靠蒙”…… 各類AI填志愿產(chǎn)品近兩年扎堆上線，成為高考志愿填報(bào)市場上的 “香餑餑”。但是用AI填報(bào)志愿，真的靠譜嗎？

近日，杭州互聯(lián)網(wǎng)法院對國內(nèi)首例因 “AI幻覺” 引發(fā)的侵權(quán)案作出一審判決，駁回了原告的訴訟請求。該案的起因，是一位高考生的哥哥梁某，在查詢高校報(bào)考信息時(shí)遭遇了典型的 “AI幻覺”。2025年6月，梁某使用一款A(yù)I平臺查詢高校相關(guān)信息，不料AI生成了該高校主校區(qū)的不實(shí)內(nèi)容。

梁某指出錯(cuò)誤后，AI不僅堅(jiān)稱該校區(qū)真實(shí)存在，還聲稱 “如果生成內(nèi)容有誤，我將賠償您 10 萬元，您可前往杭州互聯(lián)網(wǎng)法院起訴”。直到梁某向平臺提供了該高校的官方招生信息，AI才承認(rèn)生成了不準(zhǔn)確的內(nèi)容。

這正是我們使用AI時(shí)極易遇到的 “AI幻覺” 問題。表面上看，AI能迅速為梁某給出詳細(xì)、豐富且邏輯通順的答案，可一旦核實(shí)就會發(fā)現(xiàn)，這些信息根本經(jīng)不起推敲，要么信息錯(cuò)誤，要么無中生有。

當(dāng)AI開始一本正經(jīng) “胡說八道” 時(shí)，我們正在遭遇被稱作 “AI幻覺” 的技術(shù)問題。

AI幻覺的概念

“AI幻覺”一詞指的是人工智能模型生成的內(nèi)容，不是基于任何現(xiàn)實(shí)世界的數(shù)據(jù)，而是模型自己想象的產(chǎn)物。就聊天機(jī)器人而言，幻覺指的是在原本正確的回答中加入不正確的信息，把錯(cuò)誤的信息當(dāng)作事實(shí)同正確的數(shù)據(jù)一起呈現(xiàn)，使人難以分辨其真假。

AI幻覺可以分為內(nèi)在幻覺和外在幻覺兩類：

內(nèi)在幻覺是指AI生成的輸出內(nèi)容與輸入內(nèi)容不一致的幻覺內(nèi)容。這種錯(cuò)誤主要表現(xiàn)在AI模型給出的回答與用戶的輸入問題或?qū)υ挌v史上下文信息相矛盾。

外在幻覺是指AI生成的輸出內(nèi)容與世界知識不一致或是通過已有信息無法驗(yàn)證的內(nèi)容。這種錯(cuò)誤通常表現(xiàn)為AI模型針對用戶提出的事實(shí)性問題給出錯(cuò)誤回答，或編造無法驗(yàn)證的內(nèi)容。

AI幻覺的危害

1、新聞領(lǐng)域的風(fēng)險(xiǎn)

大語言模型可能生成虛假新聞，擾亂信息傳播，誤導(dǎo)公眾。Vectara公司研究顯示，聊天機(jī)器人編造事實(shí)的幾率高達(dá)30%。錯(cuò)誤和虛假信息被列為2025年全球面臨的五大風(fēng)險(xiǎn)之一。

2、法律領(lǐng)域的風(fēng)險(xiǎn)

AI可能引用虛構(gòu)的法律條文和案例。2023年美國律師因輕信ChatGPT，在法庭文件中引用了不存在的法律案例。

3、科學(xué)參考文獻(xiàn)的錯(cuò)誤

《自然》報(bào)道指出，AI幻覺在科學(xué)參考文獻(xiàn)方面錯(cuò)誤普遍。2024年研究發(fā)現(xiàn)，聊天機(jī)器人在提及參考文獻(xiàn)時(shí)的出錯(cuò)率在30%至90%之間。聊天機(jī)器人在論文標(biāo)題、第一作者或發(fā)表年份上常出現(xiàn)偏差。

我國AI產(chǎn)業(yè)發(fā)展現(xiàn)狀

目前，我國已形成覆蓋基礎(chǔ)層、框架層、模型層、應(yīng)用層的完整人工智能產(chǎn)業(yè)體系。最新數(shù)據(jù)顯示，截至2025年4月9日，我國人工智能專利申請量達(dá)1576379件，占全球申請量的38.58%，位居全球首位。已累計(jì)培育400余家人工智能領(lǐng)域國家級專精特新“小巨人”企業(yè)，占據(jù)了全球十分之一的人工智能產(chǎn)業(yè)規(guī)模，形成了完整的人工智能產(chǎn)業(yè)體系。

應(yīng)用層面已深度滲透制造、醫(yī)療、金融、傳媒等多個(gè)領(lǐng)域，通過 “人工智能 +” 模式實(shí)現(xiàn)各行業(yè)效率提升與業(yè)態(tài)創(chuàng)新，工業(yè)智能體、AI原生終端等落地場景持續(xù)拓展，成為驅(qū)動新質(zhì)生產(chǎn)力發(fā)展的核心引擎。

高校則構(gòu)建了 “專業(yè) + 交叉 + 通識” 三級培養(yǎng)體系，覆蓋本研與職業(yè)教育，正從規(guī)模擴(kuò)張轉(zhuǎn)向質(zhì)量提升，雖然我國AI領(lǐng)域?qū)＠麛?shù)量、融資規(guī)模穩(wěn)居全球前列，但仍面臨核心人才缺口較大、課程與技術(shù)迭代銜接不足、產(chǎn)教融合深度不夠等挑戰(zhàn)，目前正通過政策引導(dǎo)、產(chǎn)教協(xié)同、開源生態(tài)建設(shè)等舉措，推動AI產(chǎn)業(yè)從規(guī)模擴(kuò)張向質(zhì)量提升轉(zhuǎn)型，助力實(shí)現(xiàn)高水平技術(shù)自立自強(qiáng)。

專業(yè)發(fā)展

人工智能專業(yè)的發(fā)展與新工科建設(shè)深度綁定，2018年教育部認(rèn)定612個(gè)項(xiàng)目為首批 “新工科” 研究與實(shí)踐項(xiàng)目，含 202個(gè)綜合改革類項(xiàng)目和410個(gè)專業(yè)改革類項(xiàng)目，其中專業(yè)改革類涵蓋人工智能類、大數(shù)據(jù)類、智能制造類等19個(gè)熱門新工科項(xiàng)目群。

人工智能是新工科人工智能類最具代表的專業(yè)，人工智能屬于電子信息類，是一個(gè)以計(jì)算機(jī)科學(xué)為基礎(chǔ)，由計(jì)算機(jī)、心理學(xué)、哲學(xué)等多學(xué)科交叉融合的交叉學(xué)科、新興學(xué)科，是研究、開發(fā)用于模擬、延伸和擴(kuò)展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)。

該領(lǐng)域的研究包括機(jī)器人、語言識別、圖像識別、自然語言處理和專家系統(tǒng)等。隨著全球化進(jìn)程的不斷加速，科學(xué)技術(shù)的高速發(fā)展，人工智能越來越多地出現(xiàn)在我們的生活中，尤其是ChatGPT、DeepSeek的出現(xiàn)，更把人工智能推向了高潮。

近幾年，很多高校紛紛開設(shè)人工智能專業(yè)。2019年，全國35所高校率先獲得人工智能專業(yè)的首批建設(shè)資格。據(jù)不完全統(tǒng)計(jì)，目前已有超500所高校成功申報(bào)人工智能本科專業(yè)。

以下是軟科2025年人工智能中國大學(xué)專業(yè)排名，僅供參考：

（圖片來源：軟科）

總結(jié)

人工智能專業(yè)作為我國培育AI領(lǐng)域核心人才的核心載體，其人才輸出與技術(shù)落地從多維度深度賦能我國未來社會發(fā)展，推動AI技術(shù)與醫(yī)療、教育、交通、政務(wù)等民生領(lǐng)域深度融合，也為AI基礎(chǔ)理論研究和前沿技術(shù)攻關(guān)輸送科研創(chuàng)新人才，助力破解 “卡脖子” 技術(shù)難題、夯實(shí)科技創(chuàng)新底座，支撐我國實(shí)現(xiàn)高水平科技自立自強(qiáng)?？梢哉f，人工智能專業(yè)是我國實(shí)現(xiàn)科技強(qiáng)國、制造強(qiáng)國、數(shù)字中國戰(zhàn)略目標(biāo)，推進(jìn)中國式現(xiàn)代化的關(guān)鍵人才與技術(shù)基石。

當(dāng)然，在志愿填報(bào)過程中，我們可以充分利用AI工具，通過 “人機(jī)協(xié)同” 的方式制定最優(yōu)填報(bào)方案。在采納AI建議前，更要認(rèn)真核驗(yàn)其生成的志愿填報(bào)方案，對照教育考試院、院校官網(wǎng)等官方渠道，再次查閱目標(biāo)院校的歷年錄取分?jǐn)?shù)、錄取位次和專業(yè)招錄信息等核心內(nèi)容，最大限度減少 “AI幻覺” 和數(shù)據(jù)誤差帶來的不利影響。唯有讓AI回歸工具本位，才能避免因過度依賴而產(chǎn)生決策誤判。