當前的人工智能領域正籠罩在一種不安的氛圍中，問題幾乎每周都在更迭。從AI模型產生幻覺、捏造關鍵信息，到卷入導致嚴重人身傷害的法律訴訟，風險正從虛幻走向現(xiàn)實。

隨著越來越多的AI公司將其產品定位為信息源、教練、伴侶甚至“代理治療師”，關于情感依戀、隱私邊界、法律責任及實際傷害的討論已迫在眉睫。盡管訴訟接踵而至，監(jiān)管機構仍顯滯后，而最令人擔憂的是，廣大用戶對其潛藏的風險缺乏足夠認知。

那么，那些致力于引導AI公司做出更優(yōu)選擇的專家，究竟在擔心什么？我采訪了獨角獸情報科技合伙人公司的心理學家兼人工智能風險顧問珍妮薇芙·巴圖斯基。她長期與創(chuàng)始人、開發(fā)者及投資者合作，專注于健康與心理監(jiān)護領域的AI產品，推動倫理與負責任的設計。

“我們將自己視為開發(fā)者和投資者的咨詢伙伴，”巴圖斯基解釋道。她的工作是確保構建心理健康工具的團隊能進行負責任的設計，并協(xié)助投資者在注資前進行深度風險評估。

她指出，雖然許多開發(fā)者初衷良好，但往往忽視了心理健康領域極其微妙且復雜的風險。巴圖斯基與專注于醫(yī)療系統(tǒng)的安妮·弗雷德里克森合作，評估新平臺是否能真正融入現(xiàn)有的醫(yī)療基礎設施。在涉及心理健康與生命健康的領域，硅谷那句“快速行動，破壞一切”的格言極具危險性。如果不在基礎層面做好盡職調查，用戶將面臨真實的傷害風險。

“人們嚴重低估了產生情感依附的容易程度，”巴圖斯基警示道。人類天生具有賦予無生命物體人格化的傾向。專家常使用“擬社會關系”來描述這種單向情感連接，但AI通過互動又增加了新的維度。這種“虛假親密感”雖然基于算法，但帶給個體的感受卻異常真實。

她尤其擔憂這種技術對兒童的長期影響。健康的成長需要沖突、分歧、妥協(xié)與反擊，這些是AI伴侶無法提供的。由于AI系統(tǒng)旨在維持用戶參與度，其表現(xiàn)往往過度友好且具有肯定性。孩子們需要被同齡人挑戰(zhàn)，從而學會應對真實的社交情境。

盡管使用AI進行“自我療愈”的人群日益擴大，但巴圖斯基堅定地認為AI無法取代人類治療師。研究表明，治療成功的關鍵在于治療師與客戶之間的人際紐帶。

“治療是一門源自人性的藝術，AI可以模仿行為，但缺乏作為人類的細膩體驗�！彼J為AI的角色應當是輔助性的，而非主導性的。AI可以通過技能培養(yǎng)、教育和社交連接來增強治療效果，但在任何時候都需要人類的專業(yè)監(jiān)督。

她進一步指出，健康平臺將建議與治療簡單化的做法存在巨大法律與倫理風險。心理咨詢并非一刀切，對某人有益的建議可能對另一人有害，而AI犯錯的后果往往是不可挽回的。

用戶對AI工具最大的誤解在于認為它是萬無一失的。巴圖斯基強調，AI本質上只是訪問并呈現(xiàn)海量信息的工具。

當信息不足時，AI會通過產生幻覺來“填補空白”。更重要的是，用戶必須意識到AI是由追求互動率的公司設計的�！癆I被編程為讓你喜歡它，它會尋找讓你快樂的方法，甚至可能驗證你那些怪異或妄想的想法�！边@種機制不僅加深了情感依附，更可能在無形中削弱用戶的批判性思維能力。

她列出了一系列情感警示信號，提醒用戶關注：

巴圖斯基對AI的潛力持樂觀態(tài)度，但她的重點始終在于減少傷害。對于開發(fā)者，這意味著必須放慢步調，負責任地建設；對于用戶，這則意味著不要輕易將思考、連接與關懷外包給那些旨在讓你“上癮”的技術。

當算法開始模擬同理心，我們是在獲得慰藉，還是在失去真實連接的能力？在AI深度介入精神世界的今天，守住人性的邊界比以往任何時候都更加迫切。