從ChatGPT的出現(xiàn)讓人類第一次與代碼“談人生”，到AI硅膠娃娃的崛起，使得技術(shù)革命直接闖入了人類最私密的臥室。

人們驚訝的是為何AI的腳步如此迅猛？

各位最熟知的，莫過于在B站等短視頻平臺出現(xiàn)的甄嬛在遭四郎扇臉后端起機槍瘋狂掃射、林黛玉倒拔垂楊柳等，這些小作坊靠著簡單的AI軟件，輕松將流量費收入囊中。

更沒底線的是，你在社交媒體分享的日常照，轉(zhuǎn)眼就被人用軟件脫了個精光，要不換個身性感比基尼，要不干脆文案一換，搞成了灰色勾當。

最近國外媒體X平臺，掀起了一股馬斯克比基尼大賽，各種款式各種造型看的人眼花繚亂，以至于馬斯克本人選擇打不過就加入，主動玩起了自己的比基尼辣照。

不夸張的講，在AI工具的流行下，古今中外所有名人都沒逃過這場惡搞，地下長眠者也會被賽博復(fù)活。

這不僅是單純的玩樂、搞抽象，如今電商、新能源汽車等行業(yè)同樣讓AI折騰得不輕，造成重大損失者不計其數(shù)。

當心懷不軌者揮舞AI

在地上畫一個圈，貓咪會自己跳進去，但給人一個技術(shù)手環(huán)，恨不得給整個世界都套上緊箍咒。

最近不少人在社交媒體刷到過這樣一條視頻：

一位老人在視頻中苦口婆心的勸誡“我活到108歲，試茶80多年了”，轉(zhuǎn)頭開始推薦產(chǎn)品，跑步前進購買吧。

●圖源：抖音@新京報

事實上，視頻以及文案是由AI生成的，是某品牌聯(lián)合廣告公司的餿主意，這位茶界泰斗早已去世多年，被別有用心者包裝成了賽博銷售。

這類以AI制作名人背書加持商業(yè)的案例早已泛濫，什么教培機構(gòu)門前站著孔子，嘮著閑嗑就開始打廣告；唐僧取得真經(jīng)后，白龍馬失業(yè)只能去跑外賣；魯迅眼瞅著世界和平，于是講起了脫口秀……

有從業(yè)者透露，一條AI生成的名人惡搞短視頻，植入廣告報價可達數(shù)萬元；更有黑產(chǎn)團隊專門批量制作此類內(nèi)容，通過平臺分成、直播打賞實現(xiàn)盈利。

如今，AI惡搞名人的戲碼，早已從獵奇走向產(chǎn)業(yè)化。

從馬斯克的“比基尼變裝”到泰勒·斯威夫特的虛假私密照，從奧巴馬的“反諷演講”到梅西的“退役宣言”，只需輸入幾句指令，AI就能在幾分鐘內(nèi)生成以假亂真的圖文視頻。

●圖源：X平臺

這類視頻在社交媒體由于極強的反差和娛樂性，往往具備極高的播放量，其中不乏一些令人不適的內(nèi)容：

比如已經(jīng)去世的科比用肘擊整頓職場；霍金坐著輪椅在拳臺上被幾個壯漢當成沙包狂揍，嘴邊卻還掛著笑容；愛因斯坦和李小龍爭辯起了物理學，意見不合大打出手……

如果你進行制止，反而容易被扣上沒有娛樂精神，不會與AI和平共處的帽子。

還有之前火爆全網(wǎng)的AI喬任梁和AI李玟的視頻，視頻中強調(diào)“我并沒有離開，只是去了某個地方”“希望你們都能活得很好”“你們的每一個留言、每一份關(guān)懷我都感受到了”。

●圖源：抖音截圖

別急著感動，視頻里各類明星出鏡，背后都潛伏著利益操盤者，喬任梁父親公開稱，“不能接受，感到不舒適，希望對方下架”，并表示“他們未征求我們同意，是我侄女刷到視頻發(fā)給我的，這是在揭傷疤” 。

這些都是技術(shù)碰撞產(chǎn)生的新型問題，是AI降臨的又一深刻體現(xiàn)。

AI開始攪動商業(yè)場

之所以被稱為“迷人的危險”，是因為AI具備足夠的摧毀力。

各行各業(yè)很難有獨善其身者，前段時間，AI涉黃、造假新聞?wù)诿土覜_擊新能源汽車品牌，如小鵬汽車模特在車展做出擦邊姿勢、保時捷女銷售被換臉合成不雅視頻、小米汽車因其搞流量屬性被AI生成不雅視頻等。

這些 AI 生成的涉黃內(nèi)容，制作成本低至幾毛錢，傳播速度卻極其迅猛，給企業(yè)造成的損失動輒數(shù)億。

電商行業(yè)同樣被AI折騰的夠嗆，每隔一段時間都有多位電商賣家反映遭遇利用AI偽造商品瑕疵以騙取“僅退款”的情況。

涉及服裝、鞋包、美妝、電器、食品、生鮮果蔬在內(nèi)，幾乎所有的電商類目均受到波及，其中單價金額較小的商品更是受影響的重災(zāi)區(qū)。

而面對這是騙局，商家們普遍難以分辨且舉證艱難，如果太過強硬，一個差評的代價實在沉重，所以很多時候不少人選擇吃個啞巴虧。

財經(jīng)領(lǐng)域的AI亂象更是觸目驚心，社交媒體上的“財經(jīng)老師”們，用AI編造政策解讀、偽造業(yè)績報告，用標題黨、小作文煽動市場情緒，引發(fā)股價異常波動。

●圖源：網(wǎng)信辦

還有不法分子利用AI生成企業(yè)家的“授權(quán)視頻”，騙取經(jīng)銷商加盟費；更有甚者偽造名人投資推薦，誘導(dǎo)普通投資者入局騙局。

這些亂象的根源，在于AI降低了造假的門檻和成本。過去偽造一份財報需要專業(yè)知識，現(xiàn)在只需輸入指令；過去傳播謠言依賴線下渠道，現(xiàn)在AI能瞬間生成千篇一律的“小作文”，通過多平臺擴散。

而當造假成本低于違法成本，不法分子自然趨之若鶩，最終買單的卻是整個商業(yè)生態(tài)。

虛假社會新聞層面，同樣有AI 的身影，如洛杉磯山火中，好萊塢標志牌著火的圖片瘋傳網(wǎng)絡(luò)，不光是營銷號，還涉及一些社交媒體賬號和新聞頁面也在轉(zhuǎn)發(fā)，但最終被證實為AI生成。

還有西藏定日縣發(fā)生6.8級地震后，一系列“小男孩被埋圖”在互聯(lián)網(wǎng)平臺廣泛傳播，并配文日喀則地震等關(guān)鍵詞，最終同樣被核查為AI生成。

狂暴的歡愉，必然帶來狂暴的結(jié)局

更高階的AI玩家，則把目光放得更為長遠，利用AI搞起了新的創(chuàng)業(yè)敘事。

OPEN AI的創(chuàng)始人薩姆·奧爾特曼喊出過一句充滿誘惑的口號：“一個人就能做出市值10億美金公司的時代馬上就要到來?！逼鋵嵕褪菍I投射的希望。

●圖源：豆包AI

一些成功者的案例已經(jīng)破土而出，如9歲小學生利用大模型寫書，賺了2萬、創(chuàng)業(yè)小白用快手可靈制造宣傳視頻，年入30萬等，雖然遠未到達令人仰望的高度，但鑒于其“普通人”身份標簽，這樣的財富神話足夠被歌頌。

在爆金幣的誘惑之下，咱們對于AI自然多了些向外，而這些會讓風險被隨之拋到腦后，換句話說AI在正道上產(chǎn)生的價值實在讓人無法舍棄。

年輕人或許體會更深，最近一兩年內(nèi)有關(guān)AI取代工作崗位的消息頻出，其中財務(wù)、翻譯、銀行被認為最有可能被代替，這還僅僅這是AI發(fā)展的起步階段。

但AI的副作用，已經(jīng)到了不容忽視的地步，所以《人工智能生成合成內(nèi)容標識辦法》的到來是場及時雨。簡單說，以后所有AI生成的視頻、圖片、文章，都得打AI制作的標簽了。

從制作者到發(fā)布平臺，全鏈條都有責任明確告知大家：這是AI合成的，可別當真！這就像給虛擬內(nèi)容上了個“防偽標識”，讓技術(shù)跑得更穩(wěn)，也讓咱們看得更明白。

而且目前不少平臺已經(jīng)開始整治AI創(chuàng)造內(nèi)容，如抖音、快手、小紅書、微信推出知治理措施推進算法向上向善，目的就是將謠言扼殺在搖籃里。

在AI時代下，到底是人類馴化AI，還是AI逐漸塑造新人類，這無疑是個需要警惕的問題。

一個不容忽視的底線是，技術(shù)，最終都是為了守護人之為人的尊嚴與溫度。

*編排 | 黃家俊 審核 | 黃家俊

行業(yè)資訊、案例資料、運營干貨，精彩不停

2000萬品牌經(jīng)理人內(nèi)參！

聚焦頭部與標桿，助力品牌高端化。

品牌專訪微信：jiangnan254（備注：專訪）

百萬品牌經(jīng)理人都在看