近日，字節(jié)跳動(dòng)上線Seedance 2.0視頻生成模型，進(jìn)行內(nèi)測(cè)，引發(fā)行業(yè)熱議。

該模型支持文字、圖片、視頻、音頻等各類素材輸入生成視頻，在自運(yùn)鏡和分運(yùn)鏡、全方位多模態(tài)思考、音畫(huà)同步生成、多鏡頭敘事能力等幾個(gè)關(guān)鍵能力上實(shí)現(xiàn)突破。

先看看效果：

有網(wǎng)友認(rèn)為，看了Seedance 2.0的生成視頻效果后，很快普通人就分不清AI生成視頻了。

有網(wǎng)友直言，眼已瞎，AI視頻已進(jìn)入分辨不出的時(shí)代。

《黑神話悟空》制作人馮驥也發(fā)文對(duì)Seedance 2.0大加贊賞：“昨天試了試剛上線即夢(mèng)的Seedance 2.0。它在使用手冊(cè)標(biāo)題的最后，寫(xiě)著Kill the game!（殺死比賽）。這個(gè)評(píng)價(jià)，相當(dāng)客觀。AIGC的童年時(shí)代，結(jié)束了。”

他用領(lǐng)先、全能、低門(mén)檻、產(chǎn)能爆炸、視頻全民化等詞描述自己的使用感受。

他同時(shí)也表達(dá)了對(duì)假視頻泛濫與信任危機(jī)的擔(dān)憂。因?yàn)楸普娴募僖曨l將變得毫無(wú)門(mén)檻，而現(xiàn)有的知識(shí)產(chǎn)權(quán)與審查體系會(huì)面臨空前沖擊。

他鄭重建議：請(qǐng)大家盡快提醒父母與不熟悉AI的親友，未來(lái)一切缺乏官方權(quán)威渠道背書(shū)的視頻內(nèi)容（尤其是包含個(gè)人形象與聲音的）都可能是偽造的。請(qǐng)務(wù)必通過(guò)多渠道交叉確認(rèn)，避免上當(dāng)。

除了對(duì)假視頻的擔(dān)心，隱私問(wèn)題也浮出水面。

知名科技博主Tim（本名潘天鴻）在評(píng)測(cè)過(guò)程中發(fā)現(xiàn)，僅提供了自己的照片、未提供聲音或視頻等素材的前提下，Seedance2.0能夠生成帶有Tim個(gè)人音色的聲音。

更讓Tim感到驚訝的是，他只上傳了辦公樓的一面，但視頻卻能生成與現(xiàn)實(shí)幾乎一樣的樓的另一面。

“這不恐怖嗎？它知道我背后的東西是什么�！�

Tim認(rèn)為，Seedance 2.0大量訓(xùn)練了他公司的視頻，而他沒(méi)有被聯(lián)系過(guò)授權(quán)。

Tim又用何同學(xué)的照片生成視頻，但這次的聲音不是何同學(xué)，還是Tim的聲音。

Tim認(rèn)為如果一個(gè)人的數(shù)據(jù)全部進(jìn)入了AI數(shù)據(jù)集，它能夠100%的模擬出這個(gè)人任何的形態(tài)和聲音，“這樣的內(nèi)容，你的家人能分得出真假嗎？”

隨著真假視頻、隱私問(wèn)題的討論，即夢(mèng)方面今天緊急暫停了真人素材作為主體參考。

即夢(mèng)的運(yùn)營(yíng)人員表示：“即夢(mèng)創(chuàng)作者們大家好，Seedance 2.0在內(nèi)測(cè)期間收獲了遠(yuǎn)超預(yù)期的關(guān)注，感謝大家的使用與反饋。為了保障創(chuàng)作環(huán)境的健康可持續(xù)，我們正在針對(duì)反饋進(jìn)行緊急優(yōu)化，目前暫不支持輸入真人素材作為主體參考。我們深知?jiǎng)?chuàng)意的邊界是尊重。產(chǎn)品調(diào)整期間給各位帶來(lái)的不便，敬請(qǐng)諒解，期待以更完善的面貌與大家正式見(jiàn)面�！�

什么叫真人素材參考？看即夢(mèng)App這張使用圖就明白了。

就是在即夢(mèng)生成視頻操作中，你可以上傳一張真人照片作為生成時(shí)的參考，其實(shí)就是真人作為視頻里的主體。

而現(xiàn)在即夢(mèng)不讓上傳真人照片用來(lái)生成視頻了。

這次事件暴露出AI視頻幾大問(wèn)題：

真假難辨導(dǎo)致的信任危機(jī)。普通人肉眼無(wú)法區(qū)分AI生成與實(shí)拍，造謠、詐騙、仿冒親友、偽造輿論視頻的成本趨近于零，現(xiàn)有法律、審核、溯源體系可能跟不上。

視覺(jué)證據(jù)不再天然可信，人類進(jìn)入 “后真相視頻時(shí)代”。

隱私與數(shù)據(jù)授權(quán)，成為灰色地帶。Tim的實(shí)測(cè)暴露了最尖銳的問(wèn)題，用戶未授權(quán)、未知情，數(shù)據(jù)卻已被學(xué)習(xí)。

這觸及了全球AIGC最敏感的紅線，模型到底用了誰(shuí)的數(shù)據(jù)？有沒(méi)有授權(quán)？

技術(shù)的權(quán)衡發(fā)展問(wèn)題。好在這次僅是內(nèi)測(cè)，范圍較小，通過(guò)內(nèi)測(cè)反映出問(wèn)題，可控可治。但也不能一刀切，技術(shù)領(lǐng)先不易，應(yīng)該保護(hù)，也應(yīng)該在安全的渠道內(nèi)發(fā)展。

不是關(guān)閉功能，是先把 “最危險(xiǎn)口子” 堵上，先把最容易用于偽造、詐騙、侵權(quán)的功能關(guān)掉，保留技術(shù)探索空間。

AI時(shí)代的全民信息素養(yǎng)問(wèn)題。馮驥的預(yù)警非常重要，必須盡快普及AI知識(shí)，提升公眾對(duì)虛假信息的辨別能力，建立“多渠道交叉驗(yàn)證”等新的安全習(xí)慣。

Seedance 2.0內(nèi)測(cè)爆火與緊急暫停真人功能，是AIGC從炫技階段正式進(jìn)入安全與合規(guī)并重階段的標(biāo)志性事件。

最后我想到的是，那些每天出鏡的視頻博主們，是不是最容易被Deepfake（深度偽造）？有沒(méi)有打一激靈？