影片模型Seedance2.0火爆,“真人素材參考”功能已被暫停,給隱私保護和素材安全提出哪些新課題?

央廣網北京2月12日訊息(總檯中國之聲記者任夢巖)據中央廣播電視總檯中國之聲報道,最近字節跳動推出的影片模型Seedance2.0,引起全網熱議,透過幾句簡短的提示詞就能生成電影級的影片素材。比如,某特工逃避追捕時撞翻了一箱水果,橘子和蘋果在空中飛舞的慢動作等,都是由AI生成。再比如,兩位根本不在一本書裡的動畫人物,成了真人在演戲。過去我們常開玩笑說的關公戰秦瓊、黑貓警長大戰孫悟空,現在只需幾行提示詞,就能快速呈現。

但與此同時也有人發現,該模型的模仿能力過強,不僅可以生成現實生活中的人物影片,還能高度還原語音語態,令普通觀眾真假難辨素材。一名知名博主就在測試中發現,僅將他自己的人臉照片上傳至模型,系統就能自動生成與他本人高度相似的聲音。據瞭解,目前平臺已暫停“真人素材參考”功能。影片模型的高速發展,給隱私保護和素材安全提出哪些新課題?

這次更新的Seedance2.0有多強?與其他多模態大模型相比,有哪些優勢?中關村現代資訊消費應用產業技術聯盟副理事長包冉,在進行深度測試後評價:它解決了一個普遍性痛點——大模型生成內容的一致性素材

包冉表示:“迄今為止,Seedance2.0是我個人使用體驗最好的一款素材。生成式人工智慧的模型,它最大的問題就是一致性不夠好。提問某一個大模型的對話機器人,過一會兒再問,它給出的答案不一樣。我們有一個很形象的詞叫‘煉丹’,裡面神奇的化學反應你不知道它控制在哪一步。上一次按照工序,嚴絲合縫的執行完,出來的結果和下一次遵循同樣流程、同樣步驟的操作,應該得到一致的結果,這叫一致性。”

包冉認為,只有解決了“一致性”,AI才能真正從玩具變成生產力工具,進入嚴肅的影視工業流程素材

包冉說:“如果每次結果都是聽天由命,靠運氣去撞,那麼就根本無法保證它質量的穩定性,如果僅僅把多模態的大模型作為一種娛樂工具,那無所謂,反正就圖個樂兒,無法把它當做嚴肅的生產工具素材。所以說,Seedance2.0這個版本在一致性上取得了很好的突破。”

舉個例子,原本需要除錯幾十個小時的電影特效,只需要幾行提示詞就能做到,再加上AI已經很成熟的圖片、文字生成功能,影視行業的生產力會帶來極大提升,對於從業者,既是機遇,也是挑戰素材

包冉進一步說:“過去可能需要長時間訓練,才能獲得的技能,現在透過AI工具賦能,只要有足夠創意和精準表達,就是提示詞,就能實現電影院線級的製作水準素材。”

資深動畫製片人鄭女士告訴中國之聲,包冉說的未來,已經來到了現實工作中素材。現在行業的全流程,從編劇到人物設計再到後期製作,都已經用上了AI,但目前的AI工具仍不完美,AI經常像是個“不聽話的畫師”。

鄭女士表示:“我們大概在前兩年就已經開始用AI進行一些美術了素材。但是,最開始的時候是要AI生成一部分,然後手改一部分,有時還要在當時AI圖片大模型上找工程師來加一些外掛,保證轉面、三檢視的一致性,否則AI直接生成可能會出現正臉與側臉不是同一人,或者耳朵位置、頭飾位置發生變化等情況。”

Seedance2.0有望解決目前AI生成影片的一致性差的難題,鄭女士對此也表示認同素材。她介紹,為了得到一個能用的鏡頭,創作者往往要耗費大量時間去“抽卡”。

鄭女士說:“每一次讓它改,生成的影片都不一樣素材。比如這次畫面A有問題,經過它修改,A解決了,但畫面B又出現了問題,還得再改,非常費勁。我覺得每次都像在進行語文考試,天天在摳關鍵詞,特別累。”

像考語文一樣摳關鍵詞,這句無奈的調侃,道出了行業對工具“可控性”的渴望素材。而Seedance2.0這次之所以能引爆全網,核心就在於它聽懂了“人話”,也看懂了“世界”。比如提出一套動作,它就能精準複製下來,這將大幅降低動畫製作的專業門檻。動畫製片人鄭女士在採訪中描繪了這樣一個未來:以前需要極高成本的特效大片,未來可能在小成本的工作室裡就能誕生。Seedance2.0讓創作者可以跨過繁瑣的技術壁壘,直接比拼故事的核心。

鄭女士表示:“那以後大廠的追光等效果不再可望不可即,它能讓我們在小成本的基礎上做出更好的效果素材。但現在就是要考驗你的表演和故事,這永遠是消費者最關心的。”

隨著影片生成技術逼近現實的邊界,“眼見為實”正在受到挑戰,這給隱私保護和素材安全也提出新課題素材。針對公眾擔心的“深度偽造”問題,包冉強調,技術在進化,監管體系也要隨之進步。

“工具本身確實是中立的,但是,這種工具如果沒有相匹配的法律法規、安全底線相約束的話,極有可能造成相當大的混亂素材。舉個例子,很多網際網路上的詐騙分子,他們之前就有過用深度偽造、深度合成的方式,合成某個男明星的頭像和語態,對這些男明星的粉絲們進行詐騙。“包冉這樣說。

面對挑戰,包冉給出的藥方是“用技術治理技術”素材。監管部門、法律法規和技術平臺必須形成合力。

包冉講道:“除了相關的法規之外,還有技術素材。因為需要用‘魔法’打敗‘魔法’。如果不透過技術手段進行反制和制約,光靠人工稽覈,完全達不到技術生產的高效率,就被海量資訊淹沒掉了。”

本站內容來自使用者投稿,如果侵犯了您的權利,請與我們聯絡刪除。聯絡郵箱:[email protected]

本文連結://amp.haizhilanhn.com/post/13716.html

🌐 /