近日，美國人工智能公司“開放人工智能研究中心”（OpenAI）發布了旗下首款文生視頻模型Sora，持續引發關注。這是繼文本模型ChatGPT和圖片模型Dall-E之后，OpenAI又一款極具顛覆性的AI大模型產品。

在受訪專家看來，Sora的出現對現實生活和傳統行業帶來深遠影響。目前，國產AI大模型在視頻生成技術上與Sora相比存在明顯差距。Sora的出現對人工智能技術的監管能力提出了諸多新挑戰，需提防AI大模型潛藏風險。

AI大模型Sora影響幾何

據OpenAI介紹，Sora可根據文本指令創建近似現實且富有想象力的場景，生成多種風格、不同畫幅、最長為一分鐘的高清視頻。該模型還能夠根據靜態圖像生成視頻，或對現有視頻進行擴展或填充缺失的幀。

Sora將帶來什么？盤古智庫高級研究員江瀚在接受中國城市報記者采訪時表示：“隨著文字生成視頻大模型技術的不斷發展，我們可以預見它將深刻改變人們的生活方式。”

具體而言，江瀚認為，在教育領域，Sora可迅速生成個性化、生動有趣的教學視頻，減輕教師制作課件的負擔。在廣告和營銷領域，它助力企業打造創意廣告，吸引顧客，增強品牌影響力。影視制作、動畫、虛擬現實和游戲開發行業也能因此提高效率、降低成本，創作出更多驚艷作品。對于新聞報道和社交媒體內容創作者，Sora則有望成為他們制作高質量視頻的得力助手。

“和其他的視頻AI軟件相比，Sora的優勢在于生成的視頻足夠長、足夠真實，并擬合了物理規律，起到了以假亂真的效果。”江蘇省道德發展智庫研究員、東南大學哲學與科學系副教授張學義分析，該技術目前還在內測階段，尚未對公眾開放；如果開放，可能應用的領域最直接的就是電影、自媒體、動畫、廣告等行業，它可以根據輸入文本直接生成對應的視頻，也可以剪輯修改已有的視頻。

在萬興科技AI創新中心總經理齊鏜泉看來，Sora通過文生視頻技術快速生成短視頻素材，減少了對傳統素材庫的依賴，對視頻素材行業帶來一定沖擊。同時，Sora提高了短視頻制作效率，降低了成本，為創作者提供了更多創作自由，推動了行業創新，對短視頻行業而言是重大機遇。

“Sora無疑具有顛覆性影響。”中國政法大學傳播法研究中心副主任朱巍告訴中國城市報記者，過去，藝術家與普通人之間的區分主要依據在于他們如何表達思想和這種表達所引發的共鳴程度。隨著技術的發展，尤其是AI大模型，藝術家和普通人的界限將被打破，人人皆可成為藝術家。

“技術使得創意轉化變得更加容易和迅速。以前，創意轉化為成果需要藝術家付出大量的時間和精力。現在，普通人通過技術也能很輕松地將自己的創意轉化為成果。”朱巍進一步分析說。

國產AI大模型如何迎頭趕上

Sora并非首個文生視頻大模型。2023年11月，Pi-kaLabs發布首個產品Pi-ka1.0，能夠生成和編輯3D動畫、動漫、卡通和電影，被視為一款零門檻“視頻生成神器”。此外，Runway、谷歌Lumiere視頻AI生成模型、StabilityAI的SVD1.1也相繼問世。

齊鏜泉在接受中國城市報記者采訪時表示，Sora驗證了大模型，尤其基于世界模型的文生視頻大模型這條路是可行的。但真正要實現世界模擬器，打破模擬和現實，目前也還面臨一些難點。

“例如，物理交互的準確性，盡管Sora能夠模擬一些基本的物理交互，但它在處理更復雜的物理現象時可能會遇到困難。又如，空間細節的精確性，處理空間細節方面可能不夠精確，可能影響到視頻內容的準確性和可信度。”齊鏜泉舉例說。

在江瀚看來，“文字生成視頻”大模型面臨四大技術挑戰：一是模型訓練成本。由于生成高質量視頻的模型通常需要大量的數據和計算資源進行訓練，這導致了較高的成本。二是生成內容的準確性和逼真度。雖然現有的模型已經可以生成相當真實的效果，但要達到人類專家的水平還有很長的路要走。三是模型的解釋性和可控性。目前的模型往往缺乏足夠的解釋性，用戶很難了解模型是如何從輸入的文字生成視頻的，這限制了其在某些領域的應用。四是版權和隱私問題。在使用公共數據集進行訓練時，可能會涉及版權和用戶隱私的問題。

記者注意到，國內科技公司在文生視頻領域早已有布局。公開信息顯示，包括字節跳動、百度、阿里、海康威視、萬興科技、拓爾思、當虹科技在內的科技公司，都在積極布局文生視頻。

“相比Sora，目前國產AI大模型在視頻生成技術上存在不小差距。”齊鏜泉認為，要縮短這一差距需要加強大模型算法開發，深入研究Sora開源框架的細節；同時，積累中文數據，建立統一標準以解決數據清洗和標注問題；此外，提升算力支持，實現本土化以滿足大數據訓練需求。

提防AI大模型潛藏風險

從人工智能技術驅動的自然語言處理工具ChatGPT到如今的Sora，從自動生成文字、圖片，再到自動生成視頻，人們在為技術不斷取得新突破鼓掌的同時，對其帶來的新型風險也必須警惕。

“AI大模型對傳統版權保護制度提出了挑戰。”朱巍認為，隨著Sora等視頻大模型的涌現，全球版權制度正面臨前所未有的調整。技術的進步不僅推動了視頻生成和內容創造的革新，也深刻影響了版權的意義和定義。從網絡收費到免費，再到當前的收費模式，版權的演變始終與技術進步緊密相連。

此外，AI大模型的崛起對內容合規監管帶來了新挑戰。朱巍認為，隨著AI技術的快速發展，創造力極大提升，成本大幅下降，這導致造謠的門檻大幅降低，內容監管變得愈加困難。尤其是邁入AI時代，有的法律體系卻還停留在工業時代，有的思維觀念甚至停留在農業社會，這種錯位使得人們對一些問題的認知出現了割裂。

同時，朱巍提醒，因為擔心它可能帶來未知風險而限制其發展，將與時代脫節。像歷史上的英國發布《紅旗法案》一樣，試圖限制汽車速度使其低于馬車，這顯然是不現實的。在對人工智能監管時，相關部門應堅持包容審慎的監管原則，嚴守底線，如網絡安全和信息安全，特別是個人權利的保護。對于其他潛在問題，可以暫時保持觀察，根據實際情況作出應對。

“文生視頻大模型作為一項新興技術，確實存在一定的潛在風險。”江瀚提到，首先，它可能被濫用，比如生成假新聞或者誤導性內容，對社會秩序構成威脅。其次，由于模型生成的視頻可能與現實世界難以區分，這可能導致公眾對真實性的認知產生混淆。再者，模型的決策過程不透明，可能會導致責任歸屬問題，當生成的視頻出現問題時，難以確定責任方。

針對上述潛在風險，江瀚建議，一是建立相應的法律法規，對模型的使用進行規范和監管，確保其不會對社會秩序造成負面影響；二是提高公眾對AI生成內容的辨識能力，培養批判性思維，以應對假新聞和誤導性內容的問題；三是推動模型的透明度和可解釋性研究，使人們能夠更好地理解和控制模型的行為；四是加強行業自律，鼓勵開發者和企業在追求技術創新的同時，承擔起相應的社會責任。

接受采訪時，張學義同樣強調了健全法律法規的重要性。張學義提到，如果相關監管的法律法規不健全，文生視頻模型還可能被用于詐騙等違法之事。由此帶來的倫理風險就是可能會對相關行業從業者乃至普通民眾的自主性、尊嚴、隱私、知情同意等權益造成侵犯。

面對上述風險，張學義認為需要采取標本兼治的策略：一方面，采取“自上而下”的方式，建立健全針對生成式人工智能的倫理審查制度和法律監管制度，同時對人工智能研發人員進行科技倫理教育和培訓；另一方面，采取“自下而上”的路徑，將具有實操性的倫理原則嵌入到人工智能產品的設計之中，并做好流程監管，真正做到“科技發展、倫理先行；敏捷治理、快速反應”，最終實現“科技向善”的目的。

《 中國城市報 》（ 2024年02月26日  第04 版）