元宇宙:元宇宙的首塊合規拼圖：《互聯網信息服務深度合成管理規定（征求意見稿）》發布_元宇宙app官方版下載賺錢

一、背景

從基于深度合成技術的Deepfake出現開始，深度合成技術一直就飽受爭議。從ZAO的換臉引起公眾警覺，到“假靳東”的詐騙案件，不斷降低的深度合成技術使用門檻讓傳統上“有圖有真相”發展到“有視頻都未必有真相”。此外，元宇宙、虛擬人等基于深度合成技術的理念也伴隨著商業熱度滾滾而來，要求法律與監管部門不能忽視這一生機勃勃的技術。

2022年1月28日，網信部門發布了《互聯網信息服務深度合成管理規定》，標志著監管部門為虛擬空間打造的又一塊拼圖已具備雛形。該征求意見稿的發布，是監管部門對算法、元宇宙等近期熱點領域已知與潛在風險的回應。

《互聯網信息服務深度合成管理規定》并不是我國法規首次關注深度合成內容，此前在《互聯網信息服務算法推薦管理規定》《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》等法律法規中均涉及深度合成內容，但這些法規更多是從音視頻或較為宏觀的角度關注，而此次公開的《互聯網信息服務深度合成管理規定》則針對深度合成內容的特點，更有針對性地進行規制。

Maxar為元宇宙和虛擬現實推出3D數字孿生解決方案:金色財經報道，Maxar Technologies發布了SYNTH3D，這是一種用于模擬、元宇宙和VR應用的數字孿生技術。高性能3D解決方案將允許創造者構建反映現實世界的虛擬環境。3D數字孿生解決方案是與人工智能初創公司Blackshark.ai合作開發的。Maxar的最新產品將幫助創作者模擬并將真實世界的環境帶入元宇宙和虛擬現實(VR)應用程序。[2023/2/27 12:31:15]

二、適用范圍

《互聯網信息服務深度合成管理規定》將深度合成技術定義為：“利用以深度學習、虛擬現實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。”與其說是定義，不如說是描述。

征求意見稿將以下使用深度學習的技術列為規制范圍：

中國人民大學成立全國高校首家元宇宙研究中心:金色財經消息，近日，中國人民大學交叉科學研究院成立了國內高校首家元宇宙研究中心，將推出研究報告，出版中英文書籍和發表高質量論文，面向本碩博設立人才培養課程，通過對元宇宙這一國際創新領域的探索，推進學科交叉、交叉科學學術交流和人才培養。借助元宇宙研究中心，該校將在推動全國元宇宙技術、元宇宙產業、元宇宙風險防范、元宇宙治理、元宇宙監管與法律、元宇宙文化傳播等發展，搭建全國元宇宙領域政產學研合作交流平臺。為黨和政府科學決策提供智力支持與決策咨詢，促進產、學、研的深度融合和創新發展。此前消息，中文在線與清華大學共建國內首個元宇宙文化實驗室。（北京日報）[2022/4/20 14:35:29]

當然，使用傳統技術、未涉及深度學習技術的相關場景不在《互聯網信息服務深度合成管理規定》的調整范圍之內。

隨著深度合成技術的廣泛使用，《互聯網信息服務深度合成管理規定》的調整范圍遠不只是Deepfake，而是包括了數字化工作的各個維度：客服平臺的聊天機器人與營銷機器人、廣泛運用于地震等突發事件或體育賽事中的寫稿機器人、相機中的美顏功能、游戲中3D場景或捏臉功能、元宇宙所構建的虛擬空間……不一而足。

BBC：元宇宙平臺Roblox出現違禁游戲，現已被強制下架:金色財經報道，據BBC消息，元宇宙平臺Roblox出現違禁游戲“condos”， 玩家可以在其中談論違禁話題，化身角色還可以在做一些違禁行為。據悉，這款游戲只維持很短暫的時間，通常不到30分鐘，就被人檢舉或發現而被下架了，Roblox已經表示他將們利用人工和自動化系統隨時維護平臺規則，一旦發現違規立即下架。但是，Roblox也承認有極少數玩家刻意違規，該公司表示：“我們采取人工加上機器一起來偵測違規行為，每一個上傳到Roblox平臺的圖像、錄相和聲音檔案都會接受安全檢驗。”

此前，臉書的母公司Meta在其開發的虛擬現實“Horizon Venues”游戲中推出了新的“個人界限”功能，防止玩家角色靠近其他玩家化身。Roblox則表示：“我們的游戲平臺上不允許任何與性有關的內容和行為，我們對任何違反規定的人采取迅速行動。”[2022/2/17 9:57:16]

三、合規義務框架

《半月談》：元宇宙不一定導致內卷，虛擬與現實可以并行不悖:金色財經報道，新華社主辦黨刊《半月談》今日刊文《元宇宙的未來，是美好還是陷阱？》，文章指出元宇宙目前這么火，更像是由于西方經濟下行、疫情蔓延，現實中找不到更好的題材，而由資本制造出來的一個夢境。元宇宙目前仍然取代不了現實世界，元宇宙不一定導致內卷，它要導致人類毀滅更是不可能。實際上虛擬與現實可以并行不悖。總的來講，在可以預期的未來，人們的注意力還是會放在現實世界，解決實體經濟、科技創新、人口增長、貧富差距等問題。可以想象，元宇宙在誕生時，終結它的東西，就已經在醞釀中了。[2021/12/27 8:07:09]

《互聯網信息服務深度合成管理規定》所設定的合規義務框架圍繞著“深度合成服務提供者”與“深度合成服務使用者”兩方主體搭建。

元宇宙價值指數今日為1187.82點:金色財經報道，據同伴客數據顯示，11月11日元宇宙價值指數為1187.82點，較前日下跌96.66點，跌幅為7.52%。

構成元宇宙價值指數成分的上市企業或NFT平臺皆為目前在虛擬經濟領域表現出巨大市場價值和未來潛力的頭部機構，該指數能夠有效反映元宇宙虛擬經濟整體價值的發展趨勢。

注：2021年3月10日主要成份股roblox上市并產生第一個收盤價，故選取3/11日為本指數首次推出的基準日，初始值為100。[2021/11/11 6:45:39]

梳理后合規義務框架如下：

征求意見稿將服務提供者視為類似社交媒體平臺的角色，有義務對平臺內的用戶行為進行監督。但是，在現實中深度合成服務提供者的技術同樣依賴于第三方的提供，如可能會需要使用外部的引擎來支持自己的服務，在這樣的場景下，如何定位各方的主體角色可能是需要推敲論證的，可能更應該將之視為征求意見稿之外的技術開發者，而非服務提供者更加合適。

四、合規啟示

基于此前我們為該領域企業提供法律服務的經驗，我們建議企業可以依據以下思路開展合規工作：

1.梳理深度合成技術應用場景

企業可以通過問卷、訪談等形式，結合業務場景，全面梳理企業深度學習技術的使用情況。在梳理的過程中，可能需要特別關注用戶較多的使用場景。

2.風險評估

就相關技術的使用進行風險評估。對算法、深度合成技術的評估主要通過：查閱材料、查看系統、訪談人員、系統測試、攻擊測試、算法測試、查看算法等方式進行。如涉及個人信息的處理，可能還需要將個人信息保護影響評估納入評估機制中。

3.搭建內部制度規則、完善技術

在主體責任、算法審核、用戶注冊、信息內容、數據安全和個人信息保護、未成年人保護、教育培訓等領域將深度合成技術的風險管控納入考量。此外，還需要建立內容審核、事件響應、辟謠、協助調查等機制。

4.制定管理規則、平臺公約，更新服務協議

針對深度識別技術的使用，要求使用者在使用時：1）不得合成違法違規的內容；2）不得將合成內容用于違法或侵權用途；3）不得將合成內容謊稱為自然內容；4）用于合成的素材應當合法合規，對人像、聲音等生物識別信息獲取單獨同意并完成個人信息保護影響評估；5）對生成內容的知識產權的歸屬、數據處理的權限進行約定；6）其他需要約定或聲明的內容。

5.標識深度合成內容

通過添加水印、電子簽名等方式，對深度合成內容進行標識，避免公眾誤認。在此過程中，更重要的是設計該法定提示如何在有效告知公眾的基礎上，避免對業務的正常開展造成過大的沖擊。

6.完成算法備案

在法規正式實施后，盡快在相關系統完成算法備案，對備案中可能需要填寫的服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息，公司可以提前起草進行準備，以便在相關系統上線后盡快完成備案。

附：其他法規中關于深度合成技術的規定

《互聯網信息服務算法推薦管理規定》

發現未作顯著標識的算法生成合成信息的，應當作出顯著標識后，方可繼續傳輸

不得生成合成虛假新聞信息

《網絡信息內容生態治理規定》

網絡信息內容服務使用者和網絡信息內容生產者、網絡信息內容服務平臺不得利用深度學習、虛擬現實等新技術新應用從事法律、行政法規禁止的活動。

《網絡音視頻信息服務管理規定》

網絡音視頻信息服務提供者基于深度學習、虛擬現實等新技術新應用上線具有媒體屬性或者社會動員功能的音視頻信息服務，或者調整增設相關功能的，應當按照國家有關規定開展安全評估。

網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播非真實音視頻信息的，應當以顯著方式予以標識。

網絡音視頻信息服務提供者和網絡音視頻信息服務使用者不得利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播虛假新聞信息。轉載音視頻新聞信息的，應當依法轉載國家規定范圍內的單位發布的音視頻新聞信息。

網絡音視頻信息服務提供者應當加強對網絡音視頻信息服務使用者發布的音視頻信息的管理，部署應用違法違規音視頻以及非真實音視頻鑒別技術，發現音視頻信息服務使用者制作、發布、傳播法律法規禁止的信息內容的，應當依法依約停止傳輸該信息，采取消除等處置措施，防止信息擴散，保存有關記錄，并向網信、文化和旅游、廣播電視等部門報告。

網絡音視頻信息服務提供者發現不符合本規定第十一條第一款要求的信息內容的，應當立即停止傳輸該信息，以顯著方式標識后方可繼續傳輸該信息。

網絡音視頻信息服務提供者應當建立健全辟謠機制，發現網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的虛假圖像、音視頻生成技術制作、發布、傳播謠言的，應當及時采取相應的辟謠措施，并將相關信息報網信、文化和旅游、廣播電視等部門備案。

Tags：元宇宙BloxROBBLO元宇宙app官方版下載賺錢OBLOX幣Kiroboblockchain是什么行業

BTC