在之前的文章中我們討論了當紅風頭正盛的ChatGPT,分析了它的技術本質、應用場景和法律風險初探。而在近期的《流浪地球》系列電影中,“虛擬數字人”的概念博人眼球。這不禁讓我想起另一個紅極一時的概念,“深度偽造”、“AI換臉”。
深度合成技術
事實上,“虛擬數字人”的構建離不開包括偽造技術在內的深度合成技術,而ChatGPT是深度合成領域下的一類模型。數據深度合成(DeepSynthesis)本身是一個中性概念,泛指借助深度學習算法模型等智能化方案自動生成文本、圖像、語音、視頻等數據內容的一系列處理技術。其中文本因為其較強的字符特征,只需滿足空間序上的合理性,與視頻、音頻類型數據的處理思路略有不同。
在ChatGPT一類的大型語言模型中,包含預訓練和下游任務訓練兩個部分。在預訓練階段,模型從大量的數據中學習復雜的上下文聯系,并將這種聯系向量化。Next-token-prediction和masked-language-modeling是用于預訓練語言模型的核心技術。在第一種方法中,模型被給定一個詞序列作為輸入,并被要求預測序列中的下一個詞,而在第二種方法中,其輸入句子中的一些詞被替換為特殊token,例如,模型被要求預測應該插入到位置的正確的詞。同時,在下游任務訓練中,In-contentLearning被提出以提升模型在各個場景任務下的表現能力。譬如標注者會給模型一個提示性的輸入,讓模型更加清楚的感知到應該輸出的范式。
奢侈品巨頭愛馬仕考慮試水元宇宙并認為元宇宙是很好的交流工具:金色財經消息,奢侈品巨頭愛馬仕(Hermès)執行董事會主席Axel Dumas在近日舉行的年度股東大會上表示,盡管集團仍將聚焦手工藝傳承,但也會考慮使用“元宇宙”與消費者進行交流。他表示“我們對元宇宙感到好奇和感興趣”,并補充說它可能是一個很好的交流工具。(路透社)[2022/4/22 14:41:10]
在圖像、音頻類深度偽造模型中,生成網絡”或“生成器”負責制作復制原始數據集特征的合成數據如圖片、音頻記錄、視頻等,并制作“深度合成物”;鑒別網絡或者說鑒別器則負責識別合成的數據,檢測該視頻是否為偽造。通過反復的“無監督學習”過程,“生成網絡”制作并修改“深度合成物”,直到“鑒別網絡”無法再檢測出該合成物系經“深度合成”,最終形成高保真的信息內容。
媒體:中國企業開始試水“數字藏品”一級交易市場:金色財經報道,據新華網轉發《解放日報》文章消息,中國企業已開始試水“數字藏品”一級交易市場。文章提到,B站,騰訊、阿里和京東等互聯網巨頭均已開始布局NFT,并推出了相關平臺,阿里的鯨探、騰訊的幻核,其平臺上都不再提及NFT,而是使用了“數字藏品”這一稱呼。并且也都聲明,不鼓勵任何形式的數字藏品炒作行為。國外的NFT,大都依托以太坊之類的區塊鏈公鏈發行,可以在公鏈上進行交易。換言之,更利于炒作。而國內的NFT,只是依托各家公司自己旗下的聯盟鏈來發售,理論上無法在以太坊等公鏈上進行交易。目前這些國內平臺上,都沒開放互相交易的功能。從國內范圍來看,現階段我國企業基本依托自身聯盟鏈,開始試水數字藏品的一級交易市場,但似乎并沒有想好“怎么用”。[2022/1/10 8:37:17]
動態 | “時間銀行”已在多地試水,區塊鏈技術為養老服務提供了新的解決路徑:金色財經報道,“時間銀行”已在北京、南寧、南京、重慶、成都、遵義等多地試水。今年10月起,南京建鄴區桃園居社區更是試點在支付寶里存儲公益時間,為自己兌換養老服務,且整個流程被記錄在區塊鏈上。應用區塊鏈技術,確保“時間”的存儲和兌換公開透明,防止丟失或者被篡改,不僅永久記錄在鏈,將來的某一天,還可以跨機構、跨區域通兌。很顯然,這里有兩個顯而易見的亮點:一則,公共養老服務與公益志愿服務“無縫鏈接”,拉長了老年人養老服務供給側的供應鏈。客觀地說,至少也部分緩解了行政兜底的壓力。二則,區塊鏈技術為養老服務提供了新的解決路徑,其真實社會場景的應用價值在“時間銀行”上直觀凸顯。[2019/11/21]
總體而言,基于深度學習的數據合成技術隨著算力的發展逐漸從研究型走向應用型,主要應用在文本合成、視覺合成、聽覺合成等三大領域,因循數據收集、模型訓練、偽造內容等核心步驟,創造虛擬數字人及其所處的生態環境。
聲音 | 中科院金融科技中心主任:國內一些企業和金融機構已開始積極試水區塊鏈應用:據中國新聞網消息,在中國國際電子商務中心主辦的數字經濟新引擎暨區塊鏈技術創新應用峰會上,中科院金融科技中心主任劉世平表示,區塊鏈技術大幅提高了金融交易和結算效率,降低了金融監管成本,并且實現了信用創造機制的重構和個人信息保護制度的完善。他指出,現在國內一些企業和金融機構已經開始積極試水區塊鏈應用,比如資產證券化、數字票據、銀行征信等。[2019/4/13]
相關戲仿性應用產品迅速迭代,一方面,數據深度合成的正向應用將創建的文本段落、虛擬角色、聲音模擬、視頻渲染等廣泛應用到社交通訊、娛樂文化等眾多場景之中,提升信息處理效率,增進臨場體驗。另一方面,深度合成內容難以精準及時地予以鑒識,部分主體傳播虛假信息,操控受眾反應,嚴重威脅整個社會的安全體系與保障機制,因此亟待構建和完善規模化的規制體系。
《互聯網信息服務深度合成管理規定》解析
我國國家互聯網信息辦公室、中華人民共和國工業和信息化部、中華人民共和國部在2022年11月3日通過了《互聯網信息服務深度合成管理規定》,該規定基于深度合成應用的定性和風險的評估,從而提出包括內容標志、主體報備、用戶實名制、內容審核機制、救濟機制、個人信息保護和數據安全等方面的規制措施。
內容標志
深度合成服務提供者對使用其服務生成或者編輯的信息內容,應當采取技術措施添加不影響用戶使用的顯著標識,從而防止公眾混淆誤認。
主體報備和用戶實名制
具有輿論屬性或者社會動員能力的服務提供者和技術支持者應當按照《互聯網信息服務算法推薦管理規定》履行備案手續,并在網站、應用程序公示,同時按照國家有關規定開展安全評估;服務提供商需要對深度合成服務使用者進行真實身份信息認證。颯姐團隊認為之后會出臺針對深度合成內容專門的備案手續。
內容審核機制和救濟機制
服務提供者應當加強深度合成內容管理。采取技術或者人工方式對輸入數據和合成結果進行審核,建立健全用于識別違法和不良信息的特征庫,完善入庫標準、規則和程序,記錄并留存相關網絡日志。
服務提供者應當建立健全辟謠機制。發現利用深度合成服務制作、復制、發布、傳播虛假信息的,應當及時采取辟謠措施,保存有關記錄,并向網信部門和有關主管部門報告。
個人信息保護和數據安全
服務提供者和技術支持者應當加強訓練數據管理,采取必要措施保障訓練數據安全,若數據集中包含個人信息,則需遵循個保法相關規定和配套標準。
算法安全評估
規定要求合成服務提供者和技術支持者應當加強技術管理,定期審核、評估、驗證生成合成類算法機制機理,強調了處理具有生物識別信息、可能涉及國家信息的模型、模板需要進行安全評估,相關審核、評估機制尚未明確要求。颯姐團隊認為該類評估由于企業對核心技術披露的限制以及當前評估技術的局限性,困難重重。
寫在最后
深度合成歸根結底是人工智能技術,尤其是算力發展的產物,其獨特的創造性注定會逐漸走入生產生活,因此監管體系和合規體系的構建是必然路徑。
深度合成技術上的特殊性要求我們一方面做好深度合成配套法律法規、標準的制定和完善,企業逐步摸索出一條合規路徑,另一方面投入到深度合成檢測追蹤技術的開發與應用,法律、技術雙管齊下,為做優產業發展環境提供重要基石,最終促進整個行業的健康發展。
CoolCats將在今年啟動品牌重塑,對于陷入低迷泥潭的CoolCats來說,能否借助市場反彈的“東風”再次雄起呢?下面.
1900/1/1 0:00:00Messari報告對以太坊的2022年進行了概述,同時對2023年的轉機進行了預測,在新的一年為區塊鏈原住民的決策提供參考.
1900/1/1 0:00:00因對新興技術和資產的投資,ARKInvestment及其創始人CatherineWood的觀點和投資行為在市場上一向引人矚目.
1900/1/1 0:00:00原文作者:Twitter@EvieEvieXia原文編輯:Twitter@binary_dao 研究導讀: 中本聰在?2009?年創造比特幣的時候,就有了關于支付通道的想法.
1900/1/1 0:00:00作者:Aave 編譯:DeFi之道,Kyle一文速覽AaveV3四大重要特征。1月27日,DeFi借貸協議Aave宣布其V3版本已部署在以太坊主網上.
1900/1/1 0:00:00以太坊上海升級,也被眾多媒體稱為Web3下一場新的敘事,這也是目前大家討論最多的一熱點。2023年3月,以太坊將推出預期的上海升級,截止發稿前,本次升級主要包括EIP-3540、EIP-3651.
1900/1/1 0:00:00