PAP:一文了解 ZK 在推進鏈上 AI 的作用_PAPER

原文來自：Modulus Labs

編譯：DeFi 之道

很高興終于可以與你們分享我們的第一篇論文，該論文是通過以太坊基金會的資助完成的，它的名稱是《The Cost of Intelligence: Proving Machine Learning Inference with Zero-Knowledge?》（或 paper0，這是酷孩子們的叫法)。

沒錯，這些都是真數字！有圖表！論文還討論了理論結構及其對性能的影響！事實上，paper0 是第一個跨通用 AI 原語套件對 ZK 證明系統進行基準測試的研究工作，你現在就可以閱讀整篇論文。

而這篇文章，你可以將其視為論文的總結，有關詳細信息，請參閱原論文。

事不宜遲，讓我們深入了解：

事實上，計算的未來將大量使用復雜的人工智能。看看我的文本編輯器：

Notion 的提示告訴我，他們的 LLM 可以讓這句話變得更好

白俄羅斯將于年底前對發行CBDC做出決定:金色財經報道，白俄羅斯共和國國家銀行已經為央行數字貨幣(CBDC)準備了一項試點計劃。國家銀行行長Pavel Kallaur表示，該國將在年底前就發行數字白俄羅斯盧布做出決定，這一決定將由國家元首作出。[2023/4/20 14:14:30]

然而，鏈上不存在功能性神經網絡，甚至連最小的推薦系統或匹配算法都不存在。真見鬼！甚至連實驗也沒有一個……當然，原因是非常明顯的，因為這太貴了，畢竟，即使運行價值數十萬 FLOP 的計算（僅夠在微型神經網絡上進行一次推理）的成本也是數百萬 gas，目前相當于數百美元。

那么，如果我們想將 AI 范式帶入無需信任的世界，我們該怎么做？我們會翻車（roll-over），然后放棄（give up）嗎？當然不是…等等！Roll-over）……Give up……

如果像 Starkware、Matter Labs 和其他公司這樣的 Rollup 服務，正在使用零知識證明來大規模擴展計算，同時保持密碼學安全，那么我們能為 AI 做同樣的事情嗎？

這個問題成為推動我們在 paper0 中工作的激勵種子。 劇透警報，以下是我們發現的：

兩巨鯨地址今日一共買入近900萬ARB:金色財經報道，據鏈上數據分析師余燼監測，0x35e開頭巨鯨地址6小時前從Binance提出474萬ARB，并將500萬USDC從以太坊跨鏈到Arbitrum，現已花費350萬USDC買入300萬ARB。該鯨魚今天已買入774萬ARB，成本為1.16美元。

0xdca開頭巨鯨地址3小時前從Binance提出119萬ARB，并在幾日前從OKX分兩筆提出共351萬ARB。目前該鯨魚一共持有471萬ARB，綜合成本約1.25美元[2023/4/4 13:43:40]

paper0 總結

這是眾所周知的秘密：AI 性能幾乎總是與模型大小成比例。 這種趨勢看起來也沒有放緩。 只要這種情況仍然存在，對于我們這些 web3 中的人來說，這將是特別痛苦的。

畢竟，計算成本是我們最終、不可避免的噩夢來源。

“木頭姐”Cathie Wood仍逆市買入25萬股特斯拉:金色財經報道，過去一周，特斯拉股價下跌超過8%，但Cathie Wood并沒有被嚇倒，仍然選擇增持該股。

Cathie Wood在過去一周的4個交易日中有3個交易日都買入了特斯拉股票，合計買入了25.5萬股特斯拉股票，價值2799萬美元。

具體來看，Cathie Wood在上周二買入了176112股特斯拉股票，在上周三買入了21050股特斯拉股票，在上周五買入了58044股特斯拉股票。

最近幾周，隨著特斯拉股價暴跌，但Cathie Wood一直在瘋狂買入Telsa。在截至12月30日的一周，Ark Invest增持了2882萬美元的特斯拉股票，在截至12月23日一周，Ark Invest增持了1060萬美元的特斯拉股票。[2023/1/9 11:02:02]

今天的 ZKP 已經可以支持小模型了，但中型到大型模型打破了范式

對于 paper0，我們關注任何零知識證明系統中的 2 個基本指標：

證明生成時間：prover 創建 AI 推理的伴隨證明所需的時間，以及

prover 內存使用峰值：證明者在證明期間的任何給定時間用于生成推理證明的最大內存；

OGroup CEO：世界距離大規模采用加密貨幣還很遠:金色財經報道，人工智能和區塊鏈金融服務公司 OGroup 的創始人兼首席執行官 Maja Vujinovic 在 2022 StartmeupHK Festival上表示，DeFi在超越傳統金融之前仍需進行重大創新。大規模采用將需要對區塊鏈技術本身進行評估，包括使其更容易和更快使用的基礎設施、協議和應用程序。消費者保護和新興市場也將是資產成功的關鍵。 如果你看看最近在加密領域發生的事情，智能合約本身在問責制和技術方面表現得非常好，但是 CeFi 平臺、Celsius 和 Voyagers 的管理不善。事實上，加密貨幣很難使用，很難理解你如何出售托管，如何轉移，我認為需要對人們持有加密貨幣后可以做什么進行更多的教育。（forkast）[2022/9/19 7:06:03]

這主要是一個實際的選擇，并且是從我們構建 Rockybot 的經驗中做出的（證明時間和內存使用是確定任何無需信任人工智能用例可行性的直接優先事項）。 此外，所有測量都是針對證明生成時間進行的，并且沒有考慮預處理或 witness 生成。

當然，還有其他方面的成本需要跟蹤。 這包括驗證者運行時間和證明大小。我們將來可能會重新審視這些指標，但將它們視為 paper0 的范圍之外。

歐洲央行敦促歐盟盡快實施其加密資產市場監管 (MiCA) 立法:金色財經報道，歐洲央行周二發布了題為“解密加密資產市場中的金融穩定風險”報告，歐洲監管機構強調了加密與傳統金融日益融合所帶來的危險。 報告總結說：如果目前加密資產生態系統的規模和復雜性的增長軌跡繼續下去，并且如果金融機構越來越多地參與加密資產，那么加密資產將對金融穩定構成風險。

該報告表示，如果不改變目前加密貨幣的監管方式并將其融入更廣泛的經濟，那么加密崩盤波及傳統金融市場是可能發生的，報告中寫道：盡管最近有所下降，但加密的規模仍然與引發 2007-2008 年全球金融危機的次貸市場相似。歐洲央行敦促歐盟盡快實施其加密資產市場監管 (MiCA) 立法，該立法旨在為歐盟內部的加密監管建立一個法律框架。[2022/5/25 3:39:24]

至于我們測試的實際證明系統，通過投票，我們選定了 6 個：

Paper0 測試的證明系統匯總表，以及協助我們的作者

最后，我們創建了兩套用于基準測試的多線性感知器（MLP）——值得注意的是，MLP 相對簡單，主要由線性運算組成。這包括一套隨著參數數量增加而擴展的架構（最多 1800 萬參數和 22 GFLOP），以及第二套隨著層數增加而擴展（最多 500 層）的架構。如下表所示，每個套件都測試了證明系統以不同方式擴展的能力，并大致代表了從 LeNet5（6 萬參數，0.5 MFLOP）到 ResNet-34（2200 萬參數，3.77 GFLOP）的知名深度學習（ML）架構的規模。

參數和深度基準套件

對于以上 6 個證明系統的參數和深度范圍的證明生成時間結果

對于以上 6 個證明系統的參數和深度范圍內的峰值內存結果

有關這些結果的完整內容，以及對每個系統內瓶頸的深入分析，請參閱 paper0 的第 4 節。

好吧，以上是一些非常簡潔的圖表，而以下則是要點：

那這在實踐中究竟意味著什么？ 我們將重點介紹 2 個示例：

1、Worldcoin：Worldcoin 正在構建世界上第一個“隱私保護身份證明協議”（或 PPPoPP），換句話說，通過將身份驗證與一種非常獨特的生物特征（虹膜）聯系起來來解決女巫攻擊問題。這是一個瘋狂的想法，它使用卷積神經網絡來壓縮、轉換和證明存儲的虹膜數據。雖然他們當前的設置涉及 orb 硬件中安全飛地內的可信計算環境，但他們希望改為使用 ZKP 來證明模型的正確計算。這將允許用戶對自己的生物特征數據進行自我保護，并提供加密安全保證（只要在用戶的硬件上進行處理，比如手機）。

現在具體一點：Worldcoin 的模型具有 180 萬參數和 50 層。 這是區分 100 億個不同虹膜所必需的模型復雜性。 哎呀！

雖然在計算優化的云 CPU 上證明 Plonky2 等系統，可以在幾分鐘內為這種規模的模型生成推理證明，但證明者的內存消耗將超過任何商用移動硬件（數十 GB 的 RAM）。

事實上，沒有一個測試系統能夠在移動硬件上證明這個神經網絡……

2. AI Arena：AI Arena 是一款類似于《任天堂明星大亂斗》風格的鏈上平臺格斗游戲，其具有一個獨特的特點：玩家并不是操作化身實時進行對抗，而是讓玩家擁有的 AI 模型相互競爭和戰斗，是的，這聽起來很酷。

隨著時間的推移，AI Arena 的出色團隊正努力將他們的游戲轉向一個完全無需信任的錦標賽計劃。但問題是，這涉及驗證每次游戲數量驚人的 AI 計算的挑戰。

比賽以每秒 60 幀的速度運行，持續 3 分鐘時間。這意味著每輪比賽，兩個玩家模型之間的推理結果超過 20000 個。以 AI Arena 的一個策略網絡為例，一個相對較小的 MLP 需要大約 0.008 秒來執行一次前向傳遞，使用 zkCNN 證明該模型需要 0.6 秒，即，每采取一次動作就需要增加 1000 倍的計算。

這也意味著計算成本將增加 1000 倍。隨著單元經濟對鏈上服務變得越來越重要，開發人員必須平衡去中心化安全的價值與證明生成的實際成本。

https://aws.amazon.com/ec2/pricing/

無論是上面的例子，ZK-KYC，DALL-E 風格的圖像生成，還是智能合約中的大型語言模型，ZKML 的世界中都存在著一個完整的用例世界。然而，要真正實現這些，我們強烈認為 ZK prover 仍需要大量改進。特別是對于自我完善的區塊鏈的未來。

那么，我們該何去何從？

我們有具體的表現數據，我們知道在證明神經網絡時哪些技術往往表現最好。當然，我們開始發現各種用例，這些用例激勵了我們不斷成長的社區。

我想知道接下來會發生什么……

很快就會為你們提供更多更新；）

隔夜的粥

個人專欄

閱讀更多

金色財經

金色早8點

Odaily星球日報

Arcane Labs

澎湃新聞

歐科云鏈

深潮TechFlow

MarsBit

BTCStudy

鏈得得

Tags：PAPAPEPAPERARBPAPIape幣最新消息ToiletPaper.FinanceKarbo

POL幣最新價格