區塊鏈:科學家警告稱，遏制算法不會停止超級智能人工智能_MELD

一組計算機科學家使用理論計算來證明算法無法控制超級智能AI。

他們的研究解決了牛津哲學家尼克·博斯特羅姆所說的控制問題：我們如何確保超智能機器為我們的利益服務？

研究人員構想了一種理論上的遏制算法，該算法可以通過模擬AI的行為并在程序的動作變得有害時停止程序來解決該問題。

科學家提出區塊鏈的量子PoW共識:金色財經報道，來自澳大利亞和美國大學的一組研究人員與量子技術公司BTQ合作，最近發表了一項研究，提出了一種新的區塊鏈共識工作量證明(PoW)方案，該方案依賴于量子計算技術來驗證共識。[2023/6/2 11:53:38]

但是，他們的分析發現，建立一種可以控制這種機器的算法從根本上來說是不可能的，人類與機器中心主任IyadRahwan說：

聲音 | 科學家白碩：可建立國家級公鏈形成激勵且合法的區塊鏈:在2018杭州比原鏈全球開發者大會上，世界區塊鏈組織首席科學家白碩表示，鏈改是要改成一個有可以激發活力，增進信任，改善治理的正面循環機制。比之無幣區塊鏈，更重要的是建立一個激勵又合法的區塊鏈。區塊鏈的治理政策現在出來了，可以推算出，包括建立國家級的安全基礎設施和國家級的供應鏈、國家級的跨鏈監管。于是，可能會有這樣的一些做法和機會，包括怎么建立可擦除的存證，又能擦除信息，同時又可以用哈希建立塊間的聯系；跨鏈的機會，把可治理的鏈和不可治理的鏈通過一種跨鏈的方式進行交互；建設中國國家級公鏈，這個鏈是可以有效治理的，同時和其他的鏈有效對接。[2018/11/18]

如果將問題分解為理論計算機科學的基本規則，就會發現，命令AI不破壞世界的算法可能會無意中止其自身的運行。如果發生這種情況，您將不知道遏制算法是否仍在分析威脅，或者它是否已停止遏制有害的AI。實際上，這使遏制算法無法使用。

Penta首席科學家Steve Melnikoff：對抗量子計算區塊鏈并非無計可施:近日，Penta首席科學家、知名物理學家、數學家和計算機科學家Steve Melnikoff博士發表了關于量子計算的最新文章，以科普的角度闡釋了量子計算將給區塊鏈技術和密碼學構成的威脅，認為“‘量子比特’或者‘量子位’取代位將會顛覆整個區塊鏈行業的玩法，所有的加密體系都面臨淘汰。”但他也認為，區塊鏈在量子計算面前并非毫無招架之力，比特幣和其他加密貨幣也會采取相應措施，比如提高芯片性能。不過Steve Melnikoff提醒威脅仍然存在，PoW共識采用的橢圓曲線哈希電子簽名算法最快在2027年就可用單臺量子計算機破解，因此區塊鏈公司必須提前布局，在一定程度上對平臺和基礎設施進行靈活設計，確保其系統能夠盡可能方便地從傳統架構轉移到后量子架構。[2018/5/15]

研究發現，由于計算的基本局限性，沒有一種算法可以計算出AI是否會危害世界：

假設超級智能將包含一個程序，該程序包含通用圖靈機在輸入時可能會像世界狀況一樣復雜地執行的所有程序，那么嚴格的圍堵要求對該程序進行仿真，這在理論上是不可能的。

到目前為止，這種類型的AI仍僅限于幻想領域。但是研究人員指出，這項技術正在朝著科幻小說作家所設想的超級智能系統的類型邁進。

研究的合著者，馬克斯·普朗克人類發展研究所的曼努埃爾·塞布里安說：“已經有機器獨立執行某些重要任務，而程序員卻沒有完全了解他們是如何學習的。”

“因此提出了一個問題，在某個時候這是否可能變得不可控制并且對人類構成危險。”

Tags：區塊鏈MELSTEPOW區塊鏈技術發展現狀和趨勢MELDSTEEP幣POWA

KuCoin