AGI:AI會改變什么？不會改變什么？對話ChatGPT之父_ARK

ChatGPT的火，已經從AI圈燒到了全球。

自2022年11月推出后，這款強大的聊天機器人僅用60天月活過億，被《財富》認為是劃時代的產品，引微軟、谷歌等巨頭紛紛下場。

更重要的是，以ChatGPT為代表的AIGC，正在人工智能領域掀起AI商業化的新一輪浪潮，打開了諸多行業變革的想象天窗。

如果要問誰是當下離AI技術革命最近的人，ChatGPT之父、OpenAICEO山姆·阿爾特曼一定位列其中。

2017年，還在擔任硅谷知名創業孵化器YCombinator總裁的他，和伊隆·馬斯克、彼得?蒂爾、雷德?霍夫曼等人一起投資了10億美元，共同成為OpenAI的創始人。又過了兩年，他將工作重心轉移到了AI，擔任OpenAI的CEO直到今天

在去年秋天，山姆·阿爾特曼與OpenAI創始人之一、領英聯合創始人雷德?霍夫曼展開了一場精彩對話。其中，山姆·阿爾特曼分享了他對于未來AI發展的預測：AI大模型技術，將成為繼移動互聯網之后，未來最大的技術平臺；而以聊天機器人為界面，加上圖像、音樂、文本等多模態模型的發展，將誕生大型企業。

他是如何判斷AI未來商業化發展的？大型AI企業將誕生于哪些領域？AI將取代人類的工作，還是更好地幫助人類工作？

今天就與你分享這場對話的編譯。

01

AI大模型——未來最大的技術平臺

Q：很多AI大模型都通過API開放使用，它真正的商業機會是什么？

SamAltman：現在，語言模型已經可以很好地應用到文案寫作和教育服務領域。我相信未來幾年內，語言模型會更加強大，將能與Google這一價值萬億美元的搜索產品一較高下。語言模型的應用將會改變我們的日常生活。

以前，人們太早嘲笑許多趨勢，比如聊天機器人，其實它很有價值，只是當時的技術還不能滿足需求。現在的聊天機器人更加成熟，幾乎可以達到人類水平。聊天機器人可以用于醫療服務行業，提供咨詢和教育服務，這方面將能催生出大型企業。

MakerDAO創始人發布Spark Protocol的新代幣空投提案:金色財經報道，MakerDAO的創始人Rune Christensen披露了一項新提案，旨在為Spark Protocol創建新的治理代幣。該提案還規定將代幣分配作為對用戶的獎勵，這被稱為“預耕空投”。該提案旨在促進與平臺的長期合作，建議在10年內分配20億個Spark代幣（SPK）。

該計劃是為了鼓勵繼續使用Spark Protocol。MakerDAO的創始人指出了推動這一舉措的兩個原因：我們希望確保Spark協議中有大量資產存入，以建立Lindy效應和市場信心。我們希望創建一個由DAO用戶和參與者組成的社區，與SparkDAO的使命和潛力保持一致。

Christensen在文件中解釋說，預耕空投的工作方式是，在啟動的第二階段，當Sub DAO代幣和Sub DAO耕作被激活時，支持推動者將追溯計算哪些用戶從Spark協議中借了錢，反貸款套利修正案EDSR將貸款利率提高至5%。[2023/8/11 16:19:54]

我相信，不久之后會出現多模態模型，這將開辟新的事物。現在，人們可以直接用自然語言命令計算機為你完成你想做的工作。

例如DALL-E圖像生成工具和Copilot編程工具，都是用戶向它們輸入自然語言描述，然后工具自動生成用戶想要的東西，用戶還可以不斷迭代修改自己的描述，直至工具給出滿意的輸出。

類似的AI應用方式會成為大趨勢，可以孕育出許多大型企業。強大的AI模型可以成為孵化各種AI應用的平臺，就像智能手機的出現催生出眾多APP一樣，它們的共同點都是可以制造無數的商業機會。

Q：作為大型語言模型API的服務提供商，關鍵是什么？如何創建一個持久的差異化業務？

A：將來應該會出現幾個大型的基礎模型，開發人員都將基于這些基礎模型研發AI應用。但目前的情況依然是某一家公司開發出一個大型語言模型，然后開放API供他人使用。

我認為，將來在基礎模型和具體AI應用研發之間會有一個中間層：出現一批專門負責調整大型模型以適應具體AI應用需求的初創企業。能做好這一點的初創公司將會非常成功，但這取決于它們能在「數據飛輪」上走多遠。

數據：價值1.68億美元的AVAX代幣將于5月28日解鎖:金色財經報道，Avax代幣的最新解鎖計劃將在一個月內完成，按當前價格計算將釋放價值1.68億美元的代幣。據Token Unlocks的數據顯示，價值超過1.68億美元（按當前價格計算）的9,541,800枚Avax 代幣將于5月28日解鎖。考慮到該代幣的流通供應量為3.27億枚，計劃解鎖的近1000萬枚Avax占所有流通代幣的3%以上。

此外，總共有超過3.6125億枚Avax代幣（占加密貨幣供應量的一半以上）仍處于鎖定狀態，將在未來七年內逐步釋放。[2023/4/29 14:34:29]

數據飛輪：使用更多數據可以訓練出更好的模型，吸引更多用戶，從而產生更多用戶數據用于訓練，形成良性循環。

我對初創企業訓練模型的能力持懷疑態度，將來承擔模型訓練角色的應該不會是初創公司，但這些企業可以在上述的中間層角色中發揮巨大價值。我認為中間那一層會創造很多價值。

Q：一個大型語言模型初創企業，如何區別于另一個大型語言模型初創企業呢？

A：我覺得應該是中間層。

從某種意義而言，創業公司會訓練自己的模型，只不過不是從頭開始。

他們將采用基礎模型，這些模型已經經過大量的計算和數據訓練，然后在這些模型之上進行訓練，為每個垂類創建模型。

他們所做的1%的訓練，對于應用來說至關重要。我認為，這些創業公司將會非常成功，并且與眾不同。可能包括一段時間內存在的promptengineering或基礎核心模型。

注：提示工程是指將任務的描述、或者提問放在輸入中，讓AI模型輸出理想結果的調試過程；ChatGPT走紅之后，提示工程師這一崗位也被人所關注。

Q：五年內，大多數用戶與基礎模型交互的方式是什么？promptengineering將是許多組織的內部職能嗎？

A：我不認為五年后我們還做promptengineering，這將被整合進所有地方。無論用文本還是語音，取決于上下文，只需要語言接口，讓計算機做你想做的任何事情。

比特幣算力創歷史新高，接近400 EH/s:金色財經報道，3 月 24 日，比特幣難度上調 7.56% 至 46.84T，再創歷史新高，在3月23日（UTC），比特幣算力創歷史新高，一度接近 400 EH/s，達 398.15 EH/s。截止發稿，BTC 算力為 347.93 EH/s。

隨著算力持續攀升，River Financial 研究分析師 Sam Wouters 估計，按照目前的增長率，比特幣可能會在 2025 年底進入 zettahash 時代。Sam Wouters 解釋稱，目前哈希率的增長可能是由于多種因素造成的，例如未使用的庫存上線、新模型可用、更多設施投入運營以及聰明的企業家發現低監管機構干預之前的成本來源。此外，研究表明，如果不提高礦工的效率，大約需要 1120 萬比特幣才能支持 1 zettahash 的哈希率。[2023/3/28 13:30:29]

將來的AI系統不會因為增補了某個特定詞就會產生截然不同的輸出，而是可以較好地理解自然語言，用戶只需以文本和語音形式輸入指令，即可讓計算機完成圖像生成、資料研究、心理咨詢等復雜任務。

總的來說，用戶只需使用自然語言就可以與計算機交互，當然，如果藝術家能想出更有創造性的描述，也自然就可以生成更好的圖像。

Q：當有一個偉大的視覺思考者，他們可以從DALL-E中獲取更多，因為他們知道如何更深入思考，知道如何在測試中迭代循環。你認為這是大部分這類事的普遍真理嗎？

A：百分百確定。重要的是思想的質量，和對你想要的東西的理解。所以藝術家仍然會在圖像生成方面做得最好，不是因為他們在圖像最后加上了這個神奇單詞，而是因為他們能用我沒有的創造性的眼光來表達。

Q：最令你驚訝的是什么？如果沒有意識到事情已經發展到這一步，你認為會有什么樣的驚喜呢？

A：人們現在所犯的最大的系統性錯誤，就是他們會說，「好吧，我也許持懷疑態度，但是這種語言模型真的會起作用，當然，圖像和視頻也會起作用。但它不會為人類產生新知。它只會做其他人已經做過的事情。這還是讓智力的邊際成本非常低，不能治愈癌癥。它不會增加人類科學知識的總和。」?我認為這將被證明是錯誤的，讓目前該領域的專家最感到驚訝的地方。

AV Yacht Club NFT交易量出現短時激增，地板價升至0.13 ETH:金色財經報道，據 nftgo 數據顯示，NFT 項目 AV Yacht Club（AVYC） 過去 1 小時交易額為 31.29 ETH，漲幅達到 1488.13%，其地板價也升至 0.13 ETH，過去 24 小時漲幅達到 293.94%。AVYC 集合總計 10,000 枚 NFT，基于 JAV 偶像鑄造，該 NFT 項目在 The Sandbox 中購買了比鄰 Snoop Dogg 的虛擬地塊，目前正在構建元宇宙虛擬世界。[2023/2/3 11:46:21]

02

當AI科學家可以自我迭代

Q：無論是建立在API之上，還是科學家使用API，有哪些地方的科學會加速，以及如何加速？

A：現在科學界對AI的應用分為兩種。

一種是將AI工具直接用于科學目的，如AlphaFold，它們可以創造巨大價值，相信未來會出現無數這樣的工具。

另一種是將AI工具用于提升科研工作效率，如幫科學家和工程師找到新研究方向、寫代碼等。Copilot編程工具就是一個例子。但AI工具的能力遠不止于此。上述兩種AI應用將會大大推動科技前進。

此外，目前科學界也在探索對AI的第三種應用方式——讓AI成為可以「自我改進」的科學家。這件事情既有好處也有風險。

好的一面是，可以利用AI將人類的工作內容自動化，教會AI做任何人類可以做的事情：探索新科學、提出理論解釋、驗證、思考等，或許還可借此解決困擾人類已久的「AI對齊問題」。

風險在于，有人擔心懂得「自我改進」的AI有可能會像科幻小說描寫的那樣，擅自改動代碼或修改優化算法。

我深信，真正有利于促進人類和經濟的前行的，是一個能夠推動科學進步的社會架構。我們能從這樣的社會架構中獲益很多。

Q：「對齊問題」可能值得解釋一下？

A：建立一個非常強大的系統，如果它不按我們的意愿行事，或者它的目標與我們的沖突，就會變得非常糟糕。

韓國地方檢察廳正在判斷LUNA的證券屬性，研究其是否違反資本市場法:9月13日消息，據韓國經濟日報報道，首爾南部地方檢察廳調查組正在參考海外案件，判斷LUNA的證券屬性，檢察機關不僅傳喚調查了金融監督院等金融當局的立場，還傳喚了虛擬資產專家作為證人進行調查，正在聽取各種意見。

關于Terra和LUNA的現有檢察機關調查以欺詐嫌疑的證明為中心進行，但如果證券屬性性得到認可，可以以違反資本市場法的嫌疑起訴其通過操縱行情等進行不公平交易。[2022/9/13 13:25:46]

因此，對齊問題是：我們如何建立做最符合人類利益事情的AGI？如何確保人類能夠決定人類的未來？

我們如何避免意外和故意誤用，前者是沒有預料到的錯誤，后者是一個壞人使用AGI造成巨大傷害；內在而言的對齊問題是，如果這個東西變成一個生物，視我們為威脅怎么辦？

我們對如何在小范圍內解決對齊問題有一些想法，已經能夠使OpenAI最大的模型比想象的要好。

我們對下一步做什么有些想法，但不能誠實地看著任何人的眼睛說，看到了100年后將如何解決這個問題。

但是，一旦人工智能足夠好，我們可以問它，「嘿，你能幫助我們做對齊研究嗎？」這將是工具箱里的一個新工具。

Q：我們之前的一次談話是，能不能告訴agent(注：AI中的一個概念，通常指環境中的智能主體），「不要種族歧視」？

A：當然。一旦模型變得足夠聰明，真正理解了種族主義是什么樣子，以及它有多復雜，你就可以說，「不要成為種族主義者。」

Q：「AGI」這個術語已經被廣泛使用。有時困惑來自于人們對AGI有不同定義。你如何定義AGI，怎樣知道我們什么時候實現它？

A：我理解的AGI相當于一個可以共事的普通人，任何遠程同事可以通過電腦幫你完成的工作，AGI也可以做，包括讓AGI學習醫療知識和寫代碼等等。

AGI的重點不在于掌握某一種難得的技能，而是擁有學習的元能力，然后只要人類需要，它就可以往任何技能方向發展并精通。

另一個概念是「超級智能」，它指的是比全人類加起來還要聰明的智能。

Q：如何看待像GPT-3這樣的基礎技術，對生命科學研究進度的具體影響？生命科學研究中速率限制的因素是什么？我們無法超越這個限制，因為自然法則就是這樣？

A：目前的可用模型還不夠好，不足以對生命科學領域產生重大影響——不少生命科學家了解這些模型之后都說，它們只能在部分情況下發揮些許作用。

AI在基因組學領域有一些很有前景的應用方向，但目前尚屬起步階段，不過我很看好。我認為這也是市值千億的巨頭準備進軍的領域之一。

如果AI未來真的可以讓醫藥公司的研發速率提高幾百倍，那無疑會產生深遠的影響。不過如你所說，生物學的自有規律仍在，新藥的臨床驗證需要時間，這也是醫藥研發的速率限制因素。

據我所知，不少合成生物公司借助AI發現許多新的研發想法，加快自己的研發迭代周期，但研發出來之后終究是要進行測試，這部分時間無法縮減。

我認為，醫藥初創公司最重要的是低成本和快速的研發周期，有了這兩點就有資本參與市場競爭了。所以如果我是一家醫藥初創公司的決策者，一開始我不會選擇從心臟病這類大難題下手。

此外，如果我是一家AI藥物研發初創公司，我會在模擬器上多下工夫，因為目前這方面還亟待改善。

03

未來十年：

當成本的結構發生變化

Q：你認為登月計劃在未來幾年中有什么值得人們關注的地方？

A：一個比較確定的方向是，語言模型的發展會遠超今天的想象。雖然很多人都說算力和數據都已經跟不上了，這也是事實，但算法的改進空間依然很大，還可以帶來很大的進步。

第二個方向是多模態模型的發展。未來的多模態模型將不局限于文本和圖像的互相轉換，而是所有模態之間都可以方便地互相轉化。

第三個方向是，模型可以持續學習。目前的模型如GPT都停滯在當初訓練好的狀態，并不會隨著使用次數的增加而自我優化。我相信未來可以改變這一點。

如果上述三點都能實現的話，我們就可以解鎖無數全新的應用場景，實現真正的科技革新，幫助人類實現科技的飛躍式前進。而且我相信，我們也有辦法利用AI推動科研進步和新知識的產生。

我認為，現在普遍存在的一種錯誤觀點是：「雖然語言模型的功能已經比較完善，還可以應用到圖像和視頻領域，將應用智能的邊際成本降得非常低，但歸根結底，它只是模仿人類做過的東西，不能為人類產生新知識，不能治療癌癥，也不能拓展人類已知的科學領域。」我相信，AI的發展會讓持這種觀點的人大吃一驚。

Q：談一談目前被廣泛討論的領域，例如，AI和核聚變。

A：業內有人正在研究利用強化學習模型控制核聚變反應，但據我們所知，AI模型在這里發揮的作用還非常有限。

一件不幸的事情是，AI已經成為一個流行詞，這通常是個很糟糕的跡象。我希望這并不意味著這個領域即將分崩離析。但從歷史上來看，這對于新的創業公司來說是一個非常糟糕的信號。

我認為這是個人們會說一切都是「這個加上AI」的領域，很多事情都是真的。我確實認為這將是這一代最大的技術平臺。

我們喜歡在前沿領域做預測，預測和理解規模理論是怎樣的，然后說「好，這個新事物將發揮作用，就根據種方式來預測推演。」

這也是OpenAI的運作模式——先做擺在我們面前的最有信心能成功的事情，然后分出10%的資源進行成功確定性更低的探索工作。這種運作方式為我們帶來巨大的成功。

現階段不應該把重點放在「讓AI無所不能」上，而是先沿著現有的道路慢慢發展完善AI，然后留有開放探索的空間——偉大的事物都不是計劃出來的，有時重大的突破誕生于偶然。

Q：AI應用在非常重要的系統，例如金融市場，將會發生什么？

A：AI終將滲入人類生活的方方面面。未來十年里，智能和能源的邊際成本會迅速下降，趨近于零，而智能和能源又是其他各行各業的主要成本來源。

整個社會的成本結構都會下降，正如之前多次科技革命的結果一樣。在這種浪潮之下，很少有什么會一成不變。但有一點很重要，智能和能源成本只是趨近于零，而不是直接降為零。所以將來如果有人仍愿意花費巨額投資來購買智能和能源，他們得到的算力和能源的數量將突破想象。

設想一下，將來的能源使用成本下降10~100倍，智能使用成本下降1億倍，而對能源和智能的資金投入則比現在多1000倍，那會是什么樣的局面？

Q：AI可以為人類創造者提供工具，拓展創造力。那么，讓創造者更有生產力AI用創造力自己去做每件事的界限是什么？

A：至少目前看到的不是取代，主要是增強。在某些情況下，它正在取代。但對于這些領域的人們想從事的大多數工作來說，它是增強。這種趨勢將持續很長一段時間。可能展望100年，它可以完成整個創造性工作。

我覺得有意思的是，如果10年前問人們，AI將如怎樣帶來影響，多數人會很有信心地說，首先它將取代工廠的藍領工作，卡車司機等，然后將取代低技能的白領工作，然后是高技能、高智商的白領工作，比如程序員。也許永遠不會取代那些創造性的工作。現在的發展正好相反。

這說明預測未來是多么困難。這也說明人類可能不夠了解自己，不清楚什么類型的技能最難、最需要調動大腦，或者錯誤估計了控制身體的難度。

Q：你認為AI不會改變生活的哪些方面？

A：所有深層生物學的東西。我們仍然會真正關心與他人的互動，仍然會享受樂趣，大腦的獎勵系統仍然會以同樣的方式工作。我們仍然會有同樣的動力去創造新事物，為愚蠢的地位競爭，去組建家庭等。五萬年前人類在意的東西，一百年后的人類也會在意。

Q：在未來的20到30年里，隨著人工智能的不斷發展，會出現主要的社會問題嗎？我們今天能做什么來緩解這些問題？

A：AI的應用會極大影響經濟活動。將來我們需要形成新的社會契約，考慮如何公平地分配財富。AGI系統的使用權將會成為一種商品，所以也要考慮如何讓所有人平等地獲得使用AGI的機會。

還有AGI的管理問題：人類如何共同決定AGI可以做什么、不能做什么。

我不擔心「AI取代人類的工作之后，人類何去何從」的問題，雖然未來人類的工作會和現在很不一樣，但我覺得人類最終都會找到自己滿意的事業，過上充實的生活。真正的難題是財富分配、AGI使用權和AGI的治理問題。

我們進行了世界上最大的UBI實驗。五年計劃還剩下一年零四分之一的時間。這不是唯一的解決辦法，但我認為這是一件偉大的事情。應該再嘗試10件這樣的事情。我們還嘗試了不同的方法，從我們認為將受到最大影響的群體那里獲得意見，并看如何在周期的早期階段行動。最近我們探索了如何將這項技術用來重新培訓那些早期將受到影響的人，也會嘗試做更多這樣的事情。

注：無條件基本收入，指沒有條件、沒有資格審查，公民可以定期領取由政府或特定組織給予的一筆資金。

04

Onemorething

我想，沒人知道我們正處在AI的懸崖邊上。人們會說「要么會很棒，要么會很糟糕」，你得做最壞的打算。

說一切都會好起來，這并不是一個策略。不過你可能會有某種感覺：我們將到達一個美好的未來，并且盡所能的努力工作，為之奮斗，而不是一直從充滿恐懼和絕望的地方采取行動。

Tags：AGISPARKSPAARKMovie MagicSPARK幣VESPASHIBAQWARK

DYDX