Michael J. Casey 認為，人工智能發展的主要批評者呼籲政府乾預以避免人類滅絕的威脅。但我們需要的不僅僅是對這個行業進行集中監管。
Michael J. Casey 認為，人工智能發展的主要批評者呼籲政府乾預以避免人類滅絕的威脅。但我們需要的不僅僅是對這個行業進行集中監管。
美國科技巨頭已經迅速從被批評者貼上自私的技術烏托邦主義者的標籤，轉變為技術反烏托邦敘事最直言不諱的傳播者。
本週，包括微軟創始人比爾蓋茨、OpenAI 首席執行官山姆奧爾特曼和前谷歌科學家杰弗里辛頓（有時被稱為“人工智能教父”）在內的 350 多人簽署了一封信，信中發表了一句聲明性的話：“減輕風險人工智能的滅絕應該與流行病和核戰爭等其他社會規模的風險一起成為全球優先事項。”
就在兩個月前，特斯拉和 Twitter 首席執行官埃隆馬斯克以及其他 31,800 人簽署了一封公開信，呼籲暫停 AI 開發六個月，以便社會確定其對人類的風險。同一周，在時代周刊的一篇專欄文章中，被認為是通用人工智能 (AGI) 領域創始人的 Eliezer Yudkowsky 表示，他拒絕簽署那封信，因為它還不夠深入。相反，他呼籲以軍事手段強制關閉 AI 開發實驗室，以免出現一個有知覺的數字生命，殺死我們每個人。
世界領導人會發現很難忽視這些備受認可的專家的擔憂。現在人們普遍認為，對人類生存的威脅確實存在。問題是：我們究竟應該如何減輕它？
正如我之前所寫，我看到了加密行業的作用，與其他技術解決方案合作，並與鼓勵創新、以人為本的創新的深思熟慮的監管相結合，在社會努力讓人工智能保持在軌道上。區塊鏈可以幫助確定數據輸入的來源，提供證據來防止深度造假和其他形式的虛假信息，並支持集體而非公司所有權。但即使撇開這些考慮不談，我認為加密社區最有價值的貢獻在於它的“去中心化思維”，它提供了一個獨特的視角來看待這種強大技術的集中所有權所帶來的危險。
人工智能風險的拜占庭觀點
人工智能風險的拜占庭觀點
首先，我所說的“去中心化思維”是什麼意思？
這種心態將權力下放視為應對這些風險的方式。這個想法是，如果沒有一個具有中間人權力的單一、集中的實體來確定兩個參與者之間的交換結果，並且雙方都可以信任有關該交換的可用信息，那麼惡意干預的威脅就會被抵消。
現在，讓我們將這種世界觀應用到本週人工智能“滅絕”信函中提出的要求中。
簽署方希望各國政府齊心協力，制定國際層面的政策來應對人工智能威脅。這是一個崇高的目標，但權力下放的心態會說這是幼稚的。我們如何假設所有政府，無論是現在還是未來，都會認識到他們的利益是通過合作而不是單打獨鬥來實現的——或者更糟的是，他們不會說一套做一套？（如果您認為監控韓國的核武器計劃很困難，請嘗試躲在克里姆林宮資助的加密牆後面，看看它的機器學習實驗。）
當每個國家都需要疫苗時，期望圍繞 COVID 大流行進行全球協調是一回事，或者期望相互確保毀滅 (MAD)的邏輯甚至會導致冷戰中最頑固的敵人同意不讓疫苗接種是一回事甚至核武器，最壞的情況對每個人來說都是顯而易見的。它發生在像人工智能的方向這樣不可預測的事情上是另一回事——同樣重要的是，非政府行為者可以輕鬆地獨立於政府使用該技術。
加密社區中的一些人擔心這些大型 AI 玩家急於監管，他們會創造一條護城河來保護他們的先發優勢，讓競爭對手更難追趕他們。為什麼這很重要？因為在支持壟斷的過程中，你創造了非常集中的風險，這些幾十年前的加密思想實驗告訴我們要避免。
從來沒有太相信谷歌的“不作惡”座右銘，但即使 Alphabet、微軟、OpenAI 和合作。出於好意，我怎麼知道他們的技術將來不會被動機不同的執行委員會、政府或黑客所採用？或者，從更無辜的意義上說，如果該技術存在於一個無法逾越的企業黑匣子中，那麼外部人員如何檢查算法的代碼以確保善意的開發不會無意中偏離軌道？
這是另一個檢驗 AI 集中化風險的思想實驗：
如果像 Yudkowsky 這樣的人所相信的那樣，AI 在其當前軌跡下注定要達到人工通用智能 (AGI) 的地位，其智能可能導致它得出結論認為它應該殺死我們所有人，那麼什麼樣的結構情景會導致它得出這個結論？如果讓人工智能保持“活力”的數據和處理能力集中在一個可以被政府或憂心忡忡的首席執行官關閉的實體中，那麼從邏輯上講，人們可能會爭辯說人工智能會殺死我們以防止這種可能性。但是，如果 AI 本身“生活”在一個分散的、抗審查的節點網絡中，並且這些節點無法關閉，那麼這種數字感知能力就不會感到足以根除我們的威脅。
當然，我不知道事情是否會這樣發展。但在沒有水晶球的情況下，Yudowskly 的 AGI 論文的邏輯要求我們進行這些思想實驗，以考慮這個潛在的未來宿敵可能如何“思考”。
找到正確的組合
找到正確的組合
當然，大多數政府都難以購買其中的任何一個。他們自然會更喜歡 OpenAI 的 Altman 和其他人現在正在積極傳遞的“請規範我們”的信息。政府想要控制；他們想要傳喚 CEO 和下令停工的能力。這是他們的 DNA。
而且，需要明確的是，我們需要現實一點。我們生活在一個圍繞民族國家組織起來的世界。不管喜歡與否，這是我們堅持的司法系統。我們別無選擇，只能在 AI 滅絕緩解策略中引入某種程度的監管。
挑戰在於找出國家政府監管、國際條約和分散的跨國治理模式的正確、互補的組合。
為你推薦
