AGI和ASI超級人工智慧可能催生一種新型外星智能

AGI And AI Superintelligence Could Spawn A New Kind Of Alien Intelligence. by ByLance Eliot , 筆者 Lance B. Eliot 博士是世界著名的人工智慧科學家和顧問。


_{傳統人工智慧正引領我們走向通用人工智慧 (AGI) 和超人工智慧 (ASI)}

在今天的專欄中，我將探討一個經常被提及的觀點：通用人工智慧（AGI）和超級人工智慧（ASI）將催生一種新的外星智慧。事情是這樣的：傳統人工智慧大致基於人類智慧的本質。 AGI 和 ASI 的設計思路很可能與傳統人工智慧相同。關鍵在於，一旦 AGI 和 ASI 誕生，它們可能會選擇創造一種新的智慧形式，一種與我們通常理解的智慧截然不同的東西。
這意味著什麼？對於這種可能性，我們應該感到高興還是害怕？

我們來談談
這項對創新人工智慧突破的分析是我在《富比士》專欄中對人工智慧最新進展的持續報導的一部分，包括識別和解釋各種有影響力的人工智慧複雜性（請參閱此處的連結）。

邁向 AGI 和 ASI

首先，需要一些基本知識來為這項重要的討論奠定基礎。
目前，大量研究正在進行，以進一步推動人工智慧的發展。總體目標是實現通用人工智慧（AGI），甚至可能實現超級人工智慧（ASI）。

智力在發揮作用，設計傳統人工智慧的主流方法傾向於嘗試利用我們目前對人類智慧的理解。
例如，您可能知道，生成式人工智慧和大型語言模型 (LLM)（例如 ChatGPT）的核心元件是使用大規模人工神經網路 (ANN)。這種如今流行的資料結構大致上是基於生物神經網路。您知道，我們大腦中的生化「濕件」神經網路正是我們智力的來源。一種假設是，如果我們能夠在電腦器中模擬這種神經網絡，那麼就有可能催生基於電腦的智慧。

請注意，與真正的神經網路相比，ANN 極其簡單；關於我們應該繼續推進 ANN，使其更接近真正的神經網絡，還是應該放棄 ANN，轉而採用其他技術，目前正展開一場激烈的爭論。目前，我們押注繼續使用 ANN，並觀察其未來發展方向。
也許這種主流的攻擊思維足以催生通用人工智慧 (AGI) 和超人工智慧 (ASI)，但並非所有人都認同這一點；有些人認為，我們在這方面的策略可能失敗了，例如有些人認為我們需要一種混合神經符號方法。

更虔誠的懷疑者則聲稱，我們應該把人類智能的起源放在一邊，轉而尋找一種完全不同的方法來賦予機器智能。我們試圖複製或模擬人腦的生物學特性，並不能讓我們實現通用人工智慧（AGI）或超級人工智慧（ASI），這將是一條死路；因此我們必須找到一條不同的路。

外星人工智慧（AAI）

這種其他形式的智慧的本質目前完全未知，即使它存在或可以被製造出來；人們通常將這種未知的智慧稱為一種外星智慧。它之所以被認為是外星智慧，是因為它與我們目前擁有的、我們認為是常態的智慧截然不同。
措辭方面有點令人困惑，因為我們已經對潛在的外星生命這一外太空智慧生物感到相當擔憂；科幻小說中充斥著展現智慧和智慧行為的外星生物的情節，人們假設這些外星生物將擁有一種與我們不同的智慧形式；因此，它們將意味著外星智慧，它們的大腦組成方式可能與人類大腦相差甚遠。

對此存在著各種猜測
為了試圖區分人工智慧（AI）類型的外星智能與未來可能被發現或遭遇的外星生物智能，有些人更傾向於使用外星人工智慧（AAI），而不是僅僅使用“外星智能”這個不著邊際的流行語。這有助於區分那些在機器中設計外星智慧的更實際的努力，與科幻小說中外星智慧的構想形成對比。
由於 AAI 命名法並未廣泛使用，我將繼續在本次討論中提及外星智慧，並且我相信您會理解我強調的是基於機器的智慧，而不是 UFO 風格的外星智慧。
值得一提的是，不妨設想一下，我們或許會創造出完全不同於人類智能的機器智能，或許有一天，我們還會遇到外太空的外星智能，而這又是一種智能。我們能應付多少種智能？如果存在多種智能，我們能否以某種方式將它們混合搭配？有些人認為，認知空間廣闊，而我們目前只了解自己的認知；無限的可能性和令人費解的思考正在發生。

AGI 和 ASI 完成艱苦的工作

假設人類繼續嘗試透過模仿人類智慧來擴展傳統人工智慧。我們奇蹟般地實現了通用人工智慧 (AGI) 和超級人工智慧 (ASI)；這太棒了，我們應該為此慶賀。

走吧，人類、走吧。
當我們擁有通用人工智慧（AGI）和超人工智慧（ASI）時，發生了一些有趣的事情。要嘛我們告訴AGI和ASI去創造一種新的智慧形式，要嘛高階人工智慧會透過計算自行決定這樣做。如果人工智慧主動這樣做，有人擔心這將是一個險惡的舉動。人工智慧可能正在尋求一種透過創造一種新的科學怪人來超越人類的手段，是的，這是有可能的。
當然，也有可能這種新型外星智慧能夠實現其他智慧無法實現的造福人類的成果；或許AGI和ASI在尋找癌症治療方法時已經達到了極限。這些人工智慧並沒有放棄，而是努力設計出一種能夠提供這種治療方法的智慧，這些人工智慧正在取得成功。
我們似乎不能先發制人地宣稱外星人工智慧（又稱 AAI）一定是壞的。

關於AAI的大膽假設

關於外星人工智慧的大多數猜想是它將超越人類智慧。
這似乎是一個值得懷疑的假設。 AAI 的能力與人類智能相當的可能性與超越人類智能的可能性一樣大。我敢說，外星人工智慧的能力也有可能不如人類智慧。我們確實沒有任何可行的手段來預測未來會如何發展。
你可能會說，如果AAI不能達到甚至超越人類智能，那麼開發AAI的動力就很小。我明白你的意思。但問題是，我們不太可能事先確切知道這種外星人工智慧最終會發展成什麼樣子。總的來說，這仍是一個觀望的過程。

又出現了一些曲折
如果AGI和ASI被用來追求AAI，那麼這些AI或許不會主動參與其中。為什麼呢？或許是因為AGI和ASI不想屈居人後。它們甚至可能欺騙我們，讓我們以為它們正在追求AAI，但卻巧妙地掩蓋了它們拖延並故意破壞這項努力的事實。

打破思維定式

一個主要的假設是，外星人工智慧將具有與人類智慧以及 AGI 和 ASI 相同的整體現實世界特性。

請容許我詳細說明一下
我們以我們所知的物理和現實領域為基準，認為我們所處的世界是有限的。時間就是時間。時間總是向前推進。真實的物體受物理定律的約束。你無法讓真實的物體消失，也無法傳送它們出去。

假設 AAI 打破了這些障礙
也許外星人工智慧能夠利用時間做一些我們從未想過的事情。感知能力和模式也是如此。我們期望AGI和ASI能夠融入我們所知的現實世界，但AAI或許能讓我們超越所謂的現實世界。
一種新型外星智慧生命或許能賦予我們自由，讓我們能夠超越我們自認為生存的世界；我們當然期待外太空的外星智慧生命能夠做到這一點， AAI 或許也是如此。

抓住重大機遇

等一下，讓我們仔細想想──設計外星人工智慧可能比打開潘朵拉的盒子。
我們已經開始擔心AGI和ASI會危及人類的生存。它們可能會奴役人類，甚至可能毀滅人類，而這些都由某種我們能夠掌控的智能所構成。

我們是否應該大膽地實現外星人工智慧？
有人高喊：「別這麼做！」堅持使用我們現有的智慧形式，設計出不符合我們預期的智能，無異於玩火自焚；抵制挑戰這些神聖不可侵犯的界線的衝動。

胡說，他反駁
我們必須堅決抵制將人工智慧擬人化，傳統人工智慧、通用人工智慧（AGI）或超人工智慧（ASI）無需反映人類智慧的機械運作方式。關鍵在於，我們所獲得的智能源自於其內在機制；如果我們能用樂高積木實現高階人工智慧，那就讓我們這樣做吧；過度關注人類生化智慧的各個層面，可能會讓我們無法達到遠超過人類層面的自動化智慧。
勇於冒險，在與人類智慧運作方式完全不同的基礎上建立人工智慧，很可能會帶來巨大的回報；無論你建立了什麼，都要專注於其結果，而不要考慮這些部分是如何組合在一起的。

下一步行動

現在最後一個令人興奮的想法
拉爾夫‧華爾多‧愛默生有一句值得深思的尖銳言論：「除非你試著做一些超越你已經掌握的事情，否則你永遠不會成長」。
這引出了一個問題：外星人工智慧是否真的會幫助我們成長，還是可能會遺憾地成為我們的自我毀滅。
請認真思考這個重大問題，並幫助我們確定前進的方向。這可能關係到人類的命運。

原文 AGI And AI Superintelligence Could Spawn A New Kind Of Alien Intelligence.
ByLance Eliot , Dr. Lance B. Eliot is a world-renowned AI scientist and consultant.
筆者 Lance B. Eliot 博士是世界著名的人工智慧科學家和顧問