可進化的人工智能

 (https://www.pnas.org/doi/10.1073/pnas.2527700123)

 自然選擇是驅動生物界變革的最強大過程，當人工智能（AI）發明後會發生什麼？

或許很快就會知道了。根據發表在《美國國家科學院院刊》（PNAS）上的這一篇新論文，我們正進入「可進化人工智能」時代——也就是能夠自我進化的AI系統。反過來，這可能會引發進化領域的重大變革。「重大」究竟有多重大？在近40億年的時間裡，只發生過八次，進化並不需要DNA、細胞，甚至不需要生物生命。它只需要能夠複製的訊息，以及影響訊息複製成功率的變異來源。當這些條件存在時，演化就會發生，無論人們是否有意為之。

現代人工智能系統已經滿足這些條件。模型可以被複製，它們的參數、架構和訓練資料可以各不相同。而且，某些變體的性能使其更易於重複使用、改進或部署。

演化長期以來一直獨立於生物學之外運作。它塑造了語言、科技和文化。但人工智能引入了不同的概念：它創造了既資訊豐富又能夠影響自身繁衍的系統。這種組合大大提高了風險。「可進化人工智能」的兩種應用場景：其一是生態系情景，當人工智能變體之間相互競爭、重組和傳播，且缺乏自上而下的監管時，生態系統就會形成。人工智能的持久性和傳播能力越強，就越成功。每一個新的人工智能模型，無論多麼不同，都會無意中增加自然選擇所需的燃料：變異。而且，我們面對的並非單一的人工智能，而是由各種機器和人類組成的充滿活力的生態系統。其二是育種者的選擇的力量，這種力量馴化了許多動植物，從狗和牛到小麥和水稻。如果人工智能的進化以自上而下的方式進行引導（類似於有計劃的育種），人工智能或許仍能保持在人類的控制之下。進化依然會發生，但它會將人工智能塑造成溫順的運算工具，為人類服務——或至少為機器的擁有者服務。如果我們對可進化的AI保持類似育種家的控制，它就不太可能造成災難性的風險，例如統治人類或在資源競爭中勝過人類。但是，可進化的人工智能逃脫並失控的可能性始終存在。

可進化的人工智能可以透過多種方式對演化產生重大影響。創造一個全新的智慧生命領域就能達到這個目的。另一種可能性是人機共生關係的興起，類似我們與智慧型手機的關係。這可能會創造出一種介於生物生命和人工智能之間的新型個體。如果這種發展成為現實，無疑將構成一個重大的演化轉變。