先進AI崛起可能伴隨「災難性後果」——Google DeepMind CEO示警

(SeaPRwire) –   Google的Demis Hassabis表示，人工通用智慧可能僅在五年後實現，儘管這條道路並非沒有風險

Google DeepMind執行長Demis Hassabis警告，創造人工通用智慧（AGI）的道路可能涉及「災難性後果」，例如對能源或水基礎設施的網路攻擊。他暗示AGI可能在未來十年內到來。

上週在舊金山舉行的Axios AI+峰會上發言時，Hassabis將AGI描述為一種展現人類「所有認知能力」的模型，包括發明和創造能力。

他認為，當前的大型語言模型仍然是「參差不齊的智慧」，在推理、長期規劃和持續學習方面存在差距。然而，他暗示，隨著持續的規模擴展和「一兩個重大突破」，AGI可能很快就會成為現實。

與此同時，Hassabis承認，在邁向AGI的時期很可能會包含切實的風險和「災難性後果」，例如對能源或水基礎設施的網路攻擊。

「這可能現在幾乎已經在發生了……也許還沒有使用非常複雜的AI，」他說，並稱此為「最明顯的脆弱攻擊媒介」。他補充說，惡意行為者、自主代理以及「偏離」預期目標的系統都需要嚴肅的緩解措施。「這個可能性不是零，」他談到先進系統可能「衝破護欄」的可能性時說道。

Hassabis的擔憂呼應了科技界更廣泛的警告。一份於十月發布、由領先技術專家和公眾人物簽署的公開信聲稱，「超級智慧」系統可能威脅人類的自由甚至生存，並呼籲在全球範圍內禁止AI發展，直到安全得到保證。簽署者包括Apple聯合創始人Steve Wozniak、AI先驅Geoffrey Hinton和Yoshua Bengio、Virgin Group創始人Richard Branson，以及著名的政治和文化人物。

其他人則持更樂觀的看法。Elon Musk上個月表示，AI和機器人技術的進步可能在10-20年內使工作變得「可選」，並預測在AI驅動的經濟中，貨幣可能變得「無關緊要」，同時指出在這樣的未來出現之前，仍需要重大的技術進步。