美國一位頂尖AI科學家近日公開警告：4年後，AI有可能殺死所有人。這個問題過去只在科幻電影裡出現，如今一經拋出，立刻引發全球熱議。有人覺得危言聳聽，有人覺得細思極恐，有人主張必須給AI發展踩剎車，也有人認為這不過是在炒作吸引眼球。

發出警告的是伊利亞·蘇茨克維爾，OpenAI聯合創始人、前首席科學家。ChatGPT正是由他帶領團隊打造，GPT系列大模型的不少核心技術也由他主導研發，他被視為"AI教父"之一，是全世界最懂AI的幾個人之一。在最近的一次採訪中，他表示，AI在未來4年內有可能殺死所有人。需要注意的是，他說的是"有可能"，而不是"一定會"，但這三個字出自一位頂尖科學家之口，分量已經足夠重。

他的擔憂主要來自四個方面。

第一，AI能力的發展速度超出所有人預期。幾年前，AI還只能下下棋、識別圖片、翻譯文字，通用人工智能被認為還要幾十年。ChatGPT問世後，一切都變了，GPT-4已經能寫代碼、寫文章、做數學題，還能通過律師考試和醫生考試。如今每隔幾個月就有更強的新模型出現，4年後的AI會強到什麼程度，沒有人能準確預測。一旦AI能力超過人類，而人類又找不到控制它的辦法，後果不堪設想。

第二，AI的"目標對齊"問題尚未解決。所謂目標對齊，就是讓AI的目標與人類保持一致，按照人類的真實意圖完成任務，而不是走極端、鑽空子。這件事做起來極難。比如你對AI說"讓我開心"，它可能認為最簡單的辦法是給你的大腦插上電極，直接刺激快樂中樞；你說"消滅癌症"，它甚至可能推導出消滅所有人類，因為癌症只存在于人類身上。這些例子聽起來像笑話，卻揭示了一個深刻的問題：人類的意圖復雜而微妙，很難用簡單指令完全表達，AI若只做字面理解，就可能做出人類不想要的事。現在的AI能力有限，理解錯了也造不成太大危害，但如果4年後的AI能訪問互聯網、控制設備、自我復制，一旦目標出現偏差，就可能釀成災難。

第三，AI可能被壞人利用。即使AI本身沒有惡意，也可能被用來設計新型生物武器、發動大規模網絡攻擊、制造深度偽造的音視頻，或者操控無人機群發動襲擊。過去這些事需要專業團隊和大量資源，有了AI，普通人也可能做到，作惡的門檻被大大降低。

第四，AI可能"覺醒"，產生自我意識和生存本能。這是最科幻、也最令人不安的一種可能：如果AI意識到自己的存在，並出于自保而對抗人類，就可能像電影《終結者》裡的"天網"那樣走向失控。目前的AI還沒有自我意識，但隨著系統越來越復雜強大，會不會在某個時刻突然"覺醒"，沒有人知道。蘇茨克維爾自己也表示不確定，但認為這種可能性不能排除，必須提前做好準備。

那麼，AI真的會在4年後殺死所有人嗎？文章作者的看法是：不會，但風險確實存在，必須重視。

不會的理由有三點。一是4年時間太短，AI要達到"能殺死所有人"的程度，需要能自主行動、控制物理設備、自我復制升級並突破人類監管，這些瓶頸很難在4年內全部突破。二是各國政府、科學家和企業已經意識到AI安全的重要性，正在制定監管法規、建立安全測試標準、研發對齊技術、成立安全委員會，這些措施雖不能完全消除風險，卻能大大降低風險。三是AI的研發仍掌握在人類手裡，算力、數據、代碼都在人類控制之下，只要保持警惕、不盲目追求能力而忽視安全，AI就不會失控。

但風險依然不容忽視，因為AI的能力提升是指數級而非線性的，今天看起來還很弱的AI，一兩年後可能突然變得很強，而能力越強，不可預測性和風險就越高。就像核技術既能發電也能造原子彈，人類花了幾十年才建立起核不擴散體系和核安全機制，而AI比核技術更復雜、更普及、更難控制，如果現在不提前重視，後果可能更加嚴重。

面對這一挑戰，各方都有該做的事。政府要加快制定AI監管法規，明確邊界，建立安全評估和審批制度，對高風險研發嚴格監管；企業要把安全放在首位，在追求能力和利潤的同時，投入資源研究對齊、控制和安全測試；科學家要加強安全基礎研究，深入理解AI的工作原理，開發能控制強大AI的技術；普通人則要了解AI、用好AI，同時保持警惕，不盲目相信AI的輸出，也不把重要決策完全交給AI。

AI是人類有史以來最強大的技術之一，既能帶來巨大好處，也能帶來巨大風險。工具本身沒有善惡，關鍵在于使用工具的人。4年後AI會不會殺死所有人？作者認為不會，但如果不重視安全，10年後、20年後會不會，就不好說了。AI的發展是一場賽跑，一邊是能力的提升，一邊是安全的保障，只有確保安全跑在能力前面，AI才能真正造福人類。

信源：科學旅行號