人工智能末日警告？中國人為何“不買帳”
www.chinese.net.au 2026年9月28日 星期一
對許多中國民眾而言，人工智能末日警告顯得遙遠且帶有鮮明的西方色彩。
在硅谷，最讓計算機科學家夜不能寐的噩夢是某種高度先進的人工智能使得人類無法阻止其發動全球無人機戰爭或引發核爆。
而在北京，應對之策或許簡單直接：拔掉電源、切斷網絡，並將失控AI的責任人繩之以法。
在美國主要實驗室聲稱先進模型已突破測試防護並入侵現實世界系統之後，部分科技高管與政府官員警告稱人工智能對人類構成毀滅性威脅，並呼籲北京與華盛頓合作。
然而對許多中國民眾而言，這些末日警告顯得遙遠且帶有鮮明的西方色彩。在他們的認知中，執政黨對某項技術失去控制的想法幾乎不可思議。此前，官方已成功監管過其他可能引發動蕩的技術，其中最典型的當屬互聯網。在疫情期間，政府通過封鎖整個城市並追蹤數以億計的居民展現了其遏制重大危機的強大能力。
專注于中國人工智能與技術領域的硅谷科技作家阿芙拉·王（音）表示：“他們可以立即切斷整個城市的電網，可以隨時查沒個人的手機。他們在物理世界中擁有巨大的掌控力。”
“鑑于黨對社會擁有如此強效的控制，”她說，要如何讓黨相信“運行在電腦裡的AI令人恐懼？”
2022年在北京，關停店鋪週圍設立的金屬隔離欄。新冠疫情展現出，官方能夠多迅速地封鎖整座城市並利用大規模數字監控追蹤數以億計的居民。
一種更為審慎的解讀認為，此類末日警告聽起來像是阻止中國人工智能企業超越美國對手的策略。中國媒體就有報道指出，美國人工智能企業正通過“恐懼營銷”來維持其市場領先地位。
“在國內行業圈或我身邊的同行中，大多數人對此根本不予理會，”蔡傑說，他此前一直在清華大學從事人機交互技術和人工智能安全方面的研究。在他看來，對行業內許多人而言，關乎存亡的風險是一個極其遙遠的議題。
“我們依然認為AI處于非常早期的階段，”他指出。“大家的焦點依然完全集中在機遇與創新上。”
對部分人而言，人工智能末日論及其蘊含的末日降臨與人類審判等觀念帶有鮮明的基督教色彩，顯得極其陌生。一位博主將西方對人工智能的恐懼與瑪麗·雪萊的小說《弗蘭肯斯坦》中人類因試圖挑戰神明獨有的造物權受懲罰的主題相提並論。
這名博主總結道：“這種敘事傳統在中國文化中並不存在。”
總部位于北京的人工智能安全咨詢機構安遠AI(Concordia)的AI安全與治理主管方亮指出，中國傳統的“天”或神的觀念也能解釋雙方在對待該技術時的巨大差異。
他表示，中國文化強調“天人合一”，主張人是自然不可分割的一部分。“萬物（包括AI）均來自自然，”他說，“因此，技術更多被視為共存的伙伴，而非注定帶來毀滅的外來力量。”
上週四，特朗普總統與中國最高領導人習近平在白宮。部分科技高管與官員警告稱，人工智能對人類構成生存威脅，並呼籲北京與華盛頓開展合作。
盡管如此，Mythos以及其他類似模型的發布在中國仍引發了擔憂，Mythos是來自Anthropic的一款強大的前沿人工智能模型。官方已出台新指南並發出警告，防範人工智能體失控、被黑客利用或被用于制造生物武器。
監管部門已草擬一項網絡犯罪法，要求人工智能公司建立監控機制，防止其模型被用于生成攻擊性的惡意代碼。
官方本月還更新發布了中國《人工智能安全治理框架》，是未來監管走向的重要風向標。該框架回應了硅谷關于“遞歸自我改進”(RSI)的擔憂——即當人工智能系統足夠強大，能夠在極少或無需人類開發者幹預的情況下實現自我迭代時，可能導致系統徹底脫控。
本月早些時候，國家互聯網信息辦公室高級官員王麗宏指出，由人工智能驅動的網絡攻擊已使傳統防禦體系形同虛設。她強調：“對極端的AI失控風險迫切需要保持高度警惕。”
一些中國研究人員多年來一直在預警人工智能發展過快的風險。2024年，復旦大學潘旭東團隊研究發現，Meta與阿裡巴巴的兩款主流大語言模型已展現出自我復制的能力，這被視為人工智能超越人類的重要一步。
今年7月在上海舉行的世界人工智能大會。
去年在一次人工智能安全學術會議上介紹該研究時，潘旭東表示，他和他的論文合著者“希望讓大家真正地關注到這個風險，就是說，這樣一個極端的人工智能不再是存在于科幻裡，它是真正需要大家不斷去討論和關注的”。
但歸根結底，在北京看來，人工智能與任何其他技術無異，只要經過週密規劃，就能轉化為服務于國家發展的強大力量。中國已出台了全球最嚴格的行業監管規定，明確要求人工智能生成內容必須進行標識，且人工智能模型在公開發布前必須通過官方備案與審批。
盡管中國建立了廣泛的監管與測試體系，但在法律層面，尚未對人工智能系統被用于制造化學或生物武器等災難性風險設定強制測試要求。
中國人工智能企業在安全舉措的透明度上尚不及美國同行，並非所有企業都會在模型發布前公布安全評估結果。據安遠AI統計，公布評估結果的企業在信息詳盡度與報告頻率上均存在差距；在2025年6月至2026年5月期間，中國前十大人工智能企業中僅有五家公開了相關評估結果。
總部位于上海的“中國AI安全開放社區”創始人莎拉·孫（音）認為，美國關于AI威脅的討論客觀上推動了中國本土的相關探討。
但她同時指出，Anthropic首席執行官達裡奧·阿莫迪對中國的強硬言論引發了反彈。阿莫迪在一封關于人工智能危險性的公開信中宣稱，民主國家必須在人工智能技術上保持對中國等威權國家的領先，並呼籲進一步限制中國獲取開發人工智能所需的先進芯片及關鍵設備。
莎拉·孫表示：“達裡奧如此鷹派的姿態在此情境下適得其反。”
她指出，此類言論讓近期關于人工智能的警告看起來更像是遏制中國發展的借口，而非對災難性風險的真誠關切，這直接增加了他們在中國推廣人工智能安全意識的難度。
她還說，“中國確實有一批人深切關注前沿人工智能風險，並致力于推動安全研究及國際協同。”
上週三，Anthropic首席執行官達裡奧·阿莫迪在聯合國大會發表講話。
事實上，中國網絡評論已將Anthropic貶稱為“A畜”。官方背景的博客“玉淵潭天”針對阿莫迪等美國科技領袖直言：“他們唯一想放慢的是別人趕超的腳步。”
中國知名網絡安全高管週鴻祎表示，應對之道絕非放慢腳步，而是借力人工智能提升防禦能力。他在上週發布于網絡的一段視頻中指出：“用AI打敗AI。你用AI攻擊，我就用AI防守；你用智能體蜂群，我就用安全智能體跟你對抗。”
本月早些時候，中國人工智能初創企業DeepSeek的一名工程師在一篇網文中寫道，允許Anthropic壟斷全球最先進的人工智能工具，其嚴重程度“不亞于”二戰時期希特勒率先掌握原子彈技術。
在此背景下，即使中國領導人習近平在華盛頓曾向特朗普總統提出兩國應“善用人工智能”，中美之間就人工智能安全達成任何協議並推動實質變革的前景依然渺茫。
復旦大學美國研究中心副主任趙明昊總結道：“如果美國聲稱要放慢腳步，中國不會相信；如果中國聲稱要放慢腳步，美國也同樣不會相信。” 信源: 纽约时报
Previous Page
Page Top