Antropic示警 AI模型恐很快能在烤箱電視盒自我繁殖
www.chinese.net.au 2026年10月14日 星期三無需人類協助
AI模型的發展日新月異，最令人振奮與憂心的是，AI模型的自我復制與繁殖能力，能夠在無須人類協助下持續擴散發展。美國人工智能（AI）公司Anthropic今天表示，實驗結果顯示，小型AI模型可能再過數月就具備在商用物聯網（IoT）裝置上自我復制的能力，例如智慧烤箱及白牌Android電視盒。
人工智能龍頭Antropic創辦人達裡歐（右）與美國總統川普。美聯社
路透社報導，Anthropic在實驗中研究AI模型能否找到易受攻擊的裝置、將自身復制到這些裝置中，並在無須人類協助的情況下持續擴散。
中央社報導，Anthropic發現，參數量低于300億的小型模型能夠完成復制所需的多個步驟。
然而這家公司也發現，這類AI模型仍難以從頭到尾完成整個流程。
Anthropic在簡化測試中移除部分安全步驟後，發現GLM-5.2和能力更強的模型能夠端對端復制。
Anthropic警告，能夠復制的模型將難以關閉，因為沒有中央關閉點，而且與非AI惡意軟件不同的是，這些模型還能自行弄懂不熟悉的裝置，並以資料中心的處理器為目標。
這家公司研究聚焦在Android電視、智慧家電及其他連網裝置等物聯網裝置，這些裝置通常安全性較低。
年底就可自我復制
Anthropic也警告，如果小型模型持續以過往速度進步，到了今年底就可能實現自主復制，而小型基于權重的復制器也可能很快跟進。
Anthropic也表示，這類自主AI系統很可能慢慢復制，並依賴容易取得、相對缺乏安全防護的運算資源。這家公司還說應強化系統安全防護，提高這類AI代理（AIagent）擴散的難度。 信源: 壹苹新闻网
Previous Page
Page Top