Elon Musk 及眾科技領袖：對「失控」超強 AI 的訓練需暫停至少六個月

日前包括 Elon Musk、Apple 聯合創始人 Steve Wozniak 在內的多名科技領袖、AI 專家簽署了一封公開信，呼籲人工智慧實驗室和相關企業「立即暫停」他們的工作，在至少六個月的時間內不要訓練超過 GPT-4 的技術，以確定現有 AI 系統能被人類適應且確實能帶來益處。信中還提到為確保 AI 的安全性，我們需要深思熟慮，但這一點現在似乎卻被很多人給忽略了。

以 ChatGPT 為代表的生成式 AI 在過去幾個月裡大行其道，其背後公司 OpenAI 所推出的最新模型 GPT-4 更是把能力提升到了一個新的級別。這樣的熱度引得科技巨頭紛紛下場參與相關技術的「軍備競賽」，只是配套的安全保障好像並沒跟上 AI 的發展速度，而這也引發了許多人的不安。

「不幸的是，盡管最近幾個月我們能看到，AI 實驗室憑藉開發、部署強大到即便是其創造者都未必能理解、預測、控制的數字頭腦，紛紛投身到一場失控的競賽中，但與這種技術水平匹配的規劃和管理方案並沒有出現。」公開信這麼寫道。

這封公開信是由未來生命研究所（Future of Life Institute）發布，該組織一直致力於避免新技術被濫用。此前 Musk 曾向研究所捐贈過 1,000 萬美元，用於人工智慧安全方面的研究。除了他和 Woz 外，一同在公開信上簽字的還包括 AI 和數位政策中心主席 Marc Rotenberg、麻省理工學院物理學家 Max Tegmark 和曾在紐約時報上刊登過 AI 風險專欄文章的作家 Yuval Noah Harari 等等。