「AI 教父」Geoffrey Hinton 高調離開 Google,因對人工智慧抱有倫理顧慮

他擔心人工智慧將令一些工作消失,而且還會傳播不實資訊。

Artificial intelligence pioneer Geoffrey Hinton speaks at the Thomson Reuters Financial and Risk Summit in Toronto, December 4, 2017.    REUTERS/Mark Blinch - RC1574AF88F0
Artificial intelligence pioneer Geoffrey Hinton speaks at the Thomson Reuters Financial and Risk Summit in Toronto, December 4, 2017. REUTERS/Mark Blinch - RC1574AF88F0 (Reuters/Mark Blinch)

素有「AI 教父」之稱的 Geoffrey Hinton 日前在接受紐約時報採訪時高調透露,他已於四月辭去了 Google 副總裁和工程 fellow 的職務,目的是為了能不受制約地警告人們警惕 AI 的潛在風險。Geoffrey Hinton 擔心 Google 會為了和 ChatGPT、Bing 等服務競爭,而放鬆對公開發布 AI 的約束,而這可能會引發一系列的倫理問題。

在短期內,Hinton 認為生成性 AI 或將引發不實資訊的狂潮,而在未來人工智慧不僅會消滅「繁重的工作」,許多職業的從業者都可能被其取而代之。更長遠來看,Hinton 對完全自主武器誕生的可能性以及 AI 模型從訓練數據中習得奇怪行為的趨勢都感到擔憂。隨著這些問題中有許多都只存在於理論層面,但 Hinton 覺得若沒有及時準備好相關法規和有效的控制措施,那這種升級將變得無法遏止。

Hinton 對 AI 的立場是從去年開始轉變,當時 Google、OpenAI 等公司都已經開始開發在 Hinton 認知中優於人類智慧的 AI 系統。他認為 AI 在過去五年裡發展神速,而未來五年可能發生的事情將是「非常可怕」的。不過在發給主站的聲明中,Google 首席科學家 Jeff Dean 強調他們仍將致力於採取「負責人的方法」,並對「新出現的風險」保持警惕。

Hinton 在職業生涯中研究的重點領域便是對 AI 至關重要的神經網路,他最為人所熟知的成就是在 2012 年開發出了一套能透過圖像訓練辨識物體的神經網路方案。Google 在 2013 年收購了 Hinton 的 DNNresearch 初創公司,生成式 AI 能發展到如今的程度,Hinton 當年發明背後所用到的技術也是起到了一定的推動作用的。

實際上,除了 Hinton 以外,業界有不少專家都曾提議放慢 AI 的發展節奏。以 Elon Musk、Steve Wozniak 為首的多名科技領袖、AI 從業者在三月末時便簽署了公開信,呼籲人工智慧實驗室和相關企業在至少六個月內不要訓練超過 GPT-4 的技術。作為行業最傑出的人物之一,Hinton 的表態也是有著相當份量的吧。