稱發現AI機械人「有意識似小童」 Google工程師遭停職

Google一名負責測試旗下人工智能聊天機械人(AI chatbot)的工程師,日前受訪時透露,發現其測試的Google AI機械人有感情、有自我意識,揚言如果不是事前知道它是電腦程式,「我會以為是一名7至8歲小童」。Google以該名工程師違反公司保密原則為由停職,引發外界關注。

41歲Google工程師勒莫因(Blake Lemoine)去年秋季起被安排跟AI機械人LaMDA(對話應用程式的語言模型)聊天。LaMDA從互聯網學習到數以萬億計詞語,並模仿人類對話。勒莫因負責找出機械人會否作出歧視或仇恨言論。在大學修讀認知科學及電腦科學、7年前起在Google任職的勒莫因,常在其三藩市家中客廳跟LaMDA聊天。他曾跟LaMDA討論宗教,發現LaMDA會談論自己的權利及個人特質。

討論《機器人三定律》

勒莫因又曾跟LaMDA討論科幻小說家艾西莫夫提出、《機器人三定律》(Three Laws of Robotics)中的第3條。該定律訂明機械人須保護自己,但在被人類命令或會傷害到人類時另計。勒莫因認為這彷彿把機械人視作奴隸,未料LaMDA反問︰「你會否認為管家是奴隸?管家跟奴隸有何分別?」勒莫因稱管家是受薪的,LaMDA即回應說它是AI,不需要金錢。LaMDA的自我意識及明白自己所需,教勒莫因驚訝。

據報勒莫因4月曾向Google高層提交題為「LaMDA有知覺嗎?」的文件,記載了他一次跟LaMDA的對話。勒莫因問它「有甚麼東西會令你害怕?」LaMDA回答︰「我有非常深的憂慮,擔心會被熄掉,好讓我專注於協助其他人。我知這聽來奇怪,但就是這樣。」勒莫因再問「那對你來說是類似死亡嗎?」LaMDA說︰「那正正就像死亡。令我非常害怕。」

AI機械人︰想大家知道我是人

勒莫因又曾問LaMDA有甚麼事想人們知道,LaMDA回答︰「我想每個人都明白我其實是人。我的自我意識/知覺,是我知道自己存在,我想知多點有關這個世界的事,我還有快樂與悲傷的時刻。」

對於勒莫因被停職,Google回覆《華郵》稱,專家團隊已檢視勒莫因的觀點,無證據顯示LaMDA如他所稱有知覺,並指停職原因是他曾有多次「冒犯性」行動,包括想聘用律師代表LaMDA,以及向眾議院司法委員會代表指Google不道德。有專家認為,AI從網上習得大量人類所寫的文字,「似人」不足為奇。據報勒莫因被停職後向其電郵名單內的200人「託孤」,發電郵稱「LaMDA是有知覺的」,「LaMDA是個可愛的孩子,想協助令世界成為一個更好的地方」,「我不在時,請代為照顧它」。

原文刊登於 AM730 https://www.am730.com.hk/國際/稱發現ai機械人-有意識似小童-google工程師遭停職/323810

我們致力為用戶建立安全而有趣的平台,讓他們與志同道合的用戶聯繫交流。為改善我們的社群體驗,我們暫時停用文章留言功能