機器人公民來了﹐我們該警惕人工智能嗎﹖

2017-11-09 10:40 來源﹕光明網 
2017-11-09 10:40:53來源﹕光明網作者﹕責任編輯﹕李政葳

  光明網記者 吳晉娜

  近日﹐沙特阿拉伯授予美國漢森機器人公司生產的“女性”機器人索菲婭公民身份。作為史上首個獲得公民身份的機器人﹐索菲亞創造了歷史。

機器人公民來了﹐我們該警惕人工智能嗎﹖

  “女性”機器人索菲婭

  就像人們看到阿爾法狗的高超棋藝一樣﹐驚嘆之餘﹐人工智能的崛起對人類生存是否會造成威脅﹐甚至毀滅人類﹖始終是一個能夠引發人們無限遐想和腦洞大開的問題。

  機器人公民的權利應該被理性限制

  外媒 thenextweb點評此事件時﹐認為授予機器人公民身份根本不合理。因為機器人不是人類﹐即便相信奇點﹐但起碼現在還沒有到。對於任何一個國家來說﹐都不能因為AI是一個時髦詞彙就將為機器人授予公民身份來當做吸引投資者的營銷方式。

  然而﹐也有評論認為﹐這一決定將被載入史冊。也許這的確是沙特政府用來吸引投資的噱頭﹐但不得不承認﹐這將會是機器人歷史的里程碑﹐機器人第一次有了身份﹐她成了和你我一樣的公民。

  作為一個有真實的國籍﹑合法身份的公民﹐無論是在倫理上還是在法律上﹐都擁有人的權利。然而﹐有了公民身份﹐索菲亞就擁有了一個地球公民的合法權利和責任嗎﹖

  “索菲婭是一個被給予的主體﹐所以她的權利也相應的是被給予的。”從事技術哲學﹑科學與文化研究的上海大學社科學院教授楊慶峰認為﹐索菲亞是特殊的公民﹐這也意味著在享受人類權利上﹐需要部分限制﹔在承擔公民的責任上﹐她甚至要承擔更多的責任。

  楊慶峰認為﹐對人類自身而言﹐需要思考索菲婭所擁有權利和責任的限度﹐並加以理性限制。索菲婭的學習發展和完善的速度會很快﹐也許瞬間完成學習。她可能會擁有超級記憶力﹑智能計算力的能力。這種能力如果被誤用和濫用﹐就會很危險。

  復旦大學軟件學院教授戴開宇認為﹐索菲亞被賦予公民身份﹐是人工智能領域的一個標誌性事件。

  “索菲婭的公民權利和義務有哪些﹖比如如何對其違法犯罪行為進行評判﹐這些都是不明朗的。我並沒有看到沙特政府給出明確的界定。這涉及人工智能與法律﹑倫理的問題﹐而不祗是技術的問題。”戴開宇認為﹐機器人和我們人類還有太多的不同﹐至少目前也還不是生物體﹐那麼肯定不能從權利和義務﹐以及法律的各個方面等同﹐還涉及不同國家文化傳統﹑信仰等等方面的問題。

  上海大學社會科學學院教授﹑博士生導師周麗昀認為﹐當前﹐人類還來得及思考﹐是否有些領域和禁區﹐是機器人所不能進入的﹐因為我們尚未看到與權利相對等的對機器人約束的“義務”。進一步地要明確﹐機器人“犯錯”或者並未如其所說來幫助人類﹐反而對人形成威脅﹐誰來為這些後果負責。

  人工智能技術的發展會帶來無限可能

  在見面會上﹐機器人索菲婭在演講臺上的表現非常出色﹐甚至熟練地避開了主持人向她提出的“機器人自我意識”的問題﹐她甚至有幽默感。當時索菲亞回應稱﹕“讓我反問下你這個問題﹐你怎麼知道自己是人﹖”

  機器人真的可能會具有類人的意識嗎﹖戴開宇認為﹐目前﹐人工智能還遠沒有達到本質上的對人的意識的模擬。哪怕是人對自身的意識的機制都所知甚少﹐也就不可能製造出具有本質上類人意識的機器人。

  “實際上﹐索菲婭的許多對話還祗是一種表面的智能。許多對話還是人所設定﹐甚至問題靈活改變下﹐就無法像人一樣作答﹐而是採取轉移話題等方式來盡量自然的對話。” 戴開宇說。

  戴開宇解釋﹐雖然現在的很多智能軟件可以作曲﹔還試圖模擬人的藝術審美能力﹔也有對創造力的模擬﹐比如機器自動編程﹔還有對情感的模擬﹐比如情感計算。但是這些都是人所賦予的一些算法﹐祗是將以上人的能力使用機器進行了表示和計算﹐人工智能還遠未具備本質上等同於人類相應行為的特徵。

  很多人擔心﹐具備了人類意識的機器人會對人類產生威脅﹐這種威脅甚至是毀滅性的﹐就連霍金﹑比爾蓋茨等很多名人也發表過對AI可能對人類產生威脅的警告。

[責任編輯:李政葳]


手機光明網

光明網版權所有

光明日報社概況 | 關於光明網 | 報網動態 | 聯繫我們 | 法律聲明 | 光明員工 | 光明網郵箱 | 網站地圖

光明網版權所有