【IT時(shí)代網(wǎng)、IT時(shí)代周刊編者按】本文是"人工智能學(xué)家"舉辦2015世界人工智能系統(tǒng)智商測試排名活動(dòng)的第一篇文章。闡述了人工智能威脅論產(chǎn)生的起源,和辯論雙方的詳細(xì)意見。應(yīng)該說兩個(gè)陣營里都有重量級人物,但有趣的是,認(rèn)同人工智能威脅論的大部分是企業(yè)家,外專業(yè)科學(xué)家,反對人工智能威脅論的多是人工智能和計(jì)算機(jī)領(lǐng)域的科學(xué)家,為什么出現(xiàn)這種情況,值得我們關(guān)注和思考。
關(guān)于人工智能的定義,美國斯坦福大學(xué)人工智能研究中心尼爾遜教授提出“人工智能是關(guān)于知識(shí)的學(xué)科――怎樣表示知識(shí)以及怎樣獲得知識(shí)并使用知識(shí)的科學(xué)。”,而另一個(gè)美國麻省理工學(xué)院的溫斯頓教授認(rèn)為:“人工智能就是研究如何使計(jì)算機(jī)去做過去只有人才能做的智能工作。”
.jpg)
達(dá)特茅斯學(xué)院
1956年夏季,在美國達(dá)特茅斯學(xué)院(Dartmouth College)舉行一次重要的會(huì)議,會(huì)議上以麥卡賽、明斯基、羅切斯特和申農(nóng)等為首的科學(xué)家共同研究和探討用機(jī)器模擬智能的一系列有關(guān)問題,首次提出了“人工智能”這一術(shù)語,它標(biāo)志著“人工智能”這門新興學(xué)科的正式誕生。此后在人工智能的發(fā)展歷史上經(jīng)歷了多次高潮-低潮的階段,從歷史上看,在人工智能發(fā)展快速的時(shí)期往往會(huì)出現(xiàn)大量樂觀觀點(diǎn),但最近這一次人工智能熱潮中,樂觀情緒卻轉(zhuǎn)變成人工智能威脅論。
谷歌技術(shù)總監(jiān)雷·《奇點(diǎn)臨近》作者庫茲韋爾(Ray Kurzweil)預(yù)言人工智能將超過人類智慧。他在書中寫道”由于技術(shù)發(fā)展呈現(xiàn)指數(shù)式的增長,機(jī)器能模擬大腦的新皮質(zhì)。到2029年,機(jī)器將達(dá)到人類的智能水平;到2045年,人與機(jī)器將深度融合,那將標(biāo)志著奇點(diǎn)時(shí)刻的到來[4]。”除此以外,支持人工智能威脅論的代表人物包括著名的物理學(xué)家霍金,微軟創(chuàng)始人比爾蓋茨,特斯拉CEO馬斯克等。
(2).jpg)
著名物理學(xué)家霍金患有肌萎縮側(cè)索硬化癥(ALS),使用英特爾公司開發(fā)的一套通信系統(tǒng)和外界交流。這套系統(tǒng)涉及基本的人工智能技術(shù),可以接收霍金的想法,從而提出詞語供他選用。當(dāng)被問到如何改進(jìn)這套系統(tǒng)的時(shí)候,霍金提出了人工智能可以毀滅人類的想法。
他2014年12月2日在接受BBS采訪時(shí)表示,運(yùn)用人工智能技術(shù)制造能夠獨(dú)立思考的機(jī)器威脅人類的生存。霍金說:“人工智能的全面發(fā)展可能導(dǎo)致人類的滅絕。”。霍金表示,截至目前,基礎(chǔ)性的人工智能技術(shù)已經(jīng)取得一定成果,很有實(shí)用價(jià)值。不過,霍金擔(dān)心,人工智能也許會(huì)在將來的某一天趕上甚至超過人類。霍金說:“它自己就動(dòng)起來了,還能以前所未有的超快速度重新設(shè)計(jì)自己。人類呢,就要受到緩慢的生物進(jìn)化的限制,根本沒有競爭力,會(huì)被超越的[5]。”,應(yīng)該提醒讀者的是霍金是著名的物理學(xué)家,但并不是人工智能專業(yè)領(lǐng)域的專家。
特斯拉CEO馬斯克對待人工智能的態(tài)度更為極端,2014年8月,他在twitter推薦尼克-伯斯特羅姆的著作《超級智能:方法、危險(xiǎn)和策略》時(shí)寫到:“我們需要超級關(guān)注人工智能。它的潛在危險(xiǎn)性超過核武器“。
比爾·蓋茨2015年1月29日在Reddit的“Ask MeAnything”論壇上表示人類應(yīng)該敬畏人工智能的崛起,它可能將最終構(gòu)成一個(gè)現(xiàn)實(shí)性的威脅,但它在此之前會(huì)使我們的生活更輕松。他的原話是“我正在關(guān)注超級智能。首先,在開始的時(shí)候機(jī)器會(huì)為我們做很多工作,這些機(jī)器并不是超級智能。如果我們處理得很好的話,這應(yīng)該是具有積極意義的。那之后的幾十年,人工智能會(huì)強(qiáng)大到足以引起人們的關(guān)注。我同意伊隆·馬斯克和其他一些人的說法,不明白為什么有些人并不關(guān)心[6]。”
在人工智能威脅論熱度日益高漲的情況下,人工智能領(lǐng)域科學(xué)家對人工智能威脅論也提出了反駁意見。Facebook人工智能實(shí)驗(yàn)室主任,NYU計(jì)算機(jī)科學(xué)教授Yann LeCun 2014年4月在接受IEEE 《Spectrum》采訪時(shí)發(fā)表了對人工智能威脅論的看法,他認(rèn)為人工智能研究者在之前很長的一段時(shí)間都低估了制造智能機(jī)器的難度。人工智能的每一個(gè)新浪潮,都會(huì)帶來這么一段從盲目樂觀到不理智最后到沮喪的階段。
(2).jpg)
Yann LeCun預(yù)測的人工智能發(fā)展曲線圖
Yann LeCun 提出了與威脅論支持者不同的人工智能未來發(fā)展路徑,他提到大部分人覺得人工智能的進(jìn)展是個(gè)指數(shù)曲線,其實(shí)它是個(gè)S型曲線,如圖1.1所示。S型曲線剛開始的時(shí)候跟指數(shù)曲線很像,而且奇點(diǎn)理論比指數(shù)曲線還夸張,它假設(shè)的是漸進(jìn)曲線。線性、多項(xiàng)式、指數(shù)和漸進(jìn)以及S曲線的動(dòng)態(tài)演變,都跟阻尼和摩擦因子有關(guān)系。而未來學(xué)家卻假設(shè)這些因子是不存在的。未來學(xué)家生來就愿意做出盲目的預(yù)測,尤其是他們特別渴望這個(gè)預(yù)測成真的時(shí)候,可能是為了實(shí)現(xiàn)個(gè)人抱負(fù)[7]。
除了Facebook人工智能實(shí)驗(yàn)室主任Yann LeCun,百度首席科學(xué)家,斯坦福大學(xué)計(jì)算機(jī)科學(xué)系和電子工程系副教授吳恩達(dá),中國科學(xué)院自動(dòng)化所教授,人工智能領(lǐng)域?qū)<彝躏w躍等也在不同場合對人工智能威脅論提出了反對意見。
.jpg)
科學(xué)院院士譚鐵牛在 2015中國人工智能大會(huì)上表示“水能載舟,亦能覆舟,甚至有的時(shí)候是魔鬼,走的好把握的好了魔鬼就不會(huì)出現(xiàn)。所以這個(gè)我認(rèn)為非常重要。所以盡管在我看到的未來人工智能還難以超越人類,但是它對人類社會(huì)影響反響很大。這是大的科技革命。”
中科院自動(dòng)化研究所復(fù)雜系統(tǒng)管理與控制國家重點(diǎn)實(shí)驗(yàn)室主任王飛躍教授在“人工智能九文九答”一問中提到“我尊重任何人發(fā)表任何觀點(diǎn)的權(quán)利,但對“人工智能威脅論”、“奇點(diǎn)理論”之類的論調(diào),我的態(tài)度是堅(jiān)決反對。的確,有錢有勢就是任性,什么話吸引眼球就講什么,我對這些議論和觀點(diǎn)最好的評價(jià)只能是:無知者無畏。人工智能其實(shí)還非常初等,“威脅論”、“超越奇點(diǎn)”怕是在夢里都做不到。不過,我個(gè)人覺得這些言論對人工智能的發(fā)展還不能造成實(shí)質(zhì)性的傷害,反到能夠引起大眾的更多關(guān)注。 ”
百度首席科學(xué)家,斯坦福大學(xué)人工智能專家吳恩達(dá)表示:“擔(dān)心人工智能過于強(qiáng)大就好像擔(dān)心人類會(huì)在火星過度殖民導(dǎo)致火星人口爆炸一樣。我很希望數(shù)百年后我們能在火星生活,但目前甚至都還沒有人類登上過火星,我們?yōu)楹我獡?dān)心在火星過度殖民的問題呢?”
地平線科技創(chuàng)始人,人工智能專家余凱相信:“即使到2029年,人工智能的進(jìn)展也不會(huì)對人類產(chǎn)生威脅。因?yàn)槟菚r(shí)的機(jī)器還沒有好奇心,沒有情感,沒有自我意識(shí)。它們是智能的機(jī)器人,但不是智慧的機(jī)器人。智能是偏工具性的,而智慧會(huì)創(chuàng)造。”
應(yīng)該說人工智能威脅論引發(fā)爭論背后,本質(zhì)上是人工智能的智力發(fā)展水平能不能定量評測的問題。這個(gè)問題為什么長期沒有得到解決,我們將在下一篇文章中闡述。【責(zé)任編輯/李響】
本文來源:人工智能學(xué)家。
來源:人工智能學(xué)家
IT時(shí)代網(wǎng)(關(guān)注微信公眾號ITtime2000,定時(shí)推送,互動(dòng)有福利驚喜)所有原創(chuàng)文章版權(quán)所有,未經(jīng)授權(quán),轉(zhuǎn)載必究。
創(chuàng)客100創(chuàng)投基金成立于2015年,直通硅谷,專注于TMT領(lǐng)域早期項(xiàng)目投資。LP均來自政府、互聯(lián)網(wǎng)IT、傳媒知名企業(yè)和個(gè)人。創(chuàng)客100創(chuàng)投基金對IT、通信、互聯(lián)網(wǎng)、IP等有著自己獨(dú)特眼光和豐富的資源。決策快、投資快是創(chuàng)客100基金最顯著的特點(diǎn)。
小何
小何
小何
來自: 【人物】滴滴創(chuàng)始人程維回顧與Uber競爭:中國互聯(lián)網(wǎng)從來沒有輸過--IT時(shí)代網(wǎng)
小何
來自: 少年頭條對壘中年騰訊:解局兩代互聯(lián)網(wǎng)公司商業(yè)之戰(zhàn)--IT時(shí)代網(wǎng)