mit教授max tegmark jdd大會重磅演講：如何用人工智能使我

2018-11-21 13:48來源:科技快報網(wǎng)//

原標題：mit教授max tegmark jdd大會重磅演講：如何用人工智能使我

11月20日，由京東集團、京東數(shù)字科技聯(lián)合主辦京東jdd-2018京東數(shù)字科技全球探索者大會在中國國際展覽中心新館隆重召開，來自科技界、產(chǎn)業(yè)界、金融界、學術(shù)界、投資界五大圈層的大咖云集現(xiàn)場，共話數(shù)字科技。美國麻省理工學院教授、人工智能領域暢銷書《life 3.0》作者max tegmark受邀參會，并以“如何用人工智能是我們更強大，而不是被制服”為主題發(fā)表演講。

max tegmark 是美國麻省理工學院物理系終身教授，世界人工智能領域的權(quán)威專家，也是未來生命研究所創(chuàng)始人，該組織匯集了包括史蒂芬·霍金、埃隆·馬斯克、比爾·蓋茨、拉里·佩奇在內(nèi)的8000多名全球頂尖人工智能專家。

談到人工智能及人類的未來，max tegmark在演講中表示，技術(shù)的力量相當強大，在人工智能的未來應用上，需要注意的是，“別讓技術(shù)制服我們，而是賦能我們”。

以下為max tegmark現(xiàn)場演講全文：

我今天的發(fā)言主題，是技術(shù)。技術(shù)的發(fā)展確實給我們帶來一些負面的影響，但我們也要看到，技術(shù)也有很多是正面的。有一個非常好的比喻，就是把人工智能比作發(fā)射火箭，如果你想讓人工智能變得非常強大，有一個好的結(jié)果，那單有強有力的動力還不夠，我們必須要很好地掌握方向，并且了解怎么樣去應用它。關于人工智能的發(fā)展，我認為至少要思考三個方面的問題。

動力

首先，是發(fā)展動力的問題。人工智能是一種智能，而不是一個生物性的東西，本質(zhì)上就是信息處理。我們以前看到機器人不能走路，但是它們現(xiàn)在甚至可以跳躍了；以前我們還沒有自動駕駛汽車，現(xiàn)在已經(jīng)有了自動飛行火箭；以前人工智能還無法進行人臉識別，現(xiàn)在它們甚至可以生成人臉、模擬人臉；以前人工智能無法在圍棋上打敗我們，alphago和人類對弈，打敗了人類。

也就是說，以前我們對人工智能進行的更多是一些抽象研究，但是現(xiàn)在它已經(jīng)深入到我們的生活中來。比如說，人工智能在醫(yī)學上的應用，使得它甚至比人類的醫(yī)生更好，可以更好診斷各種各樣的疾病，從而挽救更多人的生命。對于中國這樣一個步入老齡化的國家而言，人工智能在養(yǎng)老陪護方面也許還能發(fā)揮更重要的作用。也就是說，人工智能在很多方面都得了很好的應用，所有這些都是人工智能帶來的積極變化和進步。

我們已經(jīng)取得了很多在人工智能方面的積極進步，但是依然面臨很多問題。

再舉一個例子，如果把海平面代表人工智能，那隨著氣侯變化、海平面上升，人工智能的能力就會不斷增長。但是面對海平面的上升，我們還必須小心謹慎，要考慮這個海平面會上升多少，是否會把所有的陸地都淹沒。放在對人工智能發(fā)展方面的思考，那就是要考慮人工智能是否會替代人類所有的工作？人工智能到底能夠做到什么地步？

很多人說不要害怕，因為人可以打敗人工智能，可以做很多工作。也有人認為，人工智能可以比人做的好，而且可以進一步創(chuàng)造更高級的人工智能。所以，未來的人工智能還會更強。也就是說人工智能自己可以自我演進，越來越改進，最終成為超級人工智能。

那超級人工智能到底是科幻小說還是應該嚴肅認真對待的話題呢？，我有一個同事認為通用人工智能要過幾個世紀才能發(fā)生，另外一位谷歌公司的朋友則說超級人工智能會來的比想象更早。

所以最終的問題是，超級人工智能來了以后會發(fā)生什么？如果機器可以做所有的東西，而且勞動成本更低，那人還有什么用呢？留給人類的也許只剩一個選擇，那就是只管造機器就行了。

方向

所以，我們要考慮到人工智能發(fā)展的方向，這就是我們火箭發(fā)射比喻的第二點。即火箭有了動力之后，必須要考慮到它未來飛行的方向。

我發(fā)起的一個組織——生命未來研究所，主要議題就是思考各個國家在人工智能方向該如何發(fā)展。我個人是非常喜歡技術(shù)的，我對技術(shù)是樂觀派。但我認為技術(shù)發(fā)展的前提是，人要和技術(shù)同步成長。我們生活中的許多東西，都是基于不好的教訓發(fā)明出來的。比如說著了火，我們才發(fā)明滅火器；出了車禍，然后才發(fā)明了紅綠燈、安全帶等等。從科學進步角度來說，我們還是需要讓技術(shù)變得強大，但是一定要從技術(shù)當中要吸取教訓。

比如說發(fā)展超級人工智能，我們還是應該積極來考慮。有人說超級人工智能不是什么好東西，但我認為它也并非就一定是害人的東西，只是我們應該做好“安全工程”。所謂“安全工程”，是指我們要做好應對最壞結(jié)果的打算。比如我們在發(fā)射衛(wèi)星前，就要考慮到發(fā)射衛(wèi)星的整個過程中可能有什么問題，要不然發(fā)射之后人在天空中怎么辦。

技術(shù)的發(fā)展方向是全球所面臨的問題，任何國家都無法回避，也無法單獨解決這個問題。但我認為中國在這方面可以發(fā)揮更多作用，可以為全球引導出一個正確的人工智能發(fā)展方向。一方面是中國有技術(shù)，另一方面中國有文化。技術(shù)層面，目前中國在人工智能方面已經(jīng)是一個非常領先的國家，中國的領導人也非常重視人工智能的發(fā)展，我了解到京東在技術(shù)發(fā)展方面一直在引領行業(yè)。但是同時必須考慮人工智能的安全性問題，這方面，中國是一個擁有古老文明的國度，看待問題目光長遠，所以，中國可以幫助全球制定一個全球共同認同的目標。

我所在的生命未來研究所，在2017年1月提出了一個23項人工智能的發(fā)展原則——阿西洛馬人工智能原則。在我們的發(fā)展原則中，我們認為發(fā)展人工智能，一方面要堅決避免武器的競爭，因為從技術(shù)角度來說，武器一方面可以保護人，另一方面可以傷害人。我們發(fā)展人工智能，一定要避免它們對人造成危害。

阿西洛馬人工智能原則中另外一個重要原則，就是人工智能的發(fā)展應該能給人帶來收入增長，改善人的生活品質(zhì)。目前我們大多數(shù)人都認為人工智能可以帶動經(jīng)濟大幅增長，增長到什么程度我們不知道，反正是很多人都能從中獲益。那人工智能是否也要考慮“安全工程”的問題呢？比如用人工智能進行基礎決策時，要確保其決策的可信度。所以這就要求人工智能的發(fā)展要考慮到價值同盟，價值同盟是什么意思呢？以超級人工智能為例，我們發(fā)明了超級人工智能，一定要讓他理解我們的目標，同意我們的目標，維護我們的目標，這樣才能確保方向不出錯。

目標

那我們的目標到底是什么呢？這就是我剛才舉的火箭發(fā)射例子里的第三點。火箭有動力了，又有了方向，但是它的目標到底是發(fā)射到哪呢？

目前基本沒有人談論人工智能的發(fā)展目標。因為所有的人工智能發(fā)展目標都是短期的目標、商業(yè)性的目標。我們生命未來研究所的阿西洛馬人工智能原則最后一個，也是最重要的一項原則，就是超級人工智能必須得有助于人類才應該繼續(xù)發(fā)展。中國國家主席曾經(jīng)提出要構(gòu)建人類命運共同體，這個人類命運共同體和我們的原則是高度一致的。因為人工智能的力量如此強大，發(fā)展到一定階段，要么就是讓我們共同成功，要么就是讓我們共同毀滅。所以我們應該站在更高的高度看待這個問題，首先所有的國家都應該共同發(fā)展人工智能，但是一定要有長遠的眼光，要考慮風險，否則這很可能是人類歷史上犯的最大的一個錯誤，甚至會帶來整個星球上前所未有的災難，甚至會導致人類的滅絕。為了避免這個最壞的結(jié)果，所以需要全球進行合作，一起來解決人工智能“安全工程”的問題，這樣可能帶來我們美好的未來。

總而言之，對于人工智能的發(fā)展，我的態(tài)度是非常積極的。只是發(fā)展的原則應該是技術(shù)別超過我們?nèi)祟惖牧α浚罱K應該讓人工智能給我們?nèi)祟愘x能，這樣才是正確的發(fā)展方向。

關于jdd-2018京東數(shù)字科技全球探索者大會：

jdd-2018京東數(shù)字科技全球探索者大會于11月20日在北京中國國際展覽中心新館舉辦，總獎金達220萬元的同名大賽于同天上午正式啟動。本屆大會由京東集團、京東數(shù)字科技聯(lián)合主辦，kdd china為學術(shù)指導單位，apec中國工商理事會青年企業(yè)家委員會為支持單位。大會旨在連接科技界、產(chǎn)業(yè)界、金融界、學術(shù)界、投資界五大圈層，搭建一個全球化的開放平臺，共同探索數(shù)字科技創(chuàng)新之道，實體經(jīng)濟數(shù)字化升級之路。

以上是網(wǎng)絡信息轉(zhuǎn)載，信息真實性自行斟酌。