原標題：微軟總裁施博德：開發(fā)可信賴的人工智能，技術設計者的角色是關鍵

【上圖為微軟公司總裁施博德（brad smith）】

我們正走進人工智能（ai）社會。人工智能已經(jīng)深入地融入到生活與工作中，日常交通出行查看手機導航、每天在手機app上查看各種推送的媒體新聞、工業(yè)自動化機器人代替人類生產(chǎn)著各種產(chǎn)品等等，已經(jīng)有著非常廣泛的人工智能身影。人工智能對社會的影響，遠遠比今天人們的認知還要廣泛。

在教育、醫(yī)療保健、交通、農(nóng)業(yè)、能源和制造等領域，人工智能已初顯鋒芒，極大提高了人們的理解深度和決策能力，但另一方面也必將引發(fā)新的社會問題。例如，如何確保人工智能公平對待每一個人？如何在保護隱私的同時，享受人工智能帶來的好處？如何避免失去對機器的控制？此外，人工智能系統(tǒng)并非法外之地，如何讓人工智能系統(tǒng)遵守世界各地浩如煙海的法律規(guī)定？

2018年7月9日，微軟公司總裁施博德（brad smith）在由中國發(fā)展研究基金會主辦的《未來基石-人工智能的社會倫理和角色》報告（以下簡稱：《報告》）發(fā)布會上，與清華大學公管學院院長薛瀾教授就人工智能的社會角色進行了深入探討。施博德表示，人工智能可以幫助人類克服最為艱巨的社會挑戰(zhàn)，但也要注意人工智能所需要承載的倫理道德和價值觀，人工智能只有在符合倫理道德標準的基礎上才能更好的服務人類社會。為了設計可信賴的人工智能，微軟提出了人工智能六項基本準則，作為體現(xiàn)道德原則的人工智能解決方案框架。

ai倫理道德大討論

【上圖為微軟公司總裁施博德（左）與清華大學公管學院院長薛瀾教授（右）對話】

近年來，國際社會對于人工智能的關注，日益轉移到重視人工智能中的倫理道德與法律問題。從去年開始，從美國到歐洲到中國，全球掀起了關于人工智能倫理道德大討論。特別是2018年3月，uber自動駕駛車首次撞死了行人，進一步激發(fā)了各界對人工智能立法的關注。

國際電氣和電子工程師協(xié)會（ieee）在2016年12月發(fā)布了“自主和智能系統(tǒng)的倫理設計”1.0版本，當時匯集了全球數(shù)百位思想領袖以及人工智能、倫理道德領域專家的意見，主要為鼓勵技術開發(fā)者在開發(fā)自主系統(tǒng)和智能系統(tǒng)的時候，要優(yōu)先考慮倫理道德因素與原則。2017年12月，“自主和智能系統(tǒng)的倫理設計”2.0版本發(fā)布，ieee同時推出了“倫理道德在行動”活動，鼓勵全球都積極參與ieee發(fā)起的討論。

微軟公司積極參與國際社區(qū)關于人工智能倫理道德以及相關立法方面的討論，這是源自于比爾·蓋茨時代就追求可信計算以及建立計算與人類用戶之間的信任。在2002年，比爾·蓋茨在發(fā)送給微軟員工的一份備忘錄中就表達了可信計算比其他任何工作內容都更重要的觀點。而微軟新一任ceo薩提亞·納德拉在可信計算的基礎上，進一步提出技術的倫理與同理心。納德拉在其《刷新：重新發(fā)現(xiàn)商業(yè)與未來》一書中提出了“同理心+共同價值觀+安全可靠=信任”這一公式。

納德拉提出在推動人工智能發(fā)展的過程中，最重要的步驟就是對人工智能設計達成一個倫理和同理心的框架，并鼓勵全行業(yè)和全社會對此進行討論。微軟總裁施博德去年與微軟全球執(zhí)行副總裁、微軟人工智能及微軟研究事業(yè)部負責人沈向洋主持撰寫了《future computed》一書，進一步推動了業(yè)界與社會對于人工智能倫理道德的關注。

人工智能的機遇與挑戰(zhàn)

中國也認識到了人工智能倫理道理的重要性。2017年，中國政府發(fā)布《新一代人工智能發(fā)展規(guī)劃》，提出要“建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評估和管控能力”。中國發(fā)展研究基金會積極展開了《未來基石-人工智能的社會倫理和角色》研究，并參考了微軟在人工智能的社會角色和倫理方面的思考和洞察。

《報告》認為，中國在人工智能領域的快速發(fā)展，已經(jīng)展示出巨大的應用前景。特別是人工智能確實能幫助中國推進經(jīng)濟社會結構轉型，在人口數(shù)量上紅利消失的前提下，幫助突破供給側短板，緩解醫(yī)療、教育等社會資源挑戰(zhàn)。

微軟總裁施博德在對談中表示，人工智能可以幫助解決人類現(xiàn)在面臨最大的一些挑戰(zhàn)，比如精準醫(yī)療、精準農(nóng)業(yè)等。

例如在精準農(nóng)業(yè)方面，未來二十五年內全球人口預計將增加約25億，人工智能可提高農(nóng)業(yè)產(chǎn)量和減少浪費，有效地增加糧食產(chǎn)量。例如，微軟的“farmbeats”項目采用先進技術、聯(lián)通現(xiàn)有設施以及強大的云和機器學習功能，來實現(xiàn)低成本的數(shù)據(jù)驅動型農(nóng)業(yè)。該項目為農(nóng)民提供了易于理解的建議，幫助提高農(nóng)業(yè)產(chǎn)量，降低總體成本，減少農(nóng)業(yè)對環(huán)境的影響。

當然，在另一方面，我們也看到科幻小說和科幻電影以戲劇化方式引發(fā)了公眾的恐慌，讓中產(chǎn)階級產(chǎn)生了對人工智能的知識恐慌和焦慮，社會上出現(xiàn)了對人工智能的狂熱投資和非理性投入等。而諸如無人車在決定“撞老人”還是“撞孩子”這樣就算是人類司機也難以決策的問題，ai決策算法到底要怎么設計，這其實在很大程度上引發(fā)了對人類自己的反思。因此，如何讓社會更好地理解和認識人工智能，在接受的同時能夠理性地看待人工智能，是我們進入人工智能社會面臨的主要挑戰(zhàn)之一。

人工智能六項基本準則

與其它公司討論人工智能不同的是，微軟還在積極實踐人工智能，并且把普及人工智能全民化作為公司的使命。微軟不僅僅推出了基于智能云azure的人工智能服務以及cortana人工智能助理和微軟小冰對話型聊天機器人等，更把人工智能擴散到微軟的所有產(chǎn)品和服務中。

《future computed》一書強調，40年前比爾·蓋茨和保羅·艾倫成立微軟時，他們的目標是讓每一個人都能受益于計算機的計算能力，于是他們著手建立用于家庭、學校以及工作場所、幫助人們提高效率的“個人”計算機。如今，微軟通過人工智能所做的事情也與此類似。微軟的目標是部署人人可用、體現(xiàn)永恒社會價值的人工智能系統(tǒng)，讓人工智能贏得所有人的信任。

施博德強調，要設計出可信賴、贏得所有人信任的人工智能，必須采取體現(xiàn)道德原則的解決方案，而這些道德原則應深深根植于重大和永恒的價值觀。具體而言，人工智能系統(tǒng)應公平、可靠與安全、隱私與保密、包容、透明和負責，這就是微軟的人工智能六項基本準則。

比如在可靠與安全方面，人工智能能否取得人們信任，最終取決于基于人工智能的系統(tǒng)能否可靠、安全和一致地運行，這不僅是在通常情況下，更包括意外或受到攻擊的情況。此外，人工智能系統(tǒng)往往并不能看到或理解更大的社會圖景，因此人類的判斷對于識別人工智能系統(tǒng)潛在的盲點和偏見非常關鍵，開發(fā)人員應意識到這些挑戰(zhàn)。

再比如在透明方面，因為一旦人工智能系統(tǒng)被用于做出影響人們生活的決策，人們就有必要了解人工智能是如何做出這些決策的。然而深度神經(jīng)網(wǎng)絡等人工智能算法本身就是“黑箱子”，因此需要更全面的方法，使人工智能系統(tǒng)設計人員能夠盡可能完整、清晰地描述系統(tǒng)的關鍵組成要件。微軟正在與人工智能合作組織（pai）及其他組織合作開發(fā)最佳實踐規(guī)范，以實現(xiàn)人工智能系統(tǒng)有意義的透明度。

施博德表示，創(chuàng)建安全、可靠的人工智能系統(tǒng)不是某一個人的責任，而是共同的責任。為了確保這六項原則有效實施，微軟設立了開發(fā)和研究人工智能與道德標準委員會（aether），幫助解決微軟人工智能研究、產(chǎn)品和客戶溝通中產(chǎn)生的倫理和社會影響問題。清華大學薛瀾教授在會上也表示，未來人工智能需要一套信息治理機制，在使用信息和保護隱私之間找到合理的平衡，而這其中公司的責任非常關鍵。像微軟提出的六項原則，可以適用到更多公司，跨界的治理機制需要盡快推進。

以上是網(wǎng)絡信息轉載，信息真實性自行斟酌。