人工智能如果被賦予情感，則超出了社會倫理范疇

“我過去曾說人工智能技術既是盾又是矛，現在看來不僅僅是矛和盾的問題，而是矛的工作原理目前還不可解釋。”在2019世界人工智能大會召開前夕，上海人工智能安全專委會主任、中科院院士何積豐接受了解放日報·上觀新聞記者的專訪。他強調，人工智能如果被賦予情感，則超出了社會倫理范疇，人工智能技術的開發應該有邊界，不能無限開發。

當突發的場景不在訓練范圍，機器也就無法從容應對

人工智能為何出錯，這是人們最關心的，但現在對于其工作原理也不甚清楚。“根據，當你選擇有限的好的函數，累加在一起，取無窮大極限，就能逼近任何一個你想看到的函數，也就是‘萬有逼近效應’，這說明可以構造出一個過程，但什么情況下會有誤差并不清楚，這是比較令人擔憂的一件事情。”何積豐說，現在的人工智能深度學習有一個重要假設，即訓練的數據和測試的場景是同一個分布函數，但實際生活中難以做到，因此數據被污染也就不可避免。一旦數據被污染后，機器學習算法就會出問題。

還記得全球首例無人駕駛傷亡事故嗎？去年3月，美國優步的一輛自動駕駛車在路試時撞倒一名行人，當時她正推著自行車在人行道之外橫穿馬路。不久之前，達芬奇手術機器人也遭遇了窘境，由于病人的血突然噴出來污染了攝像頭，使得機器人后續的動作一下亂套了。“正是因為這些突發的場景并不在訓練范圍，機器也就無法從容應對。”

人們對于一個軟件的測試，往往有不少指標做參考，而對于人工智能的深度學習技術并沒有安排相關的測試環節，更沒有指標可供參考?！斑@就解釋了為什么把一個好的語音識別工具，放在充滿噪音的環境下，也會表現得不盡如人意?！?/p>

“現在是三大學派各唱各的戲，還是要有融合”

何積豐認為，可信的人工智能應該具備以下品質：可解釋的工作原理，具有社會公平性，保護隱私，有邊界。

智能服務技術也會帶來某種歧視，國外已經出現了這樣的例子：貸款機器人會詢問收入和地址，結果發現白人拿到的貸款比黑人多一倍。人工智能將會廣泛用于服務業，應具有社會公平性。有些算法會破壞人的隱私，比如現在網絡上的“人肉搜索”往往沒有底線，人工智能發展應避免由于算法設計對公眾產生危害，不得以犧牲用戶隱私為代價。人工智能如果被賦予情感，則超出了社會倫理范疇，需要引起警惕的是，人工智能技術的開發應該有邊界，不能無限開發?！凹夹g過于到位和不到位都會產生問題，就拿機器人手臂來說，其最佳定位，應該是成為熟練工的徒弟?！焙畏e豐介紹，上海人工智能安全專委會正與上海市社會科學院合作，意在解決人工智能倫理和相關法律問題。

當下，人工智能領域主要有三大學派：基于數理邏輯的符號學派，基于控制論的行為學派，基于神經網絡的連接學派。“現在是三大學派各唱各的戲，還是要有融合。正如掃地，既需要掃地機器人，邊邊角角處還是需要拖把，需要協作?！?/p>

在何積豐看來，人工智能將經歷幾個階段，即深度學習、可解釋的人工智能、通用人工智能、類腦人工智能等，其中4.0版本類腦人工智能會是未來一個關鍵的突破方向。人類與智能系統的自然溝通，則是另一個突破方向?！叭耸茏陨砩硐拗?，但可穿戴設備延展和增強了人的智能，比如戴了智能眼鏡后看得更遠了，背上噴氣式背包后跑得更快了?！?/p>

作為中國人工智能開源軟件發展聯盟專家委員會的主任委員，何積豐談到，國家工信部已制定了人工智能開源軟件相關標準，接下來如何孵化企業和共享技術將變得重要。“中國要實現人工智能開源軟件的自主開發，需要注意軟件的通用性及可適配性，這就好比做衣服用的模板，對大多數人適用，也能在此基礎上做些小的改動，這樣可以降低開發成本，便于推廣。”

人工智能作為賦能技術可能會成為上海新的引擎

“上海的幾大傳統產業20年來沒有什么新的經濟增長點，現在人工智能作為賦能技術可能會成為新的引擎，產生新的增量，促進高品質的提升?！焙畏e豐說，上海“四個中心”建設都需要人工智能創新技術的支撐。

上海把人工智能作為推動經濟社會發展的重要賦能技術，在產業布局上有大動作，但如何為上海國家新一代人工智能創新發展試驗區等提供服務，目標和路徑都還處于策劃和探索階段。他建議，還要把高校和科研院所的力量整合到一個大的平臺。

“現在上海做應用數學研究的人太少，這也不利于人工智能的發展?！焙畏e豐還提到，希望能有更好的人才政策，解決他們的住房問題，讓他們安心在上海工作和生活。

以上是網絡信息轉載，信息真實性自行斟酌。