不要過于相信人工智能

2019年03月23日 來源：

16 16 >【pdf版】

《人工智能不會做什么》 [日]羽生善治 著 四川人民出版社

□羽生善治

有人認為只有人類才會進行創造性工作,但是已經出現了會畫畫、寫詩的人工智能程序；有人認為只有人類才有感情,但將腦科學家的研究成果運用于人工智能后,它也能模擬感情,根據交流對象的反應產生喜怒哀樂的表情；有人認為人類才會交流,但微軟在中國推出的人工智能機器人小冰已經可以用不同的對話取悅不同的交談對象。在人類和人工智能的差異越來越小的世界里,我們將要如何與人工智能相處?日本將棋名人羽生善治獨家采訪人工智能領域的研究者,在《人工智能不會做什么》一書中指出,人們必須清楚地認識到,人工智能的判斷過程是黑箱,而且絕對不是百分之百正確的。

關于人類與人工智能共存的社會,軟銀集團的孫正義先生說過的話給我留下了很深的印象。

他在講話時經常會提到“100億人類與100億人工智能機器人共同生存的社會”。但是在我采訪他時,他又說:“如果我們開發的大部分人工智能都只是為了追求生產效率和便利性的話,那將會是一個多么可怕的世界啊!”孫先生認為,人工智能不應該是一種與人類有隔閡的東西,而應該是有感情的,它們可以與人類相互依賴。

不過在我采訪的人工智能研究者中,也有人認為,賦予人工智能感情,其實是一件很危險的事。這些研究者認為,當人工智能因為某些錯誤而不受控制、無法抑制感情時,造成危險的可能性會比人類情緒沖動時高得多。

孫先生也認為人工智能總有一天會超越人類。他甚至在面對我的采訪時直言,也許在將來,人工智能對天氣預報這樣受到多重因素影響的事件也能進行分析和預測。

但是我想,正是因為人工智能將會超越人類,所以孫先生才認為人工智能需要“親密”的元素,并將企業的目標定為“生產能與人類和諧相處的機器人”。

根據最近人工智能的發展情況來看,“比人類更強”這一點是關鍵所在。事實上,孫正義先生自己也說過“我想世界上至少要有一家公司,做和其他公司不一樣的事”,這句話其實也意味著,他承認通常的企業在開發人工智能時,其目的往往是要獲得人類所沒有的能力。

人工智能通過深度學習進行思考的過程,其實是一個黑箱,即使它能帶來生產力的極大提升,我們卻無法理解或推測這個結果是經過怎樣的過程獲得的。

在nhk特別節目中,我們采訪了新加坡的交通系統作為人工智能在社會中發揮作用的實際案例之一。新加坡的國土面積狹小,交通堵塞成為嚴重的社會問題。于是,新加坡采用人工智能來實時識別道路的擁堵程度,以改善交通。

這意味著人工智能不僅可以在將棋或圍棋這樣的游戲世界里活躍,在實際的社會生活中,只要有數據積累的地方,就有人工智能的用武之地。今后,人工智能只要像alphago一樣有龐大的數據作為基礎,就有可能產生驚人的碩果。

我個人認為,如果可以預見到引進人工智能技術后工作效率和企業利益的提升,在這種情況下使用人工智能幾乎是沒有什么壞處的。在一定的風險管理下,只要膽大引進就好。如果能讓人工智能分擔一定的工作,消除交通擁堵,這不是一件非常好的事嗎?

但是如果要把人工智能用在對違法犯罪的預測上,那么無論它的回答是多么正確,我們都無法否定,監視的社會化可能會被民眾視為社會問題。

讓我們感到煩惱的關于要不要應用以及如何應用人工智能的類似情況,今后大概還會出現在各種各樣的領域內,這其中也包括醫療等關乎人命的領域。在這些領域內是否要應用人工智能,我們必須做出艱難的決斷。因為就算人工智能的準確率達到99%,1%的錯誤率仍然是性命攸關的。

以上是網絡信息轉載，信息真實性自行斟酌。