2019年人工智能的六大潛在危險

2019-01-18 14:57來源:固華智能//

原標題：2019年人工智能的六大潛在危險

曾經，人們對超智能機器占領人類世界的未來憂心忡忡。世界在過去的一年表明，不必等到超智慧機器人的出現，人工智能就可能造成各種危害。

最新的人工智能方法在諸如圖像分類和語音轉錄等感知任務上表現出色，但對這些技能的炒作和興奮掩蓋了我們離制造像我們這樣聰明的機器還有多遠。從2018年開始的六個爭議突顯，即使是最聰明的人工智能算法也可能行為不端，或者不小心應用它們而導致可怕的后果。

1.自毀的汽車

在三月份uber的一輛自動駕駛汽車發生致命事故后，調查人員發現，該公司的技術發生了災難性的故障，而這種故障很容易預防。

優步在美的自動駕駛事故

福特和通用汽車等汽車制造商、優步（uber）等新來者以及一批初創企業正忙著將一項技術商業化，盡管這項技術還不成熟，但其投資已達數十億美元。作為alphabet的子公司，韋莫公司取得了最大的進步；它去年在亞利桑那州推出了第一個完全自主的出租車服務。但即使是韋莫公司的技術也有限，而且自動駕駛汽車在任何條件下都不能到處行駛。

2019年要注意的是：迄今為止，美國和其他國家的監管機構都采取了不動手的做法，擔心扼殺創新。美國國家公路交通安全管理局甚至表示，現有的安全規則可能會放寬。但行人和司機還沒有注冊成為豚鼠。2019年的另一次嚴重事故可能會改變監管機構的態度。

2.被操縱機器人

今年3月，有消息稱，咨詢公司利用facebook的數據共享做法影響了2016年美國總統選舉。由此引起的騷動表明，決定在社交媒體上出現什么新聞和信息的算法是如何進行博弈的，以放大錯誤信息，破壞健康的辯論，并將持有不同觀點的公民隔離開來。

大數據的新型誤傳技術

在美國國會聽證會上，facebook首席執行官馬克.扎克伯格承諾，盡管人工智能還遠不能理解文本、圖像或視頻的含義，但人工智能本身可以接受識別和阻止惡意內容的入侵。

2019年要注意的是：扎克伯格的承諾將在南非和尼日利亞這兩個非洲最大的國家舉行的選舉中受到考驗。到2020年美國大選的長期準備也已經開始，這可能會激發由人工智能驅動的新型誤傳技術，包括惡意聊天機器人。

三.和平算法

去年，當谷歌員工得知他們的雇主正在向美國空軍提供用于分類無人機圖像的技術時，一場人工智能和平運動開始成形。工人們擔心，這可能是為實現致命無人機打擊自動化提供技術的決定性一步。作為回應，該公司放棄了相關項目，并創建了一個人工智能道德規范。

分類無人機圖像技術

學術界和工業界的重量級人物支持一項禁止使用自主武器的運動。然而，人工智能的軍事使用只是在增長勢頭，而其他公司，如微軟和亞馬遜，對幫助他人毫無保留。

在2019年要注意的是：盡管美國五角大樓在人工智能項目上的開支在增加，但活動家們希望在今年的一系列聯合國會議上出臺一項禁止自主武器的先發制人條約。

4.監視對抗

人工智能識別人臉的超人能力使各國以驚人的速度部署監控技術。人臉識別還允許您解鎖手機，并在社交媒體上自動為您標記照片。

人臉識別技術

機構宣稱，這項技術是一種侵入人們隱私的強大方式，而測試數據的偏見使其很可能自動進行歧視。

2019年要注意什么：人臉識別將傳播到車輛和網絡攝像頭上，它將被用來跟蹤你的情緒以及你的身份。

5.假裝直到你把它弄壞

去年大量的“deepfake”視頻顯示了使用人工智能制作假視頻是多么的容易。這意味著虛假的名人色情片，許多怪異的電影混搭，以及潛在的惡毒的政治誹謗運動。

生成性對抗網絡（gans）包含兩個相互對抗的神經網絡，可以產生非常逼真但完全由圖像和視頻組成的效果。nvidia最近展示了gans如何生成你想要的任何種族、性別和年齡的真實照片。

2019年要注意的是：隨著深海生物的改善，今年人們可能會開始被它們欺騙。國防高級研究計劃局將測試新的探測深凹處的方法。但由于這也依賴人工智能，所以這將是一個貓和老鼠的游戲。

6.算法識別

去年在許多商業工具中發現了偏差。在不平衡數據集上訓練的視覺算法無法識別女性或有色人種；根據歷史數據制定的雇傭計劃被證明是對已經存在的歧視的延續。

算法識別偏差

與偏見和更難解決的問題有關的是整個人工智能領域本身缺乏多樣性。女性最多占據了30%的行業工作崗位，在頂尖大學的教學崗位上所占比例不足25%。黑人和拉丁語研究者相對較少。

2019年的預期：我們將看到檢測和減輕偏差的方法，以及從有偏差的數據中產生無偏結果的算法。國際機器學習會議是一個重要的人工智能會議，將于2020年在埃塞俄比亞舉行，因為研究偏見問題的非洲科學家可能難以獲得前往其他地區的簽證。

南京固華智能科技有限公司，致力于變革傳統工業，專注于工業智能的研發、設計、生產、銷售 和服務，為客戶量身定制高效、柔性、安全的智能化設備、自動化生產線及智慧工廠解決方案， 是中國領先的智能制造服務商。

責任編輯：

聲明：該文觀點僅代表作者本人，搜狐號系信息發布平臺，搜狐僅提供信息存儲空間服務。

閱讀 ()

以上是網絡信息轉載，信息真實性自行斟酌。