歐盟近年來一直宣稱自己是“可信賴人工智能”的推動者。12月18日，歐盟人工智能高級別專家組(ai hleg)正式向社會發(fā)布了一份人工智能道德準(zhǔn)則草案(draft ethics guidelines for trustworthy ai，以下簡稱草案)，該草案被視為是歐洲制造“可信賴人工智能”的討論起點(diǎn)。

這份草案首先為“可信賴人工智能”提出了一個官方解釋。草案認(rèn)為，“可信賴人工智能”有兩個必要的組成部分：首先，它應(yīng)該尊重基本權(quán)利、規(guī)章制度、核心原則及價(jià)值觀，以確保“道德目的”，其次，它應(yīng)該在技術(shù)上強(qiáng)健且可靠，因?yàn)榧词褂辛己玫囊鈭D，缺乏對技術(shù)的掌握也會造成無意的傷害。

圍繞這兩大要素，草案給出了“可信賴人工智能”的框架。草案強(qiáng)調(diào)，其目的不是給出另一套人工智能的價(jià)值和原則列表，而在于為人工智能系統(tǒng)提供具體實(shí)施和操作層面的指導(dǎo)。

草案共37頁，第一章通過闡述人工智能應(yīng)該遵守的基本權(quán)利、原則和價(jià)值觀，試圖確保人工智能的道德目的。根據(jù)第一章所闡述的原則，第二章給出了實(shí)現(xiàn)“可信賴人工智能”的準(zhǔn)則和詳細(xì)要求，既涉及道德目的，也涉及技術(shù)穩(wěn)健性，既有技術(shù)層面的要求，也有非技術(shù)層面的要求。第三章則為“可信賴人工智能”提供了一張具體但非窮盡的評估列表。

草案指出，其提出的準(zhǔn)則并非旨在取代任何形式的政策和規(guī)章，同時，這些準(zhǔn)則應(yīng)該被視為活文件，需要定期更新以適應(yīng)技術(shù)發(fā)展的需求。

草案的一大亮點(diǎn)在于其特辟一個章節(jié)討論人工智能所引發(fā)的爭議性問題。這些問題引起了歐盟人工智能高級別專家組的激烈討論且尚未在組內(nèi)達(dá)成一致意見。

位于列表第一的爭議性問題是“未經(jīng)知情同意的識別”。有跡象表明利用人臉識別對公民進(jìn)行監(jiān)控的情況開始在歐洲出現(xiàn)。不久前，英國警方宣布，他們正在倫敦對圣誕節(jié)的購物者們進(jìn)行人臉識別的測試。人工智能中的人臉識別等技術(shù)使得公共或私人組織能夠有效的識別個人。草案認(rèn)為，“為了維護(hù)歐洲公民的自主權(quán)，人工智能的這一使用需要得到適當(dāng)?shù)目刂啤?。具體而言，區(qū)分個體識別與個體跟蹤、目標(biāo)監(jiān)視與大規(guī)模監(jiān)視對于實(shí)現(xiàn)“可信賴人工智能”至關(guān)重要。

另一個專家組熱議的話題是“隱蔽的人工智能系統(tǒng)”。發(fā)展人工智能的其中一種目標(biāo)是建立像人一樣的系統(tǒng)，但越來越像人的人工智能系統(tǒng)卻會給人類帶來了困擾。草案認(rèn)為，一個人必須總是知道他是在與人類還是機(jī)器進(jìn)行交流，這一點(diǎn)也應(yīng)是ai開發(fā)和管理人員的職責(zé)。專家組提出，人們“應(yīng)當(dāng)牢記，人與機(jī)器之間的混淆會產(chǎn)生多種后果，比如依戀、影響或降低作為人的價(jià)值。因此，人形和機(jī)器人的發(fā)展應(yīng)經(jīng)過仔細(xì)的道德評估?！?/p>

“致命自主武器系統(tǒng)”也是專家組重要關(guān)切之一。草案稱，目前有數(shù)量未知的國家正在研發(fā)自主武器系統(tǒng)。這些武器系統(tǒng)中有能夠選擇性瞄準(zhǔn)的導(dǎo)彈，還有具認(rèn)知能力、可在無人為干預(yù)的情況下決定作戰(zhàn)對象、時間和地點(diǎn)的學(xué)習(xí)機(jī)器等。專家組認(rèn)為這會引起不可控的軍備競賽。

對于以上這些爭議話題，草案給出了一個關(guān)鍵性指導(dǎo)準(zhǔn)則。首先是ai的開發(fā)、部署和使用應(yīng)以人為中心，須反應(yīng)公民的福利、無害、人類自主、爭議和可解釋性等社會價(jià)值觀和道德原則。其次是評估ai對人類及其共同利益的可能影響，尤其需要注意兒童、殘障人士和少數(shù)群體等弱勢群體的情況。第三是人們需要承認(rèn)并意識到人工智能在為個人和社會帶來實(shí)質(zhì)性好處的同時也可能產(chǎn)生負(fù)面影響，人們需要“對嚴(yán)重關(guān)切的領(lǐng)域保持警惕”。

目前，草案處于征集意見階段，征集時間將于2019年1月18日截止。據(jù)悉，該草案將于2019年3月提交到歐盟委員會。

歐盟人工智能高級別專家組于2018年4月由歐盟委員會任命，組內(nèi)有52位代表學(xué)術(shù)界、工業(yè)界和民間社會的獨(dú)立專家。該專家組的主要職責(zé)是撰寫人工智能道德準(zhǔn)則并為歐盟提供政策和投資建議。

以上是網(wǎng)絡(luò)信息轉(zhuǎn)載，信息真實(shí)性自行斟酌。