【cnmo新聞】在上周末舉行的data for black lives會議上，技術(shù)專家、法律專家

【cnmo新聞】在上周末舉行的data for black lives會議上，技術(shù)專家、法律專家和社區(qū)活動家討論了美國的刑事司法系統(tǒng)，并提出了一些看法。

美國監(jiān)禁的人數(shù)超過世界上任何其他國家。截至2016年底，有近220萬成年人被關(guān)押在監(jiān)獄中，還有450萬人在其他懲教設(shè)施中。換句話說，每38名成年美國人中就有1人受到某種形式的懲教監(jiān)督。

在司法系統(tǒng)中引入人工智能

在不增加犯罪風(fēng)險且減少監(jiān)獄數(shù)量的巨大壓力下，美國各地的法庭已經(jīng)求助于自動化工具。警察部門使用預(yù)測算法來制定策略，執(zhí)法機(jī)構(gòu)使用人臉識別系統(tǒng)來識別嫌疑人。這些做法經(jīng)受了各種審查，以確定它們是否真正提高了安全性，還是只是使現(xiàn)有的不公平現(xiàn)象長期存在。例如，研究人員和民權(quán)倡導(dǎo)者一再證明，人臉識別系統(tǒng)可能會失敗，特別是對于皮膚黝黑的人，該系統(tǒng)甚至曾將國會議員誤認(rèn)為是罪犯。

但迄今為止最具爭議的工具是在警方逮捕嫌疑人之后使用的犯罪風(fēng)險評估算法。

風(fēng)險評估工具旨在做一件事：收集被告的詳細(xì)信息并給出一個累犯分?jǐn)?shù)，一個表示他或她再次犯罪可能性的數(shù)字。然后，法官將這個分?jǐn)?shù)用于各項(xiàng)考量之中，包括決定被告應(yīng)該接受哪種類型的判決、是否應(yīng)該在審判前將他們關(guān)在監(jiān)獄中以及對他們進(jìn)行什么程度的判決等。

使用這種算法工具的邏輯是，如果你能準(zhǔn)確預(yù)測犯罪行為，就可以相應(yīng)地分配資源，無論是恢復(fù)還是監(jiān)禁。理論上，它還減少了一定的偏見，因?yàn)榉ü俑鶕?jù)數(shù)據(jù)做出決策而不是他們的直覺。

但現(xiàn)代風(fēng)險評估工具通常使用的都是歷史犯罪數(shù)據(jù)。機(jī)器學(xué)習(xí)算法使用統(tǒng)計(jì)數(shù)據(jù)來查找數(shù)據(jù)中的模式。因此，如果你提供歷史犯罪數(shù)據(jù)，它將挑選出與犯罪相關(guān)的模式。但這些模式是統(tǒng)計(jì)相關(guān)性而非因果關(guān)系。例如，如果算法發(fā)現(xiàn)低收入與高累犯相關(guān)，那么在低收入是否真的是導(dǎo)致犯罪的原因，這一點(diǎn)人工智能無法進(jìn)行分析。

現(xiàn)在，一直被執(zhí)法人員定位成高累犯風(fēng)險的人群中包括低收入和少數(shù)族裔群體，由此可見，該算法有可能會產(chǎn)生偏見，并生成更多受偏見污染的數(shù)據(jù)，從而導(dǎo)致惡性循環(huán)。

以上是網(wǎng)絡(luò)信息轉(zhuǎn)載，信息真實(shí)性自行斟酌。