人工智能已經(jīng)開始以無所不在的，無形的方式塑造我們的生活。在其新的紀錄片《人工智能時代》中，F(xiàn)RONTLINE審視了這種前景并危及這項技術(shù)。招聘經(jīng)理，法院，執(zhí)法部門和醫(yī)院正在部署AI系統(tǒng)，有時甚至不知道被篩查人員的情況。盡管這些系統(tǒng)最初因其比人類更具客觀性而受到稱贊，但很快變得清楚的是算法也帶有偏差。

這是一個問題，麻省理工學院的研究生研究員Joy Buolamwini知道第一手資料。她成立了算法正義聯(lián)盟，以引起人們的注意。今年早些時候，她在一次國會聽證會上作證說面部識別技術(shù)對民權(quán)的影響。

“算法偏差的主要問題之一是您可能不知道它的發(fā)生，” Buolamwini告訴FRONTLINE。我們向她講述了她如何遇到算法偏差，她的研究以及她認為公眾需要知道的內(nèi)容。

該訪談經(jīng)過了編輯，以確保篇幅和清晰度。

在她第一次遇到算法偏差時。

我第一次遇到面部檢測技術(shù)問題時，實際上是當我在佐治亞理工大學讀本科時，當時我正在研究機器人。這個機器人的想法是看我是否可以和我一起玩躲貓貓。如果您的機器人看不到您，而我的機器人也看不到我，那么peek-a-boo并不會真正起作用。為了完成我的項目，我借了室友的臉。她的皮膚比我輕。…那是我第一次真正使用面部分析技術(shù)，并且發(fā)現(xiàn)它對我的工作方式與對其他人的工作方式不同。…

我繼續(xù)做很多事情，并成為麻省理工學院的研究生，我開始從事使用面部分析技術(shù)，面部檢測的項目。因此，我所做的一個項目是稱為Aspire Mirror。您看著鏡子，相機檢測到您的臉，然后獅子會出現(xiàn)在您身上，或者您可能是受到啟發(fā)的人……

我沒有一直檢測到我的臉，所以我感到沮喪。那么，當您對程序感到沮喪時該怎么辦?您調(diào)試。我開始嘗試找出使之工作的方法。我實際上在手上畫了一張臉，然后系統(tǒng)檢測到我的手掌上的臉。我當時想：“等一下，等一下，如果能檢測到我剛剛在手掌上畫的臉，那么現(xiàn)在就有可能了。”于是我環(huán)顧辦公室，白色的面具就在那里。所以我想，“沒有辦法!但是為什么不呢?”

我拿起白色面具，戴上它，當我戴上白色面具時，它是瞬間的，我的意思是-它的象征意義并沒有對我失去。這很荒謬，系統(tǒng)可以檢測到不是真實人物的白色蒙版，但不一定檢測到我的臉。所以這真的是當我開始思考：“好吧，讓我們更深入地了解這些系統(tǒng)正在發(fā)生的事情。”…