經(jīng)濟學(xué)人智庫(EIU)的一份報告說，數(shù)據(jù)偏見導(dǎo)致對個人或群體的歧視是使用該技術(shù)的銀行面臨的最大風(fēng)險之一。

據(jù)EIU稱，人工智能目前在銀行業(yè)議程中處于首位，而Covid-19造成的混亂已經(jīng)“加強”了該領(lǐng)域的采用。銀行正在使用AI為客戶創(chuàng)建更多個性化的銀行服務(wù)，實現(xiàn)后臺流程的自動化，并與該領(lǐng)域開創(chuàng)AI的數(shù)字挑戰(zhàn)者銀行的發(fā)展保持同步。

EIU的“監(jiān)督AI：銀行報告中的人工智能治理”表示，但是銀行將需要確?；诘赖?，公平和有據(jù)可查的AI決策。它說，計算機做出的決定必須保持道德，沒有偏見，并且這些決定必須是可解釋的。

為了實現(xiàn)這些目標(biāo)，人工智能在設(shè)計上應(yīng)符合道德規(guī)范，應(yīng)監(jiān)控數(shù)據(jù)的準(zhǔn)確性和完整性，開發(fā)過程需要有據(jù)可查，銀行需要確保其具有適當(dāng)?shù)募寄芩健?/p>

歐洲，中東和非洲(EMEA)編輯總監(jiān)Pete Swabey – EIU的思想領(lǐng)導(dǎo)者說：“人工智能被視為該領(lǐng)域的關(guān)鍵競爭優(yōu)勢。我們的研究借鑒了全球監(jiān)管機構(gòu)的指導(dǎo)意見，強調(diào)了銀行要想安全，合乎道德地利用AI機會，必須應(yīng)對的主要治理挑戰(zhàn)。”

EIU認(rèn)為，可能缺乏人為監(jiān)督是一個主要問題。該公司表示，應(yīng)優(yōu)先考慮招聘和培訓(xùn)具有適當(dāng)技能的人員：“銀行必須確保整個企業(yè)具有適當(dāng)水平的AI專業(yè)知識，以建立和維護AI模型，并監(jiān)督這些模型。”但是，作為IT的先驅(qū)，并憑借其豐富的IT技能和研究資金，銀行可以為AI開發(fā)設(shè)定標(biāo)準(zhǔn)。

花旗創(chuàng)新實驗室高級副總裁Prag Sharma表示：“偏差可以滲透到任何行業(yè)的AI模型中，但是與大多數(shù)類型的組織相比，銀行的定位要好得多。最大限度地提高算法的可解釋性有助于減少偏差。”

人工智能生態(tài)系統(tǒng)構(gòu)建商Skymind Global Ventures的聯(lián)合創(chuàng)始人亞當(dāng)·吉布森(Adam Gibson)表示，首先定義道德對產(chǎn)品的意義非常重要，因此在設(shè)計AI應(yīng)用程序時應(yīng)遵循一些準(zhǔn)則。

他說：“此外，您需要思想和跨職能團隊的多樣性，以研究您在其整個生命周期中構(gòu)建的服務(wù)的各個方面。”

“與來自不同背景的不同人的合作對于最大程度地減少AI決策過程中的偏見和道德上可疑的活動至關(guān)重要。這不僅包括具有構(gòu)建技術(shù)技能的人員，還包括服務(wù)的用戶。他們將直接了解任何偏差，并能夠在啟動AI服務(wù)之前的設(shè)計過程中對其進行標(biāo)記。”

Gibson補充說，AI是通過數(shù)據(jù)集構(gòu)建的，而種族主義AI模型通常來自種族主義數(shù)據(jù)集。他說：“這是我們需要意識到的，以幫助最小化和保護我們免受對社會無益的創(chuàng)新。”