企業(yè)AI的領導者DataRobot今天發(fā)布了 一項新研究，揭示了美國和英國近一半(42%)的AI專業(yè)人員“非常”或“極其”擔心AI偏見。這項研究基于對350多名參與AI和機器學習購買決策的美國和英國高管的調查得出的結果-發(fā)現“品牌聲譽受損”和“客戶信任度下降”是最受AI偏見影響的因素，促使93 %的受訪者表示，他們計劃在未來12個月內對AI偏差預防計劃進行更多投資。

DataRobot可信AI副總裁Ted Kwartler說：“越來越多的組織正在部署AI，因為他們認識到該技術是當今商業(yè)環(huán)境中競爭的關鍵成功因素。” “盡管有這個事實，但我們發(fā)現AI的成熟度差異很大-許多組織仍在使用不可信任的AI系統(tǒng)。”

DataRobot的研究發(fā)現，盡管大多數組織(71%)目前依靠AI來執(zhí)行多達19個業(yè)務功能，但19%的組織使用AI來管理多達20-49個功能，而10%的技術利用該技術來解決50多個功能。雖然在企業(yè)內部管理AI驅動的功能可能非常有價值，但也會帶來挑戰(zhàn)。并非所有AI都一視同仁，并且如果沒有適當的知識或資源，公司可能會以有害無益而不是有益的方式選擇或部署AI。

該調查發(fā)現，超過三分之一(38%)的AI專業(yè)人員仍在使用黑盒AI系統(tǒng)-這意味著他們幾乎無法理解其AI解決方案的數據輸入是如何被使用的。缺乏可見性可能導致受訪者擔心其組織內出現AI偏差。

為了應對AI偏見的情況，所有AI專業(yè)人員中有83%的人表示他們已經建立了AI準則，以確保AI系統(tǒng)得到正確維護并產生準確，可信賴的輸出。此外：

60%的人創(chuàng)建了警報以確定數據和結果何時與培訓數據不同

59%的人衡量AI決策因素

56%的人正在部署算法以檢測和緩解訓練數據中的隱藏偏見

該調查還發(fā)現了美國和英國受訪者之間的文化差異，這可能是由每個地區(qū)的法規(guī)和文化環(huán)境所驅動。盡管美國受訪者最擔心的是緊急情況的偏見-這是由于用戶與系統(tǒng)設計之間未對準而產生的偏見，但英國受訪者更擔心的是技術偏見-或由于技術限制而產生的偏見。

為了加強預防AI偏差的努力，有59%的受訪者表示他們計劃投資于更先進的白盒系統(tǒng)，有54%的受訪者表示他們將雇用內部人員來管理AI信任，還有48%的受訪者表示他們打算邀請第三方供應商監(jiān)督AI信任。除了這些預防AI偏見的措施外，全球所有受訪者中有85%的人認為AI監(jiān)管將有助于定義什么構成AI偏見以及應如何預防。

DataRobot人工智能戰(zhàn)略副總裁Colin Priest說：“我們的發(fā)現表明，人工智能偏見仍然是當今組織真正關心的問題，這是有充分理由的。” “盡管許多組織已開始采取正確的措施來減輕AI偏見-例如擺脫黑匣子系統(tǒng)并建立內部AI準則-但要贏得企業(yè)和消費者的信任，還有許多工作要做。每個企業(yè)都必須將AI偏見教育作為優(yōu)先事項，以便他們可以在自己的AI系統(tǒng)中實施關鍵策略，以幫助防止這種情況的發(fā)生。”