亚洲免费www97爱|草草aⅴ在线观看视频|伊伊综合网在线视频免费|在线日本道二区免费v

    您的位置:首頁>AI>

    DataRobot報告稱42%的AI專業(yè)人員對AI偏見表示關注

    企業(yè)AI的領導者DataRobot今天發(fā)布了 一項新研究,揭示了美國和英國近一半(42%)的AI專業(yè)人員“非常”或“極其”擔心AI偏見。這項研究基于對350多名參與AI和機器學習購買決策的美國和英國高管的調查得出的結果-發(fā)現“品牌聲譽受損”和“客戶信任度下降”是最受AI偏見影響的因素,促使93 %的受訪者表示,他們計劃在未來12個月內對AI偏差預防計劃進行更多投資。

    DataRobot可信AI副總裁Ted Kwartler說:“越來越多的組織正在部署AI,因為他們認識到該技術是當今商業(yè)環(huán)境中競爭的關鍵成功因素。” “盡管有這個事實,但我們發(fā)現AI的成熟度差異很大-許多組織仍在使用不可信任的AI系統(tǒng)。”

    DataRobot的研究發(fā)現,盡管大多數組織(71%)目前依靠AI來執(zhí)行多達19個業(yè)務功能,但19%的組織使用AI來管理多達20-49個功能,而10%的技術利用該技術來解決50多個功能。雖然在企業(yè)內部管理AI驅動的功能可能非常有價值,但也會帶來挑戰(zhàn)。并非所有AI都一視同仁,并且如果沒有適當的知識或資源,公司可能會以有害無益而不是有益的方式選擇或部署AI。

    該調查發(fā)現,超過三分之一(38%)的AI專業(yè)人員仍在使用黑盒AI系統(tǒng)-這意味著他們幾乎無法理解其AI解決方案的數據輸入是如何被使用的。缺乏可見性可能導致受訪者擔心其組織內出現AI偏差。

    為了應對AI偏見的情況,所有AI專業(yè)人員中有83%的人表示他們已經建立了AI準則,以確保AI系統(tǒng)得到正確維護并產生準確,可信賴的輸出。此外:

    60%的人創(chuàng)建了警報以確定數據和結果何時與培訓數據不同

    59%的人衡量AI決策因素

    56%的人正在部署算法以檢測和緩解訓練數據中的隱藏偏見

    該調查還發(fā)現了美國和英國受訪者之間的文化差異,這可能是由每個地區(qū)的法規(guī)和文化環(huán)境所驅動。盡管美國受訪者最擔心的是緊急情況的偏見-這是由于用戶與系統(tǒng)設計之間未對準而產生的偏見,但英國受訪者更擔心的是技術偏見-或由于技術限制而產生的偏見。

    為了加強預防AI偏差的努力,有59%的受訪者表示他們計劃投資于更先進的白盒系統(tǒng),有54%的受訪者表示他們將雇用內部人員來管理AI信任,還有48%的受訪者表示他們打算邀請第三方供應商監(jiān)督AI信任。除了這些預防AI偏見的措施外,全球所有受訪者中有85%的人認為AI監(jiān)管將有助于定義什么構成AI偏見以及應如何預防。

    DataRobot人工智能戰(zhàn)略副總裁Colin Priest說:“我們的發(fā)現表明,人工智能偏見仍然是當今組織真正關心的問題,這是有充分理由的。” “盡管許多組織已開始采取正確的措施來減輕AI偏見-例如擺脫黑匣子系統(tǒng)并建立內部AI準則-但要贏得企業(yè)和消費者的信任,還有許多工作要做。每個企業(yè)都必須將AI偏見教育作為優(yōu)先事項,以便他們可以在自己的AI系統(tǒng)中實施關鍵策略,以幫助防止這種情況的發(fā)生。”

    免責聲明:本文由用戶上傳,如有侵權請聯系刪除!