人工智能有望成為2019年的技術(shù)流行語，多家機構(gòu)正在探索應(yīng)對無數(shù)挑戰(zhàn)的自動化解決方案，并開發(fā)了一些用例，以使它們能夠更有效地實現(xiàn)其使命。但是，一些IT領(lǐng)導(dǎo)者告誡不要在未先確定正確的使用案例或不考慮其缺點以及優(yōu)點的情況下追趕AI作為新興技術(shù)中的新亮點。

空軍首席技術(shù)官弗蘭克·科涅奇尼(Frank Konieczny)在周二的FedScoop安全轉(zhuǎn)型論壇上發(fā)表講話說：“我們非常擔(dān)心偏見。”“當(dāng)我們查看一個系統(tǒng)時，請根據(jù)基準(zhǔn)數(shù)據(jù)查看它的分析。您將為實際使用它提供什么數(shù)據(jù)……尤其是當(dāng)我們使用救生系統(tǒng)時，我們對此非常關(guān)注。”

空軍正在研究人工智能和機器學(xué)習(xí)功能，但擔(dān)心該技術(shù)涉及的一些風(fēng)險，尤其是考慮到機器學(xué)習(xí)所需的基線數(shù)據(jù)。

“安全基準(zhǔn)的問題是，'敵人已經(jīng)在基準(zhǔn)中了嗎?'然后您就將敵人打入您的系統(tǒng)。”科涅奇尼說。“這是您必須提出的問題。另一個問題是，“您的基準(zhǔn)是否有變化?”我們的基線一直在變化。因此，如果總是發(fā)生更改，您如何使用ML系統(tǒng)檢測更改?”Konieczny解釋說，提出這些問題使空軍能夠明智地選擇AI和機器學(xué)習(xí)應(yīng)用程序，從而確保它是一種力的乘數(shù)，而不是對用戶沒有實際好處的附加組件。

交通運輸部CIO Ryan Cote同樣在不首先考慮收益的情況下猶豫是否實施AI。

他警告說：“我認(rèn)為我們處于將AI應(yīng)用于網(wǎng)絡(luò)的早期，早期階段。”“我認(rèn)為我們今天能做的最好的事情就是看機器學(xué)習(xí)，并嘗試自動化網(wǎng)絡(luò)衛(wèi)生的一些基本步驟。”

Cote迅速關(guān)閉了有關(guān)AI / ML的宣傳，鼓勵客戶將那些功能與數(shù)據(jù)分析和其他類似服務(wù)區(qū)分開。

他開玩笑說：“我會說營銷炒作是10，交貨是1。”但是，他的確感謝許多公司通過提供軟件即服務(wù)(SaaS)而不是一次性購買的方式顯示了對其產(chǎn)品的承諾。這種新模式使公司可以對其產(chǎn)品進行持續(xù)更新，而不必每隔幾年就“簽入一次”以銷售更新版本。

除了風(fēng)險，AI及其短期表親自動化確實提供了一些有希望的用例。一種是增加當(dāng)前網(wǎng)絡(luò)安全專業(yè)人員的工作，以緩解勞動力差距。

司法部CISO Nickolous Ward解釋說：“即使我們有足夠的[專業(yè)人士]，也無法[分析]進入任何SOC的數(shù)據(jù)量，并迅速采取行動。”“如果我們不能在幾分鐘之內(nèi)采取行動，一旦他們做出了最初的妥協(xié)，一個好的民族國家演員就已經(jīng)跳上了其他系統(tǒng)。”

沃德說，司法部正在短期內(nèi)探索自動化安全解決方案，包括機器人流程自動化和編排，以填補這一空白并認(rèn)識到日益嚴(yán)峻的技術(shù)挑戰(zhàn)。

他說：“我不能雇用足夠的人，也不能足夠快地訓(xùn)練他們，以便能夠查看我們每天處理的數(shù)據(jù)量。”“能夠擁有[自動化]……如果沒有它，我們將無法贏得勝利。” Ward估計，司法部每天都會收到“數(shù)百萬”的日志和警報。

退伍軍人事務(wù)部CISO保羅·坎寧安(Paul Cunningham)同意，新興技術(shù)有助于縮小差距。

他說：“我們不會在一夜之間解決[勞動力問題]，但可以肯定的是，可能不會有人。它正在尋找技術(shù)來幫助我們減少進行可靠的網(wǎng)絡(luò)安全所需的人員數(shù)量，并確保我們擁有合適的人員來查看這些事情是最重要的。那就是我認(rèn)為AI將成為解決方案的一部分—但不是唯一的一部分。”

坎寧安說，VA的底線是“從頭到尾一直保護記錄和體驗。”

Ward說，從長遠(yuǎn)來看，關(guān)鍵重點是確保網(wǎng)絡(luò)安全專業(yè)人員了解AI和機器學(xué)習(xí)的攻守方面。

他說：“我的勞動力將不得不發(fā)展。”“攻擊者越來越多地使用[AI]逃避我的安全技術(shù)。我們必須使用它來攻擊他們并阻止他們。但不僅如此。攻擊者開始學(xué)習(xí)如何利用AI自身的弱點來擊敗AI。我的安全團隊需要能夠充分了解AI，以便他們能夠?qū)贯槍I本身的攻擊，并…利用它來加快檢測和防御的速度。”

衛(wèi)生與公共服務(wù)部CIO高級顧問Oki Mek建議使用區(qū)塊鏈作為保護數(shù)據(jù)集免受攻擊并同時利用它們進行AI和機器學(xué)習(xí)的一種方法。