奧斯汀—戴爾技術(shù)公司產(chǎn)品與運(yùn)營(yíng)總裁兼首席技術(shù)官約翰·羅斯(John Roese)表示，如果我們希望人類(lèi)信任人工智能(AI)，那么就需要教會(huì)機(jī)器同理心。

羅斯在上周的戴爾技術(shù)峰會(huì)上與另外兩個(gè)戴爾技術(shù)公司的CTO組成了小組：戴爾Boomi的Michael Morton和RSA的Zulfikar Ramzan。Boomi是一家數(shù)據(jù)管理公司，它使企業(yè)可以在云和本地應(yīng)用程序之間集成和傳輸數(shù)據(jù)。RSA是一家安全公司，其創(chuàng)始人開(kāi)創(chuàng)了公共密鑰加密技術(shù)。

這三個(gè)CTO討論了數(shù)據(jù)時(shí)代的三個(gè)主要問(wèn)題：在人工智能(AI)驅(qū)動(dòng)的實(shí)時(shí)數(shù)據(jù)環(huán)境中，基礎(chǔ)架構(gòu)是什么樣的?人類(lèi)將在AI驅(qū)動(dòng)的實(shí)時(shí)數(shù)據(jù)管道中扮演什么角色?在這個(gè)勇敢的新AI世界中，安全風(fēng)險(xiǎn)模型將是什么樣?

這是三個(gè)非常聰明的家伙(沒(méi)有那么多喜劇演員，因?yàn)樗麄兒芸炀统姓J(rèn)了)。因此，他們都對(duì)AI有一些非常有趣的想法。但是特別引起我注意的一個(gè)是善解人意的AI。羅斯(Roese)說(shuō)過(guò)，這個(gè)話(huà)題他“在AI界頗有說(shuō)服力”。實(shí)際上，他參加了2020年3月在SWSX上與此主題相關(guān)的小組討論。

羅斯說(shuō)，除非人類(lèi)可以信任機(jī)器學(xué)習(xí)，否則人工智能的進(jìn)步不會(huì)發(fā)生。現(xiàn)在，存在巨大的信任差距。

羅斯說(shuō)：“對(duì)于大多數(shù)人來(lái)說(shuō)，人工智能是一個(gè)黑匣子，我們不信任它，因?yàn)槲覀儾涣私馑鼉?nèi)部正在發(fā)生什么。”他補(bǔ)充說(shuō)，“您的懷疑已經(jīng)得到了全面的解決。AI正在根據(jù)給定的數(shù)據(jù)工作。它并沒(méi)有考慮到您的情緒和幸福。它基本上是在獲取數(shù)據(jù)集，并在沒(méi)有上下文的情況下給出最佳答案。”

學(xué)到的AI同理心

另一方面，人類(lèi)通常具有這種背景。因此，我們的決策可能并不總是反映最快，最線(xiàn)性的解決問(wèn)題的方法。但是他們確實(shí)-或至少應(yīng)該-考慮給定的決定將如何影響其他人。換句話(huà)說(shuō)：人類(lèi)具有同理心。這意味著我們需要將倫理考慮因素整合到機(jī)器學(xué)習(xí)數(shù)據(jù)集中，以確保AI最終以取悅?cè)祟?lèi)的學(xué)習(xí)同理心做出決策。

羅斯說(shuō)：“人工智能系統(tǒng)基于額外的刺激而工作。”“您提供這些數(shù)據(jù)流，而這些數(shù)據(jù)流從根本上影響模型。”但是，這也意味著人們可以感覺(jué)到AI系統(tǒng)的不良數(shù)據(jù)，例如偏差。

Roese建議將傳感器和生物反饋整合到機(jī)器學(xué)習(xí)模型中，以便AI可以了解與之交互的人類(lèi)的情緒狀態(tài)。“如果我能夠測(cè)量您的生物反饋該怎么辦?我知道您的壓力水平，心臟呼吸頻率或出汗率嗎?如果這是模型工作方式的一個(gè)因素?因此，它了解到，即使我選擇了選項(xiàng)A，即使它給我?guī)?lái)了不錯(cuò)的結(jié)果，也可能會(huì)激怒人類(lèi)。”

顯然，那些試圖與與這些AI系統(tǒng)進(jìn)行交互的客戶(hù)，合作伙伴和員工贏得信任的企業(yè)。這些公司不想讓人類(lèi)生氣，這就是為什么善解人意的AI如此重要的原因。

因此，我們教機(jī)器選擇選項(xiàng)B。羅斯說(shuō)：“這可能會(huì)更加令人費(fèi)解，但是會(huì)有更好的結(jié)果。”“人類(lèi)將減輕壓力，并且會(huì)更快樂(lè)。一旦您了解到AI代表您思考，就在考慮您的環(huán)境，您就會(huì)開(kāi)始更加信任它。”