“我們應(yīng)該對(duì)人工智能非常小心……借助人工智能，我們正在召喚惡魔。”-麻省理工學(xué)院AeroAstro百年紀(jì)念研討會(huì)的埃隆·馬斯克(Elon Musk)

隨著技術(shù)的發(fā)展，新的風(fēng)險(xiǎn)和欺詐機(jī)會(huì)不斷升級(jí)。我們已經(jīng)看過(guò)“ deepfake”視頻，其中操縱著名人或政客的圖像以說(shuō)或做他們從未做過(guò)的事情。Deepfake是一種基于人工智能(AI)的人類(lèi)圖像合成技術(shù)。最初被視為“圖像”應(yīng)用??程序的Deepfake，如今已被用于模仿語(yǔ)音。今年是首次報(bào)告的一次AI生成的語(yǔ)音Deepfake欺詐事件，用于進(jìn)行重大欺詐。

根據(jù)《華爾街日?qǐng)?bào)》2019年8月的一份報(bào)告，一家英國(guó)公司的首席執(zhí)行官被迫利用語(yǔ)音Deepfake將超過(guò)243,000美元轉(zhuǎn)移給網(wǎng)絡(luò)竊賊。這家身份不明的公司的首席執(zhí)行官認(rèn)為他正在與他的老板(德國(guó)母公司的首席執(zhí)行官)通電話(huà)。在用“聲音”說(shuō)話(huà)后，他按照命令立即將220,000歐元(約合243,000美元)轉(zhuǎn)入匈牙利供應(yīng)商的假銀行賬戶(hù)。

該聲音屬于使用AI語(yǔ)音技術(shù)模仿該公司德國(guó)首席執(zhí)行官的罪犯。這種新的網(wǎng)絡(luò)欺詐形式由位于慕尼黑的金融服務(wù)公司Allianz SE的子公司Euler Hermes Group SA保險(xiǎn)。歐拉·愛(ài)馬仕(Euler Hermes)的魯?shù)细?middot;基爾希(RüdigerKirsch)表示，受害者甚至認(rèn)出了老板的德國(guó)口音，甚至帶有他特定的聲音“旋律”。

網(wǎng)絡(luò)賊打了三次電話(huà)。首先是發(fā)起轉(zhuǎn)移。第二，以欺騙手段聲稱(chēng)已償還。第三人尋求后續(xù)付款。那時(shí)，毫無(wú)戒心的目標(biāo)注意到還款沒(méi)有出現(xiàn)。然后，他注意到電話(huà)來(lái)自?shī)W地利的電話(huà)號(hào)碼。

第二筆付款已暫停，但第一筆已從匈牙利帳戶(hù)轉(zhuǎn)至墨西哥的一筆，然后已撥至多個(gè)國(guó)際地點(diǎn)。

這怎么可能?

我們?nèi)绾伍_(kāi)始理解令人信服的語(yǔ)音Deepfake怎么可能?一家公司不僅聲稱(chēng)發(fā)明了這項(xiàng)技術(shù)，而且還吹噓它。

今年夏天，來(lái)自總部位于多倫多的AI公司Dessa的研究人員宣布，他們已經(jīng)對(duì)流行的播客和喜劇演員Joe Rogan進(jìn)行了完美的語(yǔ)音模擬。

根據(jù)Dessa的說(shuō)法，他們制作了迄今為止所聽(tīng)到的最逼真的AI語(yǔ)音模擬。他們的原始資料是Joe Rogan，他是美國(guó)最受歡迎的播客主持人之一。迄今為止，他的節(jié)目已播出超過(guò)1,356集，為技術(shù)吸收了數(shù)小時(shí)的語(yǔ)音樣本。

Rogan語(yǔ)音的模仿是使用名為RealTalk的文本到語(yǔ)音程序創(chuàng)建的，該程序僅使用文本輸入即可生成逼真的語(yǔ)音。因此，用戶(hù)只需要鍵入單詞，無(wú)需講話(huà)。最終結(jié)果包括微妙的細(xì)微差別，例如呼吸以及“ ums”和“ ahs”。如果有足夠的數(shù)據(jù)可用，該程序?qū)⒛軌蚰７氯魏稳说穆曇簟?可以在Dessa自己的YouTube鏈接中聽(tīng)到Rogan的深深造)。)