AI 偽造你聲音,連你爸媽都能騙!為何語音合成詐騙盛行?

最新AI资讯1年前 (2023)发布 Aibot114
3,887 0
广告也精彩
AI 偽造你聲音,連你爸媽都能騙!為何語音合成詐騙盛行?

《華盛頓郵報》報導,美國聯邦貿易委員會(Federal Trade Commission,FTC)最新統計顯示,2022 年詐騙案以「冒名詐騙」數量最多,這 3.6 萬次舉報約 5 千件為電話詐騙,損失金額估計超過 1,100 萬美元。然而,FTC 的助理總監麥克森(Will Maxson)無奈表示,電話詐騙很難追蹤,因為發話者可能藏身世界任何角落,光要確定哪個單位有管轄權就有難度。

AI 偽造你聲音,連你爸媽都能騙!為何語音合成詐騙盛行?

▲ 冒名詐騙數量高居第一,損失金額則排第二,僅次投資詐騙。(Source:FTC)

AI驅動的電話詐騙

除了成本低廉,只要一支電話就能展開詐騙,人工智慧技術進步,也替詐騙集團的百寶袋添柴加薪。

2019年,詐騙集團利用人工智慧(AI)技術,合成仿冒英國能源企業母公司主管聲音,向屬下誆稱公司供應商需要資金,要求1小時內立刻匯款,詐得24.3萬美元。

這是近年第一起利用合成語音詐騙的案例,此技術稱為「深度聲音」(deepvoice),和深度偽造(deepfake)類似,都是利用深度學習技術習得人類語言/相片特徵,接著再製出相似內容,以假亂真。

2020年,某香港銀行經理接到客戶電話,他認得對方的聲音,客戶表示要收購企業,要求他核准一筆高達3,500萬美元轉帳。後來警方調查才知道,該客戶的聲音也是合成音,這起案例是記錄在案的第一起。

隨著技術發展,合成聲音的門檻降低。

數位鑑識學教授法理德(Hany Farid)表示,兩年前還需要長時間樣本,才能將人聲複製得唯妙唯肖,現在只要簡短30秒音檔,就能捕捉到聲音特徵,含年齡、性別、口音等。「現在如果抖音上傳30秒影片,其他人就能複製你的聲音」。

執法困難,完美風暴就此展開

柏金(Benjamin Perkin)的家庭就是合成語音詐騙案的受害者。某天,他的雙親接到一通自稱律師的來電,對方表示柏金發生車禍,撞死美國外交官,現關在監獄,需柏金雙親支付費用處理法律事宜。

聽起來很像典型的冒名詐騙,但律師馬上將電話轉交給柏金,柏金告訴父母很愛他們,希望父母籌到足夠的金錢。

雖然很不尋常,但聽起來毫無疑問就是柏金,所以柏金的父母就這樣匯款1.5萬美元。直到晚上柏金本人例行打電話給父母,才知道自己受騙了。

柏金不確定犯罪者如何取得自己的聲音,不過他曾在YouTube分享雪上摩托車影片,裡面就有他的聲音。

要合成他人聲音不是難事。新創公司ElevenLabs就提供相關服務,使用者只要上傳一段聲音,就能產出其他合成語音,試用免費,付費版月費從5美元到330美元。今年ElevenLabs在pre-seed輪就募得200萬美元,不過也受到批評,因有使用者合成名人的聲音,假裝他們說出某些沒說過的話。

ElevenLabs官網強調重視人工智慧道德(ethical AI),針對上述事件,還推文表示會設法阻止濫用,除了限制免費使用者合成語音,也會開發能偵測AI生產聲音的工具。

不只新創,科技巨頭微軟也開發類似模型VALL-E,號稱3秒鐘樣本就合成人類聲音,不過微軟也開發能偵測是否人工合成語音的模型,避免先進技術拿來做壞事。

AI 偽造你聲音,連你爸媽都能騙!為何語音合成詐騙盛行?

▲ 微軟開發的VALL-E模型不受語言限制,也能合成中文聲音。(Source:VALL-E)

現有法律無法處罰AI合成語音業者

然而事發當下,受害者不太可能有精力打開偵測系統;對執法者來說,可能沒有足夠資源調查此類案件,且因為受害者無法提供聲音相似以外線索,更不利破案;現行法律也沒有辦法處罰提供AI合成語音服務的廠商。

面對此類案件該如何自保?麥克森的建議是其實不脫傳統應對電話詐騙方法:保持冷靜,先放下手機,聯絡當事人,確認對方現況;且撥號來源也可能是偽造,不要馬上相信對方;若對方要求用很難追蹤的支付方式如禮品卡或比特幣轉帳,就可懷疑是詐騙。

技術進步、成本低廉、軟體開發商無法可罰、警方沒有辦案著力點,法理德認為,所有元素都會構成完美風暴。

© 版权声明

相关文章

暂无评论

暂无评论...