AI詐騙波及多國(guó)：道(dào)高一尺，魔高一丈？
面(miàn)對(duì)AI新型詐騙，除了廣泛告知公衆實用性的識别技巧，長(cháng)期而言，還(hái)需要采取個人預防、防禦技術叠代、壓實平台責任、完善法律法規等多管齊下的方式。
生成(chéng)式人工智能(néng)（AIGC）持續火爆，随之而來的法律、安全與倫理挑戰也越來越大。
近日，中國(guó)多地爆出AI詐騙案件。先是内蒙古包頭警方發(fā)布消息，4月20日，福建省一知名企業家遇上了“高端”騙局，對(duì)方通過(guò)AI換臉和拟聲，佯裝成(chéng)好(hǎo)友對(duì)他實施了詐騙，緻其被(bèi)騙走430萬元。後(hòu)有安徽安慶公安透露，詐騙分子使用了一段9秒鍾的AI換臉視頻，騙取安慶一男子132萬元。
對(duì)此，中國(guó)互聯網協會5月24日緊急提醒公衆，加強防範利用AI技術的新型騙局。
同期，全球多地也正遭遇類似治理難題。
5月18日，美國(guó)參議院兩(liǎng)位議員帶頭向(xiàng)聯邦貿易委員會（FTC）發(fā)出兩(liǎng)黨聯名信。信中警告稱，語音克隆(voice clone)和聊天機器人讓詐騙者更輕易地騙取老年人信任，讓老年人誤以爲正在與親戚或好(hǎo)友交談。FTC也曾于3月針對(duì)此類詐騙現象發(fā)布消費者警示。
知名電腦安全技術公司McAfee5月發(fā)布的一項全球性調研顯示，在接受調查的7000人中，四分之一的受訪者表示經(jīng)曆過(guò)AI語音克隆騙局，70%的人表示不相信自己能(néng)分辨出克隆的聲音和真實的聲音。
爲解決以上問題，已有“技術”和“公衆教育”兩(liǎng)條并行路徑。但财經(jīng)E法結合案例與采訪發(fā)現，當前“治理”依然趕不上“詐騙”技術更叠的速度。長(cháng)期而言，需要采取個人預防、防禦技術叠代、壓實平台責任、完善法律法律等多管齊下的方式。
01
本質：信息洩露+合成(chéng)軟件
AI詐騙首先帶來的觀念沖擊就是：眼見不爲實，耳聽亦爲虛。
浙江大學(xué)數字法治研究院副院長(cháng)高豔東說，詐騙分子利用被(bèi)害人對(duì)“有圖有真相”的思維定勢，通過(guò)AI技術僞造視頻或聲音，讓被(bèi)害人相信詐騙分子虛構的身份。
财經(jīng)E法在多家在線購物網站發(fā)現，一些AI深度僞造的軟件，以幾塊錢的價格售賣。視頻網站上也流傳著(zhe)AI換臉“神器”的使用視頻。人工智能(néng)安全企業瑞萊智慧的聯合創始人、算法科學(xué)家蕭子豪介紹，這(zhè)些軟件的底層技術大多來自網上的開(kāi)源算法，商家在此基礎上包裝制作成(chéng)軟件對(duì)外銷售。
結合采訪和現有案件，當前AI詐騙主要包括兩(liǎng)類：一類是AI聲音克隆詐騙，需要詐騙分子撥打騷擾電話，或者利用公開(kāi)渠道(dào)上的語音内容，提取用于合成(chéng)的原始語音文件。McAfee的一項測試中，僅僅三秒的音頻就足以生成(chéng)與原始語音匹配度爲85%的僞造聲音。另一類爲AI換臉視頻詐騙。詐騙者首先盜取被(bèi)害人近親屬、朋友的微信或QQ賬号；繼而利用受害人好(hǎo)友在社交平台發(fā)布的視頻及圖片，截取面(miàn)部畫面(miàn)後(hòu)，借助AI深度僞造技術進(jìn)行換臉，輔之以聲音克隆，達到視覺和聽覺層面(miàn)的拟真，讓被(bèi)害人放松戒備。
兩(liǎng)類情形中，詐騙的第一步，都(dōu)是盜取個人信息。深度僞造随後(hòu)粉墨登場，其依靠的關鍵技術叫(jiào)做“生成(chéng)對(duì)抗網絡”（GAN）——通過(guò)兩(liǎng)個神經(jīng)網絡相互博弈方式進(jìn)行學(xué)習，生成(chéng)虛構的音視頻。
長(cháng)期研究電信網絡詐騙的西南政法大學(xué)刑事(shì)偵查學(xué)院副教授謝玲告訴财經(jīng)E法，AI詐騙的盜号環節，仍屬于傳統電信網絡詐騙的操作過(guò)程。具體方式是向(xiàng)被(bèi)害人的近親屬、朋友發(fā)送含有木馬鏈接的短信；或者詐騙分子原本就添加了被(bèi)害人的近親屬、朋友的微信或QQ，直接在微信或QQ聊天框發(fā)送木馬鏈接。一旦點擊鏈接，賬号會被(bèi)迫下線。此時，詐騙分子利用用戶再次登錄賬号輸入密碼的過(guò)程，記錄獲取相應原始密碼，随後(hòu)予以修改，完成(chéng)盜号。
有了換臉變聲技術，詐騙分子又如何在微信或QQ視頻的時候披上親友的AI馬甲？高豔東認爲，詐騙者大概率是利用了插件，將(jiāng)微信視頻聊天畫面(miàn)切換成(chéng)AI虛構身份的樣(yàng)子。
02
公衆防不勝防
要防止詐騙，首先得提升公衆的防範意識。
謝玲認爲，公衆對(duì)新技術手段下的詐騙形式缺乏了解，導緻短時間此類案件高發(fā)。
從技術角度，蕭子豪建議，普通人若遇到疑似AI詐騙的情況，可以在視頻通話時有意識地引導對(duì)方做一些動作，比如張嘴或大幅度搖頭，甚至露出後(hòu)腦勺。他解釋說，如果騙子技術手段較弱，那麼(me)有可能(néng)發(fā)現對(duì)方面(miàn)部邊緣或者牙齒的瑕疵，從而識别出AI換臉。另外，如果所使用的深度僞造技術隻針對(duì)正臉建模，則會導緻後(hòu)腦勺的僞造效果不佳。針對(duì)聲音僞造，用戶可以嘗試與對(duì)方用方言交流。
不過(guò)蕭子豪稱，上述方法對(duì)于識别出“高水平”的不法分子，還(hái)存在難度。目前方言合成(chéng)方法和工具也非常豐富，音色穩定，自然度很高。
除此之外，蕭子豪建議，普通公衆可以追問幾個私密信息，以核實對(duì)方身份。同時，盡量避免在公開(kāi)平台大量發(fā)布自己的照片和視頻，因爲深僞制作的原材料是個人音頻、圖片、視頻，“這(zhè)些數據越多，訓練出的視頻也就越逼真、越難以鑒别”。
但蕭子豪也認爲，如果將(jiāng)防範的責任全部交給個人，有點太爲難他們。由于AI僞造的音視頻已經(jīng)如此逼真、自然，很難要求所有老年小孩分辨清楚對(duì)面(miàn)是真是假。他認爲，未來離不開(kāi)公共管理部門和互聯網平台承擔起(qǐ)保護者責任。
03
技術防範仍滞後(hòu)
深度僞造技術帶來的詐騙問題，已催生檢測識别平台的湧現。
依托清華大學(xué)人工智能(néng)研究院發(fā)起(qǐ)設立的瑞萊智慧公司，2021年研發(fā)了一款名爲DeepReal的深度僞造内容檢測工具，可檢測人臉、人聲的真僞性。
蕭子豪解釋，檢測算法模型首先分析圖像是否有篡改痕迹，比如液化、拉伸、放縮等；其次再看人臉符不符合生物學(xué)常識，比如眼睛是否長(cháng)時間不眨動、牙齒的縫隙清晰與否。一些比較差的AI技術，就會露餡。通過(guò)組合前述兩(liǎng)種(zhǒng)分析結果，算法模型去做最終的真僞認定。“這(zhè)款檢測工具目前主要用于公安、銀行等業務場景。”蕭子豪介紹。
AI換臉詐騙引起(qǐ)熱議後(hòu)，國(guó)内AI檢測識别類公司迎來商機。美亞柏科公司5月23日發(fā)布消息稱，其研發(fā)的AI-3300“慧眼”設備，支持當前絕大部分深僞視頻圖像篡改方法的檢測。3月3日，傳播内容認知全國(guó)重點實驗室推出AI生成(chéng)内容檢測工具AIGC-X。早在2020年9月，影譜科技公司也曾發(fā)布過(guò)一款“AI視頻鑒僞鑒定平台”。
國(guó)外亦誕生不少專門研發(fā)AI深度僞造鑒别工具的公司。據商業研究機構StartUs Insights的統計，排名前五的初創企業包括荷蘭的Sensity公司、西班牙的OARO公司、愛沙尼亞的Sentinel公司、瑞士的Quantum+Integrity公司以及印度的Group Cyber ID公司。
但蕭子豪坦言，目前，深度僞造及内容生成(chéng)的技術領先于相應的檢測技術，“很多熱錢湧入AIGC領域，以至該賽道(dào)的技術叠代非常快，而防禦技術的更新會慢一些”。
蕭子豪認爲，平台應引入深度僞造鑒别技術。具體而言，一旦識别出疑似AI僞造的語音或視頻電話，平台應彈出風險提示，提醒用戶仔細确認對(duì)方身份。但由于此種(zhǒng)風控機制不會給平台增加業務營收，相反還(hái)會拉高成(chéng)本，所以還(hái)得依靠公共管理部門或社會輿論去督促平台履行。
面(miàn)對(duì)AI新型詐騙，謝玲也支持強化互聯網企業的風險識别能(néng)力建構。2022年12月施行的《反電信網絡詐騙法》明确了互聯網企業的風險防控責任，平台有義務針對(duì)AI詐騙進(jìn)行技術篩查、攔截和報告。（詳見
治理電信網絡詐騙，仍需細則指引
謝玲還(hái)給出兩(liǎng)種(zhǒng)前置解決思路——減少盜号的發(fā)生，以及提升盜号後(hòu)的申訴處置效率。她解釋說，當賬号陌生好(hǎo)友發(fā)送含有鏈接的消息時，平台若檢測到鏈接有詐騙風險，應及時提醒用戶不要輕易點擊。而一旦賬号被(bèi)盜，平台則需暢通申訴渠道(dào)，更快速地介入處理用戶申訴，甚至可以在詐騙分子著(zhe)手實施AI詐騙之前，平台把被(bèi)盜号的情況，自動通知該用戶的全體好(hǎo)友，將(jiāng)風險防範于未然。
此外，法律監管層面(miàn)，中國(guó)已經(jīng)專門針對(duì)深度合成(chéng)技術的提供者施加了反詐義務。2023年1月10日施行的《互聯網信息服務深度合成(chéng)管理規定》規定了深度合成(chéng)服務提供者的主體責任，其中包括建立健全反電信網絡詐騙的管理制度，具有安全可控的技術保障措施。
文章來源：網易