隨著人工智能的迅猛發(fā)展，詐騙團伙的詐騙手段也越來越科技化，竟然用上了AI換臉技術(shù)。

　　近日，包頭警方發(fā)布一起利用AI實施電信詐騙的典型案例。4月20日中午，郭先生的好友突然通過微信視頻聯(lián)系他，自己的朋友在外地競標，需要430萬保證金。基于對好友的信任，加上已經(jīng)視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉(zhuǎn)到了好友朋友的銀行卡上。后郭先生撥打好友電話，才知道被騙。騙子通過智能AI換臉和擬聲技術(shù)，佯裝好友對他實施了詐騙。

　　幸運的是，接到報警后，福州、包頭兩地警銀迅速啟動止付機制，成功止付攔截336.84萬元，但仍有93.16萬元被轉(zhuǎn)移，目前正在全力追繳中。

　　案件披露后，“AI詐騙正在全國爆發(fā)”話題一度沖上熱搜第一，引發(fā)網(wǎng)友熱議。

　　科技公司老板

　　10分鐘被騙走430萬元

　　4月20日11時40分左右，福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯(lián)系到他，兩人經(jīng)過短暫聊天后，好友告訴郭先生，自己的朋友在外地投標，需要430萬元保證金，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。好友向郭先生要了銀行卡號，聲稱已經(jīng)把錢打到郭先生的賬戶上，還把銀行轉(zhuǎn)賬底單的截圖通過微信發(fā)給了郭先生。基于視頻聊天信任的前提下，郭先生沒有核實錢是否到賬，于11時49分先后分兩筆把430萬元給對方打了過去。錢款轉(zhuǎn)賬后，郭先生給好友微信發(fā)了一條消息，稱事情已經(jīng)辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個問號。

　　郭先生撥打好友電話，對方說沒有這回事，他這才意識到竟然遇上了“高端”騙局，對方通過智能AI換臉技術(shù)，佯裝成好友對他實施了詐騙。

　　“從頭到尾都沒有和我提借錢的事情，就說會先把錢給我打過來，再讓我給他朋友賬戶轉(zhuǎn)過去，而且當(dāng)時是給我打了視頻的，我在視頻中也確認了面孔和聲音，所以才放松了戒備。”郭先生說。

　　4月20日12時21分，包頭市電信網(wǎng)絡(luò)犯罪偵查局接到福建省福州市公安局刑偵支隊的外協(xié)請求，稱福建省一知名民營企業(yè)負責(zé)人被騙走430萬元，而涉案的銀行卡為包頭市蒙商銀行對公賬戶，希望包頭警方能夠幫忙進行緊急止付。

　　包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局立即啟動“包頭市警銀聯(lián)動綠色查詢機制”，當(dāng)班民警以最快速度完成核查、報審程序，第一時間將涉案卡的信息通報至蒙商銀行相關(guān)部門。在銀行的全力協(xié)助下，僅用時10分鐘，就將該詐騙賬戶內(nèi)的336.84萬元被騙資金成功攔截。同時，向福州市公安局警方提供了剩余款項93.16萬元資金流出信息，為深入突破該案剩余資金查找提供了突破方向。目前，福建警方與包頭警方對此資金正在全力追繳當(dāng)中。

　　對此，包頭警方提示：針對花樣翻新的智能AI詐騙，公眾要提高防范意識，不輕易提供人臉、指紋等個人生物信息給他人，不過度公開或分享動圖、視頻等；網(wǎng)絡(luò)轉(zhuǎn)賬前要通過電話等多種溝通渠道核驗對方身份，一旦發(fā)現(xiàn)風(fēng)險，及時報警求助。如果有人自稱“熟人”、“領(lǐng)導(dǎo)”通過社交軟件、短信以各種理由誘導(dǎo)你匯款，務(wù)必通過電話、見面等途徑核實確認，不要未經(jīng)核實隨意轉(zhuǎn)賬匯款，不要輕易透露自己的身份證、銀行卡、驗證碼等信息。如不慎被騙或遇可疑情形，請注意保護證據(jù)立即撥打96110報警。

　　AI詐騙層出不窮

　　隨著ChatGPT和各類AI技術(shù)的廣泛應(yīng)用，AI詐騙手段日漸豐富，各類案件層出不窮。

　　4月7日，浙江杭州蕭山區(qū)檢察院曝光的一個“女神群”引發(fā)關(guān)注。

　　據(jù)了解，80后安徽小伙虞某在網(wǎng)上推廣AI換臉技術(shù)及相關(guān)的軟件從中獲利。為吸引他人關(guān)注，虞某將原本“換臉軟件資源群”的群名更改為“女神試看群”，通過互聯(lián)網(wǎng)下載了部分****視頻，截取片段后發(fā)布在該公開群中，吸引、招攬觀看者加入，觀看者若要看完整版則需繳納198元-498元不等的“會費”進入“內(nèi)部群”。此外，虞某表示，顧客還能使用不同的女明星的形象，進行“私人定制”。截至案發(fā)，公安機關(guān)共在虞某所組建的公開群內(nèi)查證****視頻1200余部、圖片1600余張，經(jīng)鑒定，上述均系****物品。2023年3月28日，蕭山區(qū)檢察院依法以制作、傳播****物品牟利罪對虞某提起公訴。案件目前正在法院審理中。

　　對此，蕭山檢察官提醒，“AI換臉技術(shù)”即便只是用來搞笑或者制作惡搞照片，也有可能涉及侵犯肖像權(quán)、名譽權(quán)，造成嚴重后果的，還可能構(gòu)成侮辱罪或者誹謗罪。希望大家依法使用該項技術(shù)，一旦遇到類似本案中利用“AI換臉技術(shù)”實施犯罪行為的，應(yīng)第一時間固定證據(jù)，并及時向司法機關(guān)報案。

　　多起AI換臉事件也引起了網(wǎng)友的熱議：

　　除利用AI換臉詐騙外，還有人利用ChatGPT炮制不實信息。不久前，甘肅平?jīng)鍪泄簿志W(wǎng)安大隊就偵破一起類似案件。

　　4月25日，平?jīng)鍪泄簿轴轻挤志志W(wǎng)安大隊在日常網(wǎng)絡(luò)巡查中發(fā)現(xiàn)，某百度賬號出現(xiàn)一篇標題為“今晨甘肅一火車撞上修路工人致9人死亡”的文章，初步判斷為信息虛假不實。

　　民警發(fā)現(xiàn)，共計21個百度賬號在同一時間段發(fā)布該文章，文章內(nèi)容地點涉及全國多地。經(jīng)查，涉案百度賬號均為深圳某自媒體公司所有，其法人代表洪某弟有重大作案嫌疑。原來，洪某弟購買大量“百家號” ，并通過ChatGPT人工智能軟件將搜集到的熱點新聞修改編輯，隨后上傳賺取大量流量獲利。目前，洪某弟已被采取刑事強制措施，案件正進一步偵辦中。

　　三部門發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》

　　針對技術(shù)手段日益更新的AI詐騙事件，2022年11月25日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》），自2023年1月10日起施行。國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責(zé)人表示，出臺《規(guī)定》，旨在加強互聯(lián)網(wǎng)信息服務(wù)深度合成管理，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益。

　　近年來，深度合成技術(shù)快速發(fā)展，在服務(wù)用戶需求、改進用戶體驗的同時，也被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法和不良信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等，影響傳播秩序和社會秩序，損害人民群眾合法權(quán)益，危害國家安全和社會穩(wěn)定。出臺《規(guī)定》，是防范化解安全風(fēng)險的需要，也是促進深度合成服務(wù)健康發(fā)展、提升監(jiān)管能力水平的需要。

　　圖片來源：@人民日報微博截圖

　　《規(guī)定》明確了深度合成數(shù)據(jù)和技術(shù)管理規(guī)范。要求深度合成服務(wù)提供者和技術(shù)支持者加強訓(xùn)練數(shù)據(jù)管理和技術(shù)管理，保障數(shù)據(jù)安全，不得非法處理個人信息，定期審核、評估、驗證算法機制機理。深度合成服務(wù)提供者對使用其服務(wù)生成或編輯的信息內(nèi)容，應(yīng)當(dāng)添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進行顯著標識，避免公眾混淆或者誤認。要求任何組織和個人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標識。

　　AI詐騙常用手法

　　第一種： 聲音合成

　　騙子通過騷擾電話錄音等來提取某人聲音，獲取素材后進行聲音合成，從而可以用偽造的聲音騙過對方。

案例 

　　某公司財務(wù)小王接到領(lǐng)導(dǎo)電話，要求立刻給供應(yīng)商轉(zhuǎn)款2萬元，并將轉(zhuǎn)賬信息以郵件形式發(fā)送，轉(zhuǎn)款理由是避免繳納滯納金。由于老板的口音十分逼真，小王信以為真，在1小時內(nèi)轉(zhuǎn)款完成，后發(fā)現(xiàn)被騙。

　　第二種：AI換臉

　　人臉效果更易取得對方信任，騙子用AI技術(shù)換臉，可以偽裝成任何人，再通過視頻方式進行信息確認，真是防不勝防！

　　騙子首先分析公眾發(fā)布在網(wǎng)上的各類信息，根據(jù)所要實施的騙術(shù)，通過AI技術(shù)篩選目標人群。在視頻通話中利用AI換臉，騙取信任。

案例

　　近日，小李的大學(xué)同學(xué)通過QQ跟她借錢。對方打過來一段四五秒的視頻電話，小李看到確實是本人，便放心轉(zhuǎn)賬3000元。然而，她在第二次轉(zhuǎn)賬時感覺異常，便再次撥通對方電話，這才得知同學(xué)的賬號被盜，遂報案。警方判斷，那段視頻很有可能是被人換了臉。

　　第三種：轉(zhuǎn)發(fā)微信語音

　　微信語音居然也能轉(zhuǎn)發(fā)，這操作簡直了！騙子在盜取微信號后，便向其好友“借錢”，為取得對方的信任，他們會轉(zhuǎn)發(fā)之前的語音，進而騙取錢款。

　　盡管微信沒有語音轉(zhuǎn)發(fā)功能，但他們通過提取語音文件或安裝非官方版本（插件），實現(xiàn)語音轉(zhuǎn)發(fā)。

　　第四種：通過AI技術(shù)篩選受騙人群

　　騙子不是漫無目的地全面撒網(wǎng)，而是別有用心地鎖定特定對象。他們會根據(jù)所要實施的騙術(shù)對人群進行篩選，從而選出目標對象。

　　舉個栗子：當(dāng)進行金融詐騙時，經(jīng)常搜集投資信息的小伙伴會成為他們潛在的目標。

　　運用AI技術(shù)，再加上套路和劇本的演繹，這樣的詐騙手段，小伙伴們能hold住嗎？

　　如何防范？

　　HOME

　　面對利用AI人工智能等新型手段的詐騙，我們要牢記以下幾點：

　　多重驗證，確認身份

　　01

　　在涉及到轉(zhuǎn)賬交易等行為時，小伙伴們要格外留意，可以通過電話、視頻等方式確認對方是否是本人。

　　在無法確認對方身份時，可以將到賬時間設(shè)定為“2小時到賬”或者“24小時到賬”，以預(yù)留處理時間。盡量通過電話詢問具體信息，確認對方是否為本人。

　　即便對方運用AI技術(shù)行騙，也可以通過提問的方式進一步確認身份。建議大家最好向?qū)Ψ降你y行賬戶轉(zhuǎn)賬，避免通過微信等社交軟件轉(zhuǎn)賬。一方面有利于核實對方身份，另一方面也有助于跟進轉(zhuǎn)賬信息。

　　保護信息，避免誘惑

　　02

　　加強個人信息保護意識，小伙伴們要謹防各種信息泄露，不管是在互聯(lián)網(wǎng)上還是社交軟件上，盡量避免過多地暴露自己的信息。

　　對于不明平臺發(fā)來的廣告、中獎、交友等鏈接提高警惕，不隨意填寫個人信息，以免被騙子“精準圍獵”。

　　相互提示，共同預(yù)防

　　03

　　這些高科技手段的詐騙方式，迷惑了很多小伙伴。警察蜀黎也提示各位要多多提醒、告誡身邊的親人、朋友提高安全意識和應(yīng)對高科技詐騙的能力，共同預(yù)防受騙。

　　做好家中老人的宣傳防范工作。提醒老年人在接到電話、短信時，要放下電話，再次撥打家人電話確認，不要貿(mào)然轉(zhuǎn)賬。

　　拒絕誘惑，提高警惕

　　04

　　小伙伴們要學(xué)會拒絕誘惑，提高警惕。避免占便宜心理，警惕陌生人無端“獻殷勤”。

《電鰻快報》