防不勝防，10分鐘就被AI騙走430萬元！這是近日震驚全網的真實詐騙案件。話題#AI詐騙正在全國爆發#衝上網絡熱搜,和你通過社交軟件視頻對話的,可能不是你認識的那個人本人,而是經過AI僞裝的騙子！
近期，內蒙古自治區包頭市公安局電信網絡犯罪偵查局發佈了一起使用AI技術進行電信網絡詐騙的案件。不法分子利用AI技術，通過聲音合成，僞造成特定人物的聲音，通過AI換臉，僞裝成特定人物，實時與他人進行視頻通話。更換後的面部表情自然，以假亂真，能夠冒充他人身份聯繫被害人，博取被害人信任後實施詐騙。見多識廣的科技公司法人代表短短10分鐘內就被騙了430多萬元。
今年以來，ChatGPT和GPT-4等技術的應用成爲信息科技領域的熱點，引起公衆對AI技術的廣泛關注。但伴隨深度合成技術的開放開源，深度合成產品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進行詐騙、誹謗的違法行爲屢見不鮮。
AI詐騙和普通電信網絡詐騙有何不同，有哪些常用手法，普通人該如何進行防範？“AI換臉”的法律邊界在哪？面對人工智能技術這把“雙刃劍”，電信網絡詐騙治理工作又該如何應對？記者本期將帶您走進AI新騙局進行解讀。
整治AI詐騙 用“法”打敗“魔法”
針對技術手段日益更新的AI詐騙事件，2022年11月25日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發佈《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），自2023年1月10日起施行。國家互聯網信息辦公室有關負責人表示，出臺《規定》，旨在加強互聯網信息服務深度合成管理，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。
近年來，深度合成技術快速發展，在滿足用戶需求、改進用戶體驗的同時，也被一些不法人員用於製作、複製、發佈、傳播違法和不良信息，詆譭、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等，影響傳播秩序和社會秩序，損害人民羣衆合法權益，危害國家安全和社會穩定。出臺《規定》，是防範化解安全風險的需要，也是促進深度合成服務健康發展、提升監管水平的需要。
《規定》明確了深度合成數據和技術管理規範。要求深度合成服務提供者和技術支持者加強訓練數據管理和技術管理，保障數據安全，不得非法處理個人信息，定期審覈、評估、驗證算法機制機理。深度合成服務提供者對使用其服務生成或編輯的信息內容，應當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公衆混淆或者誤認。要求任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識。
近幾年，很多國家針對“深度僞造”等新技術，出臺了相關法律法規或管理辦法。我國從2019年11月起，先後出臺《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》等法律法規，對生成合成類內容等提出監管要求。近期，也有平臺和企業發佈了“關於人工智能生成內容的平臺規範暨行業倡議”，明確禁止利用生成式人工智能技術創作、發佈侵權內容，包括但不限於肖像權、知識產權等，一經發現，平臺將嚴格處罰。
要將這些規定執行到位，還需要有關部門加大網絡安全執法力度，不斷完善日常監督檢查和定期檢查相結合的監督管理制度，推動網絡平臺履職盡責，有效規範涉及深度合成技術應用的行爲。
當騙子用起了AI技術……
技術改變了生活，也改變了詐騙。AI詐騙現在有多兇猛？目前包括北京反詐、武漢市反電信網絡詐騙中心等官方公衆號平臺，都警告了AI技術新騙局的嚴重性，甚至表示“詐騙成功率接近100%”。
AI詐騙是指不法分子利用AI技術合成聲音、視頻、圖片等方式進行詐騙。常見手法主要有四種：第一種，轉發微信語音。騙子在盜取微信號後，向該微信號的好友提出轉賬要求。爲取得信任，騙子會轉發之前的語音，進而獲得錢款。雖然目前微信語音是不能轉發的，但騙子可以通過提取語音文件或安裝增強版微信（插件），實現語音轉發。第二種，聲音合成。騙子通過騷擾電話等方式，錄音提取某人的聲音，並對素材進行合成，用僞造的聲音實施詐騙。第三種，AI換臉。視頻通話的可信度明顯高於語音和電話，利用AI換臉，騙子可以僞裝成任何人。騙子基於公衆發佈的照片、視頻，通過人體圖像合成技術，生成假臉。多數假臉都是使用睜眼照片合成的，假臉極少甚至不會眨眼，看是否眨眼是判斷一個視頻真假的好辦法。第四種，通過AI技術篩選受騙人羣。騙子利用AI來分析公衆發佈在網上的各類信息，根據所要實施的騙術對人羣進行篩選，在短時間內便可生產出定製化的詐騙腳本，從而實施精準詐騙。
在最近發生的幾起AI詐騙事件中，“深度僞造”技術deepfake在其中起到了非常關鍵的作用。如今隨着AIGC（AI generated content，人工智能生成內容）技術的大爆發，普通人接觸各種先進生成工具變得不費吹灰之力，製作出越發難以識別的高質量deepfake視頻也越來越容易，我們想要一眼識別出來這些造假內容就更加困難。
“花式”AI詐騙來襲如何防範
面對利用AI等新型手段的詐騙，我們要牢記以下幾點：
首先，避免佔便宜心理，警惕陌生人提供的好處。在涉及錢款時，要提高安全意識，通過電話、視頻等方式確認對方是否爲本人。在不能確定真實身份時，可將到賬時間設定爲“2小時到賬”或“24小時到賬”，以預留處理時間。此外，可以選擇向對方銀行卡匯款，避免通過微信等社交工具轉賬。這樣做，一方面便於覈實對方信息，確認錢款去向；另一方面，對方能通過短信通知得知轉賬信息。
其次，加強個人信息保護意識，儘量減少在社交平臺上發佈圖片、視頻等內容。不輕易提供人臉、指紋等個人生物信息給他人，不過度公開或分享動圖、視頻等。防止騙子利用AI技術掌握大量個人信息並對人物性格、需求傾向等進行刻畫，從而有針對性地實施詐騙。
最後，防患於未然，及時做好家中老人的宣傳防範工作。提醒、告誡老年人在接到電話、收到短信時，只要是不認識、不熟悉的人和事，均不要理睬，以免被誘被騙。不要輕易透露自己的身份證、銀行卡、驗證碼等信息，陌生鏈接不要點，陌生軟件不要下載，陌生好友不要隨意添加，不明二維碼不要隨意掃描。管理好自己的朋友圈，也不要輕易向陌生人開啓手機屏幕共享。
這場與AI詐騙的對抗，光靠個人增強安全意識還遠遠不夠。銀行、支付平臺、軟件廠商等更要提高信息安全意識，國家層面也要儘快出臺更爲安全和完善的對不良AI內容的監管政策。只有各方共同努力，這樣的熱搜才能越來越少。
面對AI技術“雙刃劍”如何應對
在電信網絡詐騙治理領域，人工智能技術“雙刃劍”效應明顯，治理與詐騙技術對抗日趨激烈。
一方面，人工智能技術不斷促進治理能力提升。一些機構和企業積極利用大數據分析、機器學習等人工智能技術開展詐騙治理和風險防控工作，技術識別準確度更高、監測攔截實時性更強、防護覆蓋面更大，有效降低了詐騙風險與危害。
例如在反電信網絡詐騙專用號碼96110的背後，中國電信織就了一張緊密的“反詐密網”，基於雲、人工智能、大數據等技術，打造了“翼平安反詐”雲平臺，支撐公安機關96110反詐產品的應用與服務。96110“翼平安反詐”服務以AI能力爲核心，以能力平臺爲載體，融合人工外呼、機器人外呼、大數據短信等觸達手段實現受衆的精準觸達，涉詐人羣早告知、防詐信息早預警，降低人民羣衆因涉詐案件造成的損失，爲保障人民羣衆財產安全、提升社會安全貢獻力量。
中國聯通充分發揮IT集約和數據集中優勢，率先建立集團級大數據反詐平臺，基於全網集中的話單和信令數據，不斷提升運算能力，縮短處置時延，實現涉詐號碼精準發現、一點快速處置，成爲工信部網絡安全試點示範項目。同時建立AI反黑產實驗平臺，探索網絡黑灰產識別能力，積極加大跨行業數據合作力度，健全完善多主體參與、多手段結合的綜合治理格局，持續淨化網絡環境。
中國移動浙江公司研發出“諦聽”電信網絡反欺詐平臺，利用AI反詐騙模型，把傳統的事後追溯反詐手段升級到事前預警手段，有效預先阻斷網絡欺詐行爲。用戶在上網過程中，可能會毫無察覺地被非法網站竊取相關信息，而“諦聽”平臺的AI機器人可以鎖定非法網站資源庫，第一時間判斷可能出現的詐騙行爲，對用戶及時地發出警示，提醒被害人和公安部門。
另一方面，人工智能技術被惡意利用帶來風險隱患。詐騙分子利用人工智能技術精準篩選受騙者，精心設計詐騙腳本，僞造高仿真詐騙信息，使得詐騙呈現成本低、花樣新、波及廣等特點，隱蔽性、複雜性、迷惑性增加，引起社會的關注和擔憂。
當前，電信網絡詐騙犯罪出現一些新特點，詐騙集團除了利用GOIP設備（一種虛擬撥號集成通信設備）外，還利用區塊鏈、虛擬貨幣、AI、遠程操控、共享屏幕等新技術新業態，不斷更新升級犯罪工具，與公安機關在通信網絡和轉賬洗錢等方面的攻防對抗不斷加劇升級。
自2022年12月1日起，正式施行的《反電信網絡詐騙法》第二章專章規定了電信領域的治理，主要涉及電話用戶實名制管理，移動電話卡治理，規範國際通信業務出入口局主叫號碼傳送，非法設備、軟件的治理等，成爲電信企業反詐騙的行動指南。
《反電信網絡詐騙法》第二十五條第二款要求，電信業務經營者、互聯網服務提供者應當依照國家有關規定，履行合理的注意義務，重點對利用以下四類業務從事涉詐支持、幫助活動進行監測識別和處置：一是提供互聯網接入、服務器託管、網絡存儲、通訊傳輸、線路出租、域名解析等網絡資源服務；二是提供信息發佈或者搜索、廣告推廣、引流推廣等網絡推廣服務；三是提供應用程序、網站等網絡技術、產品的製作、維護服務；四是提供支付結算服務。
當前我國在電信網絡詐騙治理工作上取得了明顯成效，但是面對人工智能時代電信網絡詐騙的高隱蔽性、高危害性等特點，當前治理工作仍然存在着一定的問題與短板：法律法規尚需完善、管理範圍仍需延伸、技術反制能力亟待提高、社會宣傳引導仍需加強、協同精準治理力度有待加大等。需堅持發展與治理並重的思路，發揮法律、監管、技術、宣傳、協同多方面綜合治理能力，有效應對人工智能時代下的電信網絡詐騙的治理問題，切實維護人民羣衆財產安全和利益。
正如同硬幣的正反兩面，每一次技術變革在帶來福祉的同時，也經常伴隨風險。風險促使我們深入思考，但不能因噎廢食。要因勢利導，使其趨利避害，應是全行業未來努力的方向。
