AI換臉，科技術語，是指通過AI人工智慧技術，把別人的臉換成自己的臉。
2023年5月24日，中國網際網路協會發文提示“AI換臉”新騙局，利用“AI換臉”“AI換聲”等虛假音視頻，進行詐欺、誹謗的違法行為屢見不鮮。
2024年3月15日，2024年中央廣播電視總台3·15晚會曝光了AI換臉詐欺的現象。
基本介紹
- 中文名：aI換臉
- 釋義：通過AI人工智慧技術，把別人的臉換成自己的臉
技術介紹,相關事件,社會危害,央視曝光,
技術介紹
AI換臉臉部表情自然，效果逼真，整個過程你只需要通過一張照片，然後用AI技術可以在ZAO軟體上使用自己的照片替視劇或者小視頻中的人物，從而生成以自己為主角的視頻。
相關事件
2023年3月7日，據美國“截擊”網站報導，美軍特種作戰司令部正計畫利用“深度偽造”等技術，開發新一代“軍事信息支持作戰”工具，新技術將被用於數字欺騙、通信干擾及製造傳播虛假信息等活動。深度偽造技術常見的方式有AI換臉、語音模擬、視頻生成等。
2023年6月14-16日，中國網際網路協會將組織舉辦“2023年電信網路詐欺治理工作培訓”，解讀電信網路詐欺治理法律法規，分析研判電信網路詐欺治理的重點工作和發展形勢，助力企業落實防範治理電信網路詐欺責任，提高管理能力，促進行業健康發展。
2023年5月，內蒙古包頭警方發布一起利用AI實施電信詐欺的典型案例：2023年4月，福建一家科技公司的法人代表郭先生被騙子通過AI換臉和擬聲技術，佯裝好友對其實施詐欺。在10分鐘內，先後分兩筆把430萬元轉到了對方的銀行賬戶上。
2023年5月22日，AI換臉詐欺事件再次發生。安徽一男子9秒被騙132萬。
2023年6月，浙江省杭州市蕭山區檢察院對一起利用“AI換臉”技術侵犯公民個人信息案，依法向杭州網際網路法院提起民事公益訴訟。
2023年8月10日訊息，為防範和打擊此類新型犯罪，公安機關聯合國家重點實驗室等單位，開展人臉識別與活體檢測技術安全測評，覆蓋了境內用戶量大、問題隱患突出的即時通訊、網路直播、網路社交、電商平台、金融支付等重點APP，及時發現人臉識別驗證系統存在的風險隱患，通報運營主體升級安全保護措施和人臉識別算法。同時依託“淨網”專項行動，組織專項會戰，嚴打泄露身份證照片等圖像信息的犯罪源頭，破獲“AI換臉”案件79起，抓獲犯罪嫌疑人515名，有效遏制了該類犯罪勢頭。
社會危害
2023年5月24日，中國網際網路協會發文提示“AI換臉”新騙局。今年以來，ChatGPT和GPT-4等技術的套用，成為了信息科技領域的熱點，引起公眾對AI技術的廣泛關注和熱情。但伴隨著深度合成技術的開放開源，深度合成產品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進行詐欺、誹謗的違法行為屢見不鮮。
近期，包頭市公安局電信網路犯罪偵查局發布一起使用智慧型AI技術進行電信網路詐欺的案件。不法分子利用AI技術，通過聲音合成，偽造成特定人物的聲音，通過AI換臉，偽裝成特定人物，實時與他人進行視頻通話。更換後的面部表情自然，以假亂真，能夠冒充他人身份聯繫被害人，博取被害人信任後實施詐欺。
面對利用AI技術的新型騙局，廣大公眾需提高警惕，加強防範。
一、做好個人信息安全第一責任人
1、加強個人信息保護意識，防止信息泄露：不輕易提供人臉、指紋等個人生物信息給他人；不要輕易透露自己的身份證、銀行卡、驗證碼等信息；不要貪圖方便把身份證、銀行卡照片等直接共同存放於手機內。
提示：發現APP過度、強制收集個人信息，請至12321.cn投訴。
2、陌生連結不要點、陌生軟體不要下載、陌生好友不要隨便加、不明二維碼不要隨便掃。管理好自己的朋友圈，不要向陌生人開啟手機螢幕共享。
3、做好個人防護，安裝安全軟體，防止手機和電腦中病毒；對個人賬戶的安全狀況保持警惕，尤其是陌生設備的登入情況，防止微信、QQ等被盜號給親朋好友帶來麻煩。
4、對於不常用的APP，建議卸載前註銷個人賬號。
提示：APP不提供個人賬號註銷方式，或為註銷賬號設定各類障礙的，請至12321.cn投訴。
二、遠程轉賬務必多重驗證，把好“錢袋子”
如果有人自稱“家人”“朋友”“老師”“領導”通過社交軟體、簡訊、電子郵件等以“手機掉水裡了，學校需要緊急交輔導班學費”“人在境外旅遊需要幫忙買機票”“給領導辦私事需緊急轉賬”“遭遇車禍需要馬上手術”“情況特殊，需要過橋資金拆借”等各種方式和理由誘導你轉賬匯款，務必第一時間提高警惕。在AI時代，文字、聲音、圖像和視頻都有可能是深度合成的，在轉賬匯款、資金往來這樣的典型場景，要通過回撥對方手機號等額外通信方式核實確認，不要僅憑單一溝通渠道未經核實就直接轉賬匯款！無論對方是誰！
提示：遭遇詐欺信息，請至12321.cn反詐專欄舉報，如發生資金損失請及時報警。
一直以來，中國網際網路協會不斷推進行業自律，積極開展防範治理電信網路詐欺工作。2023年6月14-16日，中國網際網路協會將組織舉辦“2023年電信網路詐欺治理工作培訓”，解讀電信網路詐欺治理法律法規，分析研判電信網路詐欺治理的重點工作和發展形勢，助力企業落實防範治理電信網路詐欺責任，提高管理能力，促進行業健康發展。
央視曝光
2024年3月15日，2024年中央廣播電視總台3·15晚會曝光了AI換臉詐欺的現象，在視頻中穿插了一段對“AI換臉”的科普，實際上，視頻通話AI換臉詐欺已經不是什麼稀罕事了，為了更好地防詐欺，大家在懷疑對方換臉時可以讓對方摸臉、按鼻子等，這樣可以更容易地識別AI換臉視頻。此外，AI換臉、變聲功能雖然看起來很強，但詐欺分子由於訓練數據不足、技術能力欠缺等硬傷，基本都會在幾秒鐘後掛斷視頻/電話。
