智能制造網APP
智能制造網手機站
智能制造網小程序
智能制造網官微
智能制造網服務號
智能控制
機器人
儀器儀表
物聯網
3D打印
工業軟件
回放
直播中
品牌
其他品牌
常言道，眼見為實。然而，隨著人工智能的迅猛發展，一些使用Deepfake深度偽造技術制作的換臉視頻也在網絡上屢見不鮮。這項技術甚至被別有用心的人利用，成為詐騙、誣陷等罪惡勾當的工具，給社會和個人帶來嚴重威脅。
魔高一尺，如何破解？
在2021WAIC世界人工智能大會上，依托清華大學人工智能研究院成立的產業化公司——北京瑞萊智慧科技有限公司(RealAI)，發布了一款能夠一秒識別真偽的鑒別神器——DeepReal深度偽造內容檢測平臺，讓“假臉”無處遁形。
一、律之以法
幾十萬年以來，人臉都是識別人類身份信息十分顯著的特征。然而，隨時AI技術的飛速發展，這一切正在被深度偽造技術所瓦解。
近幾年來，非法利用AI技術偽造他人肖像吸引流量牟利，甚至從事侮辱、誹謗、網絡詐騙、色情宣傳等違法犯罪活動的案例已屢見不鮮。據一家國外機構監測到的結果顯示：自2019年以來，深度偽造視頻的數量呈指數級增長。
深度偽造技術給國家、社會和個人帶來的風險，引起了世界各國的高度重視，我國也重拳出擊。2020年5月28日，十三屆全國人大三次會議表決通過了《中華人民共和國民法典》，其中第1,019條規定“任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。未經肖像權人同意，不得制作、使用、公開肖像權人的肖像，但是法律另有規定的除外”，總體要求了禁止利用信息技術手段偽造的方式侵犯他人的肖像權和聲音。
在法律層面，AI作惡要有“緊箍咒”來約束；在技術層面，“魔高一尺”還要有“道高一丈”來抗衡。
二、束之有“術”
“深度偽造技術正在不斷演進迭代，亟需采用主動技術防范及預警檢測手段。”在2021世界人工智能大會上，清華大學人工智能研究院的核心孵化企業北京瑞萊智慧科技有限公司副總裁唐家渝向記者介紹，該司已研發出了“AI換臉術”的克星——一款破解深度偽造內容的檢測產品DeepReal深度偽造內容檢測平臺。
“門檻低、影響大、變化快”是深度偽造技術的顯著特征，且肉眼難以識別，更無法大量檢測。
針對如上痛點，RealAI基于第三代人工智能技術研發出的DeepReal，能夠通過研究深度偽造內容和真實內容的表征差異性辨識、不同生成途徑的深度偽造內容一致性特征挖掘等問題，快速、精準地對多種格式與質量的圖像進行真偽鑒別。
三、檢測性能工業級
檢測準確率無疑是衡量該平臺價值十分重要的指標。
據唐家渝介紹，檢測效果主要受到兩個因素的影響：數據集多元化程度和算法可靠程度。DeepReal深度偽造檢測平臺算法基于大數據量進行訓練和測試，截至目前，數據量已達到千萬級，數據集已覆蓋三大類，包括：學術深偽數據集、網絡深偽數據集和自研深偽數據集。同時，通過結合貝葉斯學習框架和深度神經網絡，來估計模型在預測新樣本時的不確定性。以上，有效保障了DeepReal深偽檢測算法的泛化能力。
在測試結果方面，DeepReal在學術數據集和ZAO等主流方式生成的網絡數據集中，已達到99%以上的準確率。而在實際應用中，DeepReal的檢測準確率也已達到業界前沿水平，遠超Facebook此前舉辦的Deepfake檢測挑戰賽所公布的較好成績。
此前，RealAI團隊在國際安全極客大賽GeekPwn 2020首屆CAAD虛假人臉AI識別大賽上，以顯著比分優勢奪得冠軍；在網信辦與公安部共同指導的第二屆“中國人工智能·多媒體信息識別技術大賽”中，斬獲“創新之星”獎以及深偽檢測競賽A類獎。此外，DeepReal在深偽相關領域也已發表頂級會議和期刊論文十余篇。
天下武功，唯快不破。超高的準確度，還需要速度來支撐。
DeepReal深度偽造內容檢測平臺，可實現每幀畫面的檢測時間僅用時30毫秒。同時，還支持橫向拓展與集群部署。檢測完畢，平臺還支持生成檢測報告。
四、AI界的安全之盾
深度偽造技術的濫用，給個人生活、國家安全和社會穩定帶來諸多問題和挑戰，而且隨著仿真精度的提升，這種問題有愈演愈烈的趨勢。
自成立以來，RealAI就致力于提供安全可控的第三代人工智能技術，從根本上增強人工智能的安全性、可靠性及可信性。據唐家渝透露，針對深度偽造技術的防范，RealAI目前已與工信部、公安部、國家互聯網應急中心、工信安全中心、中國信通院、公安三所等多家機構展開深入的項目合作。
一流企業做標準。此前，RealAI與國家工信安全中心聯合制定了我國人臉模型算法自身安全相關的第一個標準《信息安全技術人臉比對模型安全技術規范》，作為第二編寫單位與信通院在工信部網安局指導下聯合編制了《人工智能安全框架(2020年)》藍皮書。此外，RealAI目前也參與包括機器學習算法安全相關的國家標準，以及人工智能合成音視頻、人工智能生物特征識別相關的行業標準等多項標準的制定工作中。
唐家渝表示，未來這款產品將在網絡虛假內容甄別、人臉資料審核以及影像物證真實性檢驗等實際應用場景中發揮強大作用，RealAI也將持續迭代技術、打磨產品，和相關單位一起，全力以赴，確保在這場深度偽造的“攻防戰”中保持始終立于不敗之地。
補充資料：
關于瑞萊智慧RealAI
北京瑞萊智慧科技有限公司(簡稱“RealAI”)是依托清華大學人工智能研究院設立的人工智能企業，致力于提供安全可控的第三代人工智能技術，加速安全、可靠、可信的產業智能化升級。
公司由清華大學人工智能研究院院長張鈸院士、清華大學人工智能研究院基礎理論研究中心主任朱軍教授共同擔任首席科學家。團隊堅持底層創新，敢為人先，基于第三代人工智能技術，從根本上增強人工智能的安全性、可靠性、及可信性。基于自主可控底層框架，提供一系列AI基礎設施平臺，為高價值場景智能化升級提供可靠的一站式基礎保障。
RealAI致力于建設安全可控人工智能應用生態，推動人工智能落地全新的關鍵應用場景。目前RealAI已經落地于金融、能源、制造、互聯網等領域，提供金融智慧風控、智慧理財、工業設備預測性維護、人臉識別系統安全檢測與增強等產品和解決方案。
關于深度偽造
“深度偽造”，也被譯作“深度造假”，譯自英語中新出現的一個組合詞Deepfake，是計算機的“深度學習”(Deeplearning)和“偽造”(fake)的組合，出現于人工智能和機器學習技術時代。它被稱作一種合成媒體(synthetic media)，是通過自動化的手段、特別是使用人工智能的算法技術，進行智能生產，操縱、修改數據，最終實現媒體傳播行為的一種結果。
通俗理解，“深度偽造”指的是把圖片和聲音輸入機器學習的算法，從而可以輕易地進行“面部操作”(face manipulation)——把一個人的臉部輪廓和表情放置在其他任何一個人的臉上，同時利用對聲音的逼真處理，制造出實為合成卻看似極真的視頻——用以躲避識別、混淆視聽、娛樂用戶，以及實現其他虛假宣傳的目的。
(原標題：一秒識破“AI換臉術”，RealAI煉就“火眼金睛”)
浙公網安備 33010602000006號
智能制造網APP
智能制造網小程序
微信公眾號
