新聞記者 潘錫珩
上傳一張照片，就能利用AI技術鑒別照片是不是其他AI的偽造品；不法分子使用了AI換臉技術，也能被AI精準識破。
11月19日，2024年世界互聯網大會烏鎮峰會開幕，人工智能再次成為熱議話題。在“互聯網之光”博覽會的螞蟻集團展臺，新聞記者注意到，AI能夠幫助我們識別圖片是否經過AI創作，還能堵上AI換臉帶來的安全漏洞。
過去一年，全球人工智能技術發展迅速，正在成為新一輪科技革命和產業變革的重要力量。今年的世界互聯網大會聚焦于人工智能技術、產業發展及其對人類經濟社會的影響。
螞蟻集團展臺工作人員介紹，當大模型和AI智能體帶來前所未見的智能體驗，模型內部幻覺、安全漏洞和深度生成內容偽造等問題也帶來了新的挑戰。螞蟻集團的“AI鑒真”工具，可以實現用AI打敗AI。
用AI生成一張照片或一段視頻，這在技術上被稱為深度偽造，常被犯罪分子用于詐騙勒索。螞蟻正通過蟻天鑒和ZOLOZ等安全技術產品加強對圖像、視頻的鑒真能力。
蟻天鑒不僅支持圖像、視頻等多模態內容真實性及深度偽造的監測，還支持大模型X光、大模型基礎設施測評、應用安全測評、圍欄防御等技術能力。
新聞記者現場從圖庫中選擇了多張照片，僅用幾秒，蟻天鑒就可以準確識別出圖片或視頻片段的真偽，明確告訴記者是否經過了AI創作。此外，還可以通過紋理、光影、文字等細節，鑒別營業執照等證照的真實性。
而ZOLOZ技術則更專注于攻克AI換臉難題，其人臉識別準確率達99.9%。在現場，新聞記者用手機拍攝本人頭像照片后，AI將這張照片合成為戴眼鏡和露齒笑兩張照片，以及包含眨眼、張嘴等動作的活化視頻，十分具有迷惑力。搭載ZOLOZ技術的手機通過前置攝像頭的逐一識別，很快鑒別出原始照片，給深度偽造的照片及視頻打上醒目標簽。現場多位觀眾多次嘗試，都沒能混淆ZOLOZ的判斷。
工作人員介紹，目前ZOLOZ已為中國、印尼、馬來西亞、菲律賓等24個國家和地區提供技術服務，涵蓋金融、保險、證券、信貸、電信、公共服務等多個領域，累計服務用戶超12億。
“螞蟻AI智能體的技術底座，就是我們的‘認知決策智能體技術創新與應用’。”現場工作人員介紹。該技術底座以萬億參數可信大模型“螞蟻百靈大模型”為基礎能力，結合高性能知識決策引擎技術，使得大模型在決策時更準、更可靠、更安全，就像為大模型裝上了可信的大腦。
