新華社北京11月27日電 11月27日,《新華每日電訊》發(fā)表題為《自動感知環(huán)境 不受人工干預 攻擊形式多樣——“AI+”時代網(wǎng)絡安全挑戰(zhàn)升級，如何構(gòu)建有效新防線？》的報道。
2025年以來，人工智能（AI）技術實現(xiàn)顯著突破——大模型訓練成本不斷降低，應用方式從生成式AI向智能體化AI快速演進。隨著技術不斷發(fā)展，AI正賦能各行各業(yè)，引領人們進入“AI+”時代。然而，AI的“雙刃劍”效應也愈發(fā)明顯：AI濫用風險態(tài)勢嚴峻，深度偽造技術以假亂真，利用AI實施網(wǎng)絡攻擊趨勢抬頭……
人工智能作為引領新一輪科技革命和產(chǎn)業(yè)革命的戰(zhàn)略性技術，深刻改變?nèi)祟惿a(chǎn)、生活方式，但在引領生產(chǎn)力革命性躍遷和生產(chǎn)關系深層次變革的同時，也給網(wǎng)絡安全帶來了新的威脅和挑戰(zhàn)。如何準確應對“AI+”時代的網(wǎng)絡威脅？強化風險感知和預警能力，“用AI對抗AI”，成為擺在人類面前的新課題。
生成式AI濫用，“李鬼”風險不斷
“這是人工合成的假視頻，講話聲音是我，但內(nèi)容不是我的。”10月11日，在江西南昌一場國際學術年會上，中國工程院院士、天津中醫(yī)藥大學名譽校長張伯禮在作報告時幽默地說：“凡是‘捎貨’（帶貨）的肯定不是我！”
會議上，張伯禮院士提醒大家對一些短視頻注意鑒別。原來，今年網(wǎng)絡平臺上出現(xiàn)了多個關于“張伯禮”帶貨某美白護膚品的短視頻。實際上，這些都是經(jīng)由AI制作的。這些合成視頻使用張伯禮院士的形象和聲音，達到以假亂真的效果。
新的技術應用發(fā)展的同時，運用網(wǎng)絡、信息技術侵害肖像權(quán)、名譽權(quán)等人格權(quán)的情形也經(jīng)常出現(xiàn)。今年6月，最高人民法院發(fā)布的6起濫用信息技術侵犯人格權(quán)案例中，不乏未經(jīng)許可AI化使用他人聲音、擅用他人肖像供用戶“換臉”等。
國家計算機病毒應急處理中心高級工程師杜振華告訴記者，2023年以來，隨著生成式AI的普及和規(guī)模化應用，其強大的內(nèi)容生產(chǎn)和模仿能力在推動創(chuàng)新的同時，也催生了深度偽造、算法偏見等風險。
公安部網(wǎng)安局今年9月披露的打擊整治網(wǎng)絡違法犯罪典型案例中，涉及多起利用AI工具編造謠言、網(wǎng)絡暴力、開盒網(wǎng)暴、侵犯公民個人信息等案件。包括“樺加沙”臺風逼近廣東沿海地區(qū)，社交平臺上出現(xiàn)多張所謂“深交所門前牛雕塑被拴”“車輛被五花大綁”圖片，均被證實系AI合成；河南發(fā)生區(qū)域性暴雨天氣期間，多個賬號發(fā)布的內(nèi)容也實為用AI技術拼湊、剪輯生成的虛假視頻。
“金融行業(yè)中，一些機構(gòu)的身份驗證被AI換臉攻破。今年6月，不少高校也要求畢業(yè)論文必須進行AI檢測。”中國科學院計算技術研究所前瞻研究實驗室主任曹娟說，大模型普及之后，他們發(fā)現(xiàn)很多行業(yè)都需要鑒偽。
AI化身智能體，自主進攻難捉摸
今年年初，“2025年哈爾濱第九屆亞冬會”遭受境外網(wǎng)絡攻擊事件引發(fā)廣泛關注。國家計算機病毒應急處理中心等有關技術團隊持續(xù)攻堅，成功追查到美國國家安全局（NSA）的3名特工和兩所美國高校，參與實施了針對亞冬會的網(wǎng)絡攻擊活動。研究發(fā)現(xiàn)，此次攻擊利用了AI智能體進行工具方案規(guī)劃、漏洞探尋和流量監(jiān)測等工作，部分代碼明顯由AI書寫，可以在攻擊過程中自動、快速編寫動態(tài)代碼實施攻擊。
所謂智能體化AI，是指具備自主決策能力的人工智能系統(tǒng)。AI智能體一旦被用于網(wǎng)絡攻擊，其自主性、隨機性將大大提升網(wǎng)絡安防的難度。
“不久前，境外網(wǎng)絡公司披露一個已知的AI勒索軟件，該勒索軟件使用OpenAI公司的開源大模型生成惡意勒索程序，利用AI技術可以自主決定搜索或加密哪些文件。”公安部有關負責人在9月底召開的第三屆網(wǎng)絡空間安全（天津）論壇上介紹。
中興通訊股份有限公司副總裁王繼剛表示，智能體是未來AI應用的重要方式。“智能體會自動感知接觸到的環(huán)境，并在運行過程中不受人工干預，能以目標為導向。”他認為，智能體攻擊的形式多種多樣，其大規(guī)模應用帶來的總攻擊面會更大，影響也更復雜。
目前，網(wǎng)絡上已出現(xiàn)多款輔助網(wǎng)絡攻擊的大模型工具，一些網(wǎng)絡“黑產(chǎn)”工具也正積極接入AI。國家計算機病毒應急處理中心聯(lián)合其他權(quán)威機構(gòu)發(fā)布的《網(wǎng)絡空間安全態(tài)勢分析報告（2025）》指出，相較去年，今年發(fā)生的AI相關網(wǎng)絡與數(shù)據(jù)安全事件與風險顯著增加。
不過，在專家看來，當前AI強大的數(shù)據(jù)處理、模式識別和自動化的能力，也能為網(wǎng)絡安全提供新的解決方案和防御策略，AI智能體的融入將使網(wǎng)絡安全防御從被動響應向主動預測和自動防御轉(zhuǎn)變，AI網(wǎng)絡攻防對抗態(tài)勢或?qū)⑦M入“智能體驅(qū)動”的新階段。也有觀點認為，未來的網(wǎng)絡安全之戰(zhàn)可能會演變?yōu)椤癆I之間的對抗”。
在安恒信息技術股份有限公司董事長范淵看來，AI智能體能快速生成動態(tài)仿真系統(tǒng)，結(jié)合AI的自動化編程、數(shù)據(jù)生成等，AI可以實時根據(jù)攻擊行為，預測攻擊者下一個相關的動作，從而生成對應的預防策略。
技術風險管控，亟待多方協(xié)同
在不少業(yè)內(nèi)人士看來，現(xiàn)在不應再探討AI是不是有危害，而是到了研究怎樣讓AI健康發(fā)展的階段，發(fā)展安全可控的AI，重構(gòu)網(wǎng)絡安全治理體系是一項系統(tǒng)性工作，需要治理制度、技術創(chuàng)新、產(chǎn)業(yè)生態(tài)等協(xié)同推進。
“AI安全風險源于AI向‘超人’化演進。解決AI‘超人’問題，關鍵是管好‘框、數(shù)、人、鏈’四個環(huán)節(jié)，把AI嵌在安全體系里，把體系落在場景中，重塑適配時代需求、業(yè)務場景的內(nèi)生安全體系，增強數(shù)智系統(tǒng)的內(nèi)在免疫力。”奇安信科技集團董事長齊向東說。
為此，中國不斷延伸AI領域治理鏈條。今年9月1日，《人工智能生成合成內(nèi)容標識辦法》及配套強制性國家標準《網(wǎng)絡安全技術 人工智能生成合成內(nèi)容標識方法》正式生效，明確要求所有傳播的AI生成內(nèi)容必須添加顯式或隱式標識，AI生成內(nèi)容強制亮明“數(shù)字身份證”。業(yè)內(nèi)認為，這意味著中國在內(nèi)容安全治理上邁出關鍵一步。
與此同時，近年來，中國公安機關作為維護網(wǎng)絡安全的重要力量，持續(xù)開展多個專項行動，有效應對一系列網(wǎng)絡安全風險與挑戰(zhàn)。
國際刑警組織網(wǎng)絡犯罪局局長尼爾·杰頓說，網(wǎng)絡犯罪在全球是一個嚴重的問題，全球網(wǎng)絡犯罪經(jīng)濟規(guī)模已超10.5萬億美元。在今年針對惡意軟件的“安全亞洲”活動中，國際刑警組織和中國緊密合作，關閉了20000多個惡意IP，查獲了100GB的數(shù)據(jù)。“成功的網(wǎng)絡安全行動根基在于合作。”他說，未來將綜合運用AI等新技術進行跨國打擊行動。
“網(wǎng)絡安全威脅沒有國界，任何一個國家發(fā)現(xiàn)的漏洞都可能在幾分鐘之內(nèi)波及其他國家。構(gòu)筑網(wǎng)絡安全不能各自為政。”尼日利亞國家信息技術發(fā)展局局長卡希夫·伊努瓦·阿卜杜拉希說，“區(qū)域和全球合作是必經(jīng)之路。”
清華大學公共管理學院教授、人工智能國際治理研究院副院長梁正建議，在“AI+”時代，要通過國際合作推動能力建設、風險共管和規(guī)則標準互認，同時探索針對特定議題的小切口治理合作，攜手構(gòu)建包容普惠的全球AI治理體系。
