央廣網(wǎng)昆明9月19日消息（記者 魏文青 趙貝貝）2025年國(guó)家網(wǎng)絡(luò)安全宣傳周于9月15日至21日舉辦，開(kāi)幕式等重要活動(dòng)在云南省昆明市舉行。

在2025年國(guó)家網(wǎng)絡(luò)安全宣傳周的現(xiàn)場(chǎng)，“AI帶來(lái)的新風(fēng)險(xiǎn)”成為高頻詞。隨著人工智能大模型走進(jìn)千行百業(yè)，從“換臉詐騙”到大模型漏洞，網(wǎng)絡(luò)安全正遭遇前所未有的挑戰(zhàn)，一場(chǎng)“AI攻防博弈”正在悄然升級(jí)。

網(wǎng)絡(luò)安全宣傳周現(xiàn)場(chǎng)（央廣網(wǎng)記者 魏文青 攝）

AI成“矛”亦成“盾”

會(huì)場(chǎng)內(nèi)，一份重量級(jí)數(shù)據(jù)引發(fā)熱議——在第22屆中國(guó)網(wǎng)絡(luò)安全年會(huì)（暨國(guó)家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全協(xié)同防御分論壇）上，國(guó)內(nèi)首次針對(duì)人工智能大模型的實(shí)網(wǎng)眾測(cè)結(jié)果正式公布：累計(jì)發(fā)現(xiàn)各類(lèi)安全漏洞281個(gè)，其中大模型特有漏洞177個(gè)，占比超過(guò)六成。典型風(fēng)險(xiǎn)包括不當(dāng)輸出、信息泄露、提示注入、不受限消耗類(lèi)漏洞等�！叭绻�這些問(wèn)題被惡意利用，將對(duì)大模型生態(tài)帶來(lái)巨大沖擊�！迸c會(huì)專(zhuān)家警示。

專(zhuān)家指出，AI應(yīng)用場(chǎng)景正快速擴(kuò)展，新的漏洞和攻擊手法層出不窮。面對(duì)隱蔽性強(qiáng)、破壞性大的威脅，傳統(tǒng)安全手段已難以獨(dú)立應(yīng)對(duì)。應(yīng)建立大模型漏洞分級(jí)體系，根據(jù)應(yīng)用場(chǎng)景明確風(fēng)險(xiǎn)等級(jí)；通過(guò)眾測(cè)匯聚“白帽子”力量，構(gòu)建AI共治生態(tài)；同時(shí)將安全防護(hù)前移至AI系統(tǒng)的全生命周期，從源頭筑牢防線(xiàn)。

“AI大模型安全治理工作任重道遠(yuǎn)，必須全社會(huì)合力�！本W(wǎng)絡(luò)安全眾測(cè)平臺(tái)有關(guān)負(fù)責(zé)人呼吁。

人工智能安全治理分論壇（央廣網(wǎng)記者 魏文青 攝）

如果說(shuō)AI為攻擊者提供了更強(qiáng)大的“武器庫(kù)”，那么它同樣也在重塑網(wǎng)絡(luò)安全的“防御力”。在活動(dòng)現(xiàn)場(chǎng)，網(wǎng)絡(luò)安全企業(yè)展示的“智防”成果讓觀眾直觀感受到攻防對(duì)抗的激烈與緊迫。

在奇安信展臺(tái)，負(fù)責(zé)人罕新祖介紹：“我們通過(guò)漏洞挖掘和人工滲透，構(gòu)建了多維度防護(hù)體系，保障大模型7×24小時(shí)穩(wěn)定運(yùn)行。”

奇安信展臺(tái)（央廣網(wǎng)記者 魏文青 攝）

騰訊則帶來(lái)“朱雀AI檢測(cè)助手”，能夠幾秒鐘識(shí)別出圖片或文本是否為AI生成。“通過(guò)捕捉AI生成內(nèi)容的隱形特征，可以精準(zhǔn)判斷其真實(shí)性�！必�(fù)責(zé)人施夢(mèng)嬌說(shuō)。

而螞蟻集團(tuán)展示的gPass，從身份認(rèn)證、端到端加密到智能交互，全面為AI眼鏡和智能體打造可信安全環(huán)境�！拔覀兿Ｍ�做到‘設(shè)備是本人’，在確保安全的同時(shí)讓交互更自然。”展臺(tái)工作人員潘菲菲介紹。

從風(fēng)險(xiǎn)到共治：AI安全正進(jìn)入新階段

“技術(shù)的突圍，需要制度的護(hù)航�！�9月15日，國(guó)家網(wǎng)絡(luò)安全宣傳周主論壇上，《人工智能安全治理框架》2.0版正式發(fā)布，提出從倫理到治理的系統(tǒng)規(guī)范，推動(dòng)形成跨國(guó)界、跨行業(yè)的協(xié)同治理格局。國(guó)家互聯(lián)網(wǎng)應(yīng)急中心相關(guān)負(fù)責(zé)人表示，這不僅是對(duì)國(guó)內(nèi)治理的深化，也為全球AI安全治理合作貢獻(xiàn)了“中國(guó)方案”。

《人工智能安全治理框架》2.0版發(fā)布（央廣網(wǎng)記者 魏文青 攝）

在2025年國(guó)家網(wǎng)絡(luò)安全宣傳周期間，觀眾可以直觀感受到：AI正在讓網(wǎng)絡(luò)安全走入一個(gè)全新的“攻防賽局”。一方面，AI換臉詐騙、虛假信息生成、模型漏洞頻發(fā)，帶來(lái)切實(shí)風(fēng)險(xiǎn)；另一方面，AI檢測(cè)、自動(dòng)化防御、治理框架的迭代升級(jí)，正在筑牢抵御風(fēng)險(xiǎn)的“最強(qiáng)防線(xiàn)”。

“AI改變了網(wǎng)絡(luò)安全的形態(tài)，但人類(lèi)對(duì)安全的追求沒(méi)有變�！睂�(zhuān)家總結(jié)道，唯有“AI對(duì)抗AI”，唯有技術(shù)、制度、產(chǎn)業(yè)和社會(huì)力量的合力，才能讓人工智能走向“安全可信”的未來(lái)。