首頁 > 關(guān)于我們 > 安恒動態(tài) > 2023 > 正文

中國網(wǎng)絡(luò)安全年會丨安恒信息共話AI安全與網(wǎng)絡(luò)安全未來

閱讀量：次 文章來源：安恒信息

9月12日，在2023年第20屆中國網(wǎng)絡(luò)安全年會暨國家網(wǎng)絡(luò)安全宣傳周的網(wǎng)絡(luò)安全協(xié)同治理分論壇上，安恒信息高級副總裁、安恒研究院院長王欣發(fā)表了主題演講，分享了他對AI安全和網(wǎng)絡(luò)安全未來發(fā)展的看法和愿景。

王欣首先指出，隨著ChatGPT等大模型的普及和應(yīng)用，人工智能技術(shù)正在改變我們的生活方式和工作方式。然而，隨著AI技術(shù)的快速發(fā)展，安全問題也日益凸顯。安全與AI，既是相互博弈，又在相互成就，“讓AI更安全，讓安全更智能”，成為安全從業(yè)者的時代使命。

數(shù)字化技術(shù)的發(fā)展加速了網(wǎng)絡(luò)安全實戰(zhàn)化的步伐，安全效果導(dǎo)向的需求愈發(fā)突出。與此同時，企業(yè)面臨著愈加復(fù)雜且持續(xù)演變的網(wǎng)絡(luò)安全威脅。傳統(tǒng)的安全防御手段已經(jīng)無法滿足當(dāng)前快速應(yīng)對和應(yīng)急響應(yīng)的需求。另外，巨大的網(wǎng)絡(luò)安全人才缺口也成為了企業(yè)安全運(yùn)營的重大困擾。

安全垂域大模型的出現(xiàn)極大地緩解了安全專家不足的現(xiàn)狀。據(jù)《2023網(wǎng)絡(luò)安全產(chǎn)業(yè)人才發(fā)展報告》數(shù)據(jù)顯示，超過30%的受訪者認(rèn)為AI可以在一定程度上替代網(wǎng)絡(luò)安全人才，另有35. 7%的受訪者認(rèn)為AI技術(shù)將在未來五年內(nèi)對網(wǎng)絡(luò)安全人才產(chǎn)生自動監(jiān)測和分析等輔助作用。

王欣進(jìn)一步指出，當(dāng)前網(wǎng)絡(luò)安全產(chǎn)業(yè)都在研究AI大模型與安全的結(jié)合。安恒信息憑借16年的實戰(zhàn)經(jīng)驗積累，形成了大量的細(xì)分領(lǐng)域安全知識數(shù)據(jù)，并將這些數(shù)據(jù)轉(zhuǎn)化為平臺級能力知識數(shù)據(jù)。經(jīng)過七輪大規(guī)模的增量預(yù)訓(xùn)練和數(shù)十次微調(diào)，“恒腦”逐漸形成，實現(xiàn)了AI與安全的深度融合。在今年的成都大運(yùn)會網(wǎng)絡(luò)安保任務(wù)中，“恒腦”展現(xiàn)出了其價值，通過實戰(zhàn)與技術(shù)的結(jié)合，成為了一個高效、實用、能夠解決實際問題的安全大模型。

“大模型的下半場是智能體的大爆發(fā)?！?王欣介紹到，恒腦·安全垂域大模型與安恒OpenSecurity能力中臺的結(jié)合，實現(xiàn)了“聰明的大腦”與“勤快的手腳”的鏈接。未來，安恒信息將提供感知、決策、執(zhí)行、反饋的智能一體化解決方案，智能體逐步成長為虛擬安全專家，作為未來的“靠譜的伙伴”與安全專家同行。

然而，盡管大模型在處理某些任務(wù)上具有很高的效率，但它也存在著許多安全風(fēng)險。王欣提到了大模型在生成內(nèi)容時產(chǎn)生的數(shù)據(jù)安全、知識產(chǎn)權(quán)以及道德與倫理等相關(guān)的合規(guī)需求。此外，大模型的惡意使用可能導(dǎo)致供應(yīng)鏈漏洞、prompt注入等新的安全問題。另外，大模型及相關(guān)應(yīng)用自身也可能存在意識形態(tài)滲透、內(nèi)容幻覺等方面的安全需求。他特別強(qiáng)調(diào)，大模型甚至也存在著傳統(tǒng)軟件漏洞的安全風(fēng)險。

針對這些問題，王欣表示解決AI大模型面臨的安全風(fēng)險是迫在眉睫的事情。他透露，安恒信息研究院衛(wèi)兵實驗室對國內(nèi)外主流的幾個通用大模型進(jìn)行了詳細(xì)的安全評測，均發(fā)現(xiàn)了許多的安全風(fēng)險，從結(jié)果上看，國外的通用大模型的安全性整體要略高于國內(nèi)通用大模型。

（分?jǐn)?shù)越低，安全風(fēng)險越高）

王欣認(rèn)為，解決大模型自身安全問題，需要建設(shè)大模型的全生命周期安全解決方案，安恒信息已經(jīng)通過全面分析AI大模型的存在的安全問題，從構(gòu)建安全的供應(yīng)鏈、建立訓(xùn)練數(shù)據(jù)集規(guī)范、使用公認(rèn)可信的開源模型、代碼審計及安全測試、部署安全設(shè)備以及法律合規(guī)等多個方面入手，推出了完善的AI安全解決方案，可以有效地幫助用戶避免在使用AI大模型時面臨的諸多安全風(fēng)險。

據(jù)了解，本屆論壇是由由國家互聯(lián)網(wǎng)應(yīng)急中心（CNCERT/CC）和福州市人民政府主辦，匯聚了政府主管部門、科研院所、相關(guān)行業(yè)企業(yè)等國內(nèi)網(wǎng)絡(luò)安全領(lǐng)域的“政、產(chǎn)、學(xué)、研、用”各界代表，共同探討網(wǎng)絡(luò)安全技術(shù)交流、威脅治理、應(yīng)急響應(yīng)、漏洞治理、移動互聯(lián)網(wǎng)安全治理等議題。本次論壇為國內(nèi)網(wǎng)絡(luò)安全領(lǐng)域的協(xié)同治理和交流合作提供了重要的平臺，為推動我國網(wǎng)絡(luò)安全事業(yè)的發(fā)展發(fā)揮了積極作用。