近年來(lái)，隨著(zhù)人工智能產(chǎn)業(yè)的高速發(fā)展，如何利用大模型技術(shù)來(lái)有效提升網(wǎng)絡(luò )安全保障水平已成為網(wǎng)絡(luò )安全領(lǐng)域的熱點(diǎn)研究方向。

針對當前網(wǎng)絡(luò )安全行業(yè)存在的安全能力不足、運營(yíng)效率低下、產(chǎn)品協(xié)同困難、安全專(zhuān)家缺乏等諸多問(wèn)題，國內眾多網(wǎng)絡(luò )安全從業(yè)組織正積極探索大語(yǔ)言模型等人工智能技術(shù)在安全領(lǐng)域的應用，并相繼推出各具特色的安全大模型相關(guān)產(chǎn)品，以提升整體網(wǎng)絡(luò )安全保障能力。 

 為進(jìn)一步規范安全大模型的設計、開(kāi)發(fā)與應用，中國信息通信研究院(簡(jiǎn)稱(chēng)“中國信通院”)依托人工智能產(chǎn)業(yè)聯(lián)盟(AIIA)安全治理委員會(huì )，聯(lián)合多方研制了《安全大模型能力要求及評估方法》系列規范，共包含5部分。其中，《安全大模型能力要求與評估防范 第1部分：總體框架》和《安全大模型能力要求與評估防范 第2部分：基礎網(wǎng)絡(luò )安全》已于近日正式發(fā)布。

《安全大模型能力要求與評估方法 第1部分：總體框架》

文件規定了安全大模型所覆蓋能力的總體框架和評估方法。安全大模型的架構分為基礎設施層、通用安全能力和安全原子能力三層。

安全大模型的研發(fā)旨在解決各類(lèi)復雜的安全應用場(chǎng)景需求，通用安全能力和安全原子能力以不同的組合方式可以滿(mǎn)足不同安全應用場(chǎng)景的需求。文件適用于網(wǎng)絡(luò )安全大模型的研究開(kāi)發(fā)、建設部署的相關(guān)組織，也適用于安全大模型使用方或第三方評測機構開(kāi)展能力測試與產(chǎn)品選型。

安全大模型總體框架圖

1. 安全大模型包含如下三層：

(1)基礎設施層：基礎設施層包含了支撐大模型運行的算力、模型和數據。

(2)通用安全能力：包括了安全問(wèn)答、安全語(yǔ)言翻譯、安全數據處理、安全任務(wù)編排、安全工具調用、安全告警研判、安全報告生成、大模型內生安全等通用能力。

(3)安全原子能力：包括了安全大模型可具備的基礎網(wǎng)絡(luò )安全能力、數據安全能力、內容安全能力和業(yè)務(wù)安全能力。

2. 安全應用場(chǎng)景場(chǎng)景包括：安全運營(yíng)、態(tài)勢分析、安全管理、事件研判、安全技術(shù)防護、風(fēng)險評估、攻防等場(chǎng)景。

《安全大模型能力要求與評估方法 第2部分：基礎網(wǎng)絡(luò )安全》

文件規定了安全大模型基礎網(wǎng)絡(luò )安全領(lǐng)域應具備的能力以及相應的評估流程與方法，適用于安全大模型基礎網(wǎng)絡(luò )安全能力部分的研究開(kāi)發(fā)、建設部署的相關(guān)組織，也適用于網(wǎng)絡(luò )安全大模型使用方或第三方評測機構開(kāi)展能力測試與產(chǎn)品選型。

文件主要對安全大模型基礎網(wǎng)絡(luò )安全應具備的原子能力提出了具體要求，包括安全大模型可具備的惡意流量檢測、入侵檢測、訪(fǎng)問(wèn)控制、漏洞檢測、惡意代碼檢測、滲透測試、攻擊面檢測溯源、WEB攻擊檢測、惡意郵件檢測、代碼審計、威脅情報分析、威脅狩獵等能力，同時(shí)對安全大模型應具備的通用安全能力進(jìn)行了詳細描述。

中國信通院將繼續開(kāi)展安全大模型系列規范的研制工作，圍繞數據安全、內容安全、業(yè)務(wù)安全等方向編制相關(guān)標準，提升人工智能大模型等新技術(shù)產(chǎn)品變革與行業(yè)應用能力提升，歡迎業(yè)界同仁共同參與。