AIGC的深入發(fā)展和快速普及，打開了智能世界廣袤的想象空間，但在技術(shù)成果涌現(xiàn)之際，隨之而來的模型安全、數(shù)據(jù)安全、內(nèi)容安全問題也日益凸顯，如何應(yīng)對(duì)AIGC引發(fā)攻防范式轉(zhuǎn)化的新趨勢(shì)，如何規(guī)避數(shù)據(jù)和隱私泄露風(fēng)險(xiǎn)，有效保障內(nèi)容生成的安全合規(guī)，正成為擺在行業(yè)面前的切實(shí)難題。

近日，在紫光股份旗下新華三集團(tuán)2024媒體與分析師溝通會(huì)上，新華三集團(tuán)高級(jí)副總裁、新華三信息安全技術(shù)有限公司總裁孫松兒接受多家媒體專訪，深入分享了新華三主動(dòng)安全3.0在全面智能化升級(jí)、創(chuàng)新場(chǎng)景新范式以及全面國產(chǎn)化三大維度的能力進(jìn)化，為強(qiáng)化AIGC數(shù)據(jù)安全治理，落實(shí)AIGC應(yīng)用規(guī)范，推動(dòng)業(yè)務(wù)安全防護(hù)帶來了全新的解題思路。

新華三集團(tuán)高級(jí)副總裁新華三信息安全技術(shù)有限公司總裁孫松兒

安全×AI 提升安全能力正向循環(huán)

對(duì)于AIGC為代表的大模型技術(shù)及其應(yīng)用而言，發(fā)展和安全是一體兩翼的統(tǒng)一整體，必須統(tǒng)籌規(guī)劃、同步推進(jìn)。孫松兒表示，新華三集團(tuán)安全視角下的AIGC是基于“主動(dòng)安全”理念，首先滿足大模型應(yīng)用的安全新需求，同時(shí)將AIGC作為新工具、新能力，賦能安全能力的提升，即“安全是保障AIGC實(shí)戰(zhàn)的核心基石，AIGC是提升安全能力的最佳手段”。為實(shí)現(xiàn)AIGC發(fā)展與安全能力提升的正向循環(huán)，基于靈犀大模型的AI能力，新華三重磅打造靈犀助手，為安全體系建設(shè)、運(yùn)營效率提升、業(yè)務(wù)持續(xù)發(fā)展注入更深層次的智能，并提出大模型安全合規(guī)與防護(hù)新思路——以靈犀衛(wèi)士實(shí)現(xiàn)大模型安全防護(hù)，以靈犀助手實(shí)現(xiàn)大模型賦能安全。

大模型自身的安全防護(hù)，貫穿從訓(xùn)練階段到運(yùn)行階段的全過程，需要解決垂直領(lǐng)域大模型訓(xùn)練難點(diǎn)、大模型環(huán)境網(wǎng)絡(luò)攻擊風(fēng)險(xiǎn)以及大模型生成內(nèi)容合規(guī)風(fēng)險(xiǎn)等諸多難題。其中，內(nèi)容安全合規(guī)是大模型發(fā)展的第一要?jiǎng)?wù)，國家網(wǎng)信辦發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》中，著重強(qiáng)調(diào)了安全合規(guī)的重要性。面對(duì)AIGC內(nèi)容安全要求，孫松兒認(rèn)為應(yīng)從輸入側(cè)、模型側(cè)、輸出側(cè)三個(gè)層面著手，對(duì)違規(guī)信息進(jìn)行過濾和規(guī)避。為此，新華三集團(tuán)構(gòu)建了完整的AIGC內(nèi)容安全防護(hù)體系，通過Prompt審核與改寫、生成內(nèi)容過濾、紅線知識(shí)庫等方式，靈犀衛(wèi)士可監(jiān)測(cè)用戶輸入和生成內(nèi)容，識(shí)別各類違規(guī)風(fēng)險(xiǎn)，全面保障內(nèi)容合規(guī)，整體內(nèi)容風(fēng)險(xiǎn)可下降近80%。? ?

在大模型賦能安全方面，孫松兒指出，安全大模型正在引發(fā)“效率革命”，為安全運(yùn)營帶來跨越式提升。以大模型技術(shù)打造的靈犀助手，現(xiàn)已全面內(nèi)嵌到安全產(chǎn)品、管理平臺(tái)及各類運(yùn)營運(yùn)維工具中，通過安全使能平臺(tái)打通大模型和業(yè)務(wù)場(chǎng)景，在攻擊研判、資產(chǎn)梳理、合規(guī)檢查、智能預(yù)測(cè)等方面實(shí)現(xiàn)全方位的運(yùn)營效率提升。比如在失陷事件研判中，通過AIGC輔助分析，研判效率可提升50%，在風(fēng)險(xiǎn)響應(yīng)處置中，AIGC可根據(jù)訓(xùn)練經(jīng)驗(yàn)直接給出準(zhǔn)確的處置建議，快速生成處置報(bào)告，實(shí)現(xiàn)風(fēng)險(xiǎn)處置的事半功倍，讓人力從繁雜的基礎(chǔ)工作中解放出來。

打造場(chǎng)景化新范式 賦能網(wǎng)絡(luò)安全場(chǎng)景化落地

從技術(shù)研發(fā)到實(shí)際應(yīng)用，網(wǎng)絡(luò)安全如何跨越實(shí)驗(yàn)室與產(chǎn)業(yè)鏈的鴻溝，在具體行業(yè)和場(chǎng)景中實(shí)現(xiàn)價(jià)值的實(shí)質(zhì)性提升，是當(dāng)前行業(yè)關(guān)注的焦點(diǎn)。對(duì)此，孫松兒表示，當(dāng)下垂直行業(yè)的安全需求差異較大，需要建立場(chǎng)景化思維捕捉不同行業(yè)的實(shí)際安全需求，構(gòu)建基于客戶業(yè)務(wù)本身的場(chǎng)景化新范式。

在場(chǎng)景化探索方面，新華三集團(tuán)深耕車聯(lián)網(wǎng)、數(shù)字政府、運(yùn)營商等重點(diǎn)行業(yè)場(chǎng)景，為多場(chǎng)景業(yè)務(wù)打造按需交付的算網(wǎng)安融合解決方案，通過構(gòu)建分布式安全資源池，借助SRv6彈性可編程、性能可度量、隔離有保障的優(yōu)勢(shì)，實(shí)現(xiàn)網(wǎng)絡(luò)與安全服務(wù)的端到端業(yè)務(wù)鏈打通與安全編排，保障數(shù)據(jù)和業(yè)務(wù)的安全穩(wěn)定運(yùn)行。在車聯(lián)網(wǎng)安全領(lǐng)域，新華三面向車路協(xié)同、車聯(lián)網(wǎng)運(yùn)營以及車聯(lián)網(wǎng)人才培養(yǎng)場(chǎng)景，打造車聯(lián)網(wǎng)安全解決方案，全面保障車聯(lián)網(wǎng)端側(cè)、路側(cè)及云端安全。而圍繞數(shù)據(jù)流轉(zhuǎn)的全生命周期，新華三打造了基于AI的數(shù)據(jù)安全治理與運(yùn)營平臺(tái)，以大模型技術(shù)賦能數(shù)據(jù)分類分級(jí)、數(shù)據(jù)動(dòng)態(tài)圖譜及數(shù)據(jù)安全管理，實(shí)現(xiàn)數(shù)據(jù)流通的可感、可知、可管、可控。??

全面國產(chǎn)化 樹立國產(chǎn)化安全新標(biāo)桿

此外，新華三集團(tuán)全面深化安全產(chǎn)品體系及國產(chǎn)化布局，推出業(yè)內(nèi)首個(gè)內(nèi)嵌AIGC的旗艦防火墻產(chǎn)品，打造全面支持國產(chǎn)化的安全運(yùn)營中心、數(shù)據(jù)安全治理中心以及云安全平臺(tái)，樹立國產(chǎn)化安全能力新標(biāo)桿，40+安全原子能力全面適配國產(chǎn)化，包括主流的國產(chǎn)化操作系統(tǒng)及軟硬件，全面保障終端、邊界、應(yīng)用以及數(shù)據(jù)安全。? ?

作為新質(zhì)生產(chǎn)力的代表，AIGC是新一輪產(chǎn)業(yè)變革的核心引擎，網(wǎng)絡(luò)安全則是護(hù)航AIGC行穩(wěn)致遠(yuǎn)的基石底座。作為網(wǎng)絡(luò)安全領(lǐng)域的領(lǐng)軍企業(yè)，新華三集團(tuán)將秉持“精耕務(wù)實(shí)，為時(shí)代賦智慧”的理念，持續(xù)推進(jìn)“安全×AI”的技術(shù)創(chuàng)新和場(chǎng)景化應(yīng)用，以網(wǎng)絡(luò)安全和AIGC的雙向賦能，助力百行百業(yè)在數(shù)字化轉(zhuǎn)型之路上鏗鏘前行。