記者從在北京召開的2024全球數(shù)字經(jīng)濟(jì)大會(huì)數(shù)字安全高層論壇暨北京網(wǎng)絡(luò)安全大會(huì)產(chǎn)業(yè)峰會(huì)(以下簡稱“BCS產(chǎn)業(yè)峰會(huì)”)上獲悉,人工智能極大提升了工作學(xué)習(xí)效率,但也帶來風(fēng)險(xiǎn)和監(jiān)管問題。人工智能和機(jī)器學(xué)習(xí)越來越多地應(yīng)用于威脅檢測、自動(dòng)化響應(yīng)、預(yù)測分析等網(wǎng)絡(luò)安全防護(hù)工作。要更加重視人工智能安全防御技術(shù)創(chuàng)新,筑牢智能時(shí)代網(wǎng)絡(luò)安全基石。
聯(lián)合國副秘書長李軍華
聯(lián)合國副秘書長李軍華在開幕致辭中說,“不斷發(fā)展的數(shù)字世界是一個(gè)矛盾體?!卑査颉鯛枴だ章榷辔粚<椰F(xiàn)場分享了智能時(shí)代網(wǎng)絡(luò)安全威脅的種類以及典型的網(wǎng)絡(luò)攻擊方式,介紹了當(dāng)前利用人工智能助力網(wǎng)絡(luò)安全躍升的前沿研究和實(shí)踐,為構(gòu)建更加安全穩(wěn)固的數(shù)字安全體系建言獻(xiàn)策。
開幕式上,全國工商聯(lián)網(wǎng)絡(luò)與數(shù)據(jù)安全委員會(huì)召集奇安信集團(tuán)、聯(lián)想集團(tuán)、中科曙光、中興通訊、中國軟件、長城科技、神州信息、東軟集團(tuán)、東華軟件、瀾起科技、軟通動(dòng)力、中國電子云等60家數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)鏈領(lǐng)軍企業(yè),共同發(fā)起《打造“人工智能+安全”新質(zhì)生產(chǎn)力》倡議,呼吁社會(huì)各界攜手合作,凝聚各方智慧和力量,推動(dòng)人工智能與安全的深度融合,為中國數(shù)字經(jīng)濟(jì)保駕護(hù)航。
AI助力實(shí)現(xiàn)四大躍升
2024年政府工作報(bào)告明確,開展“人工智能+”行動(dòng)。在BCS產(chǎn)業(yè)峰會(huì)上,演講嘉賓們認(rèn)為,人工智能有利于筑牢可信可控的數(shù)字安全屏障,至少能夠助力網(wǎng)絡(luò)安全實(shí)現(xiàn)四大能力躍升。
第一,網(wǎng)絡(luò)威脅發(fā)現(xiàn)能力躍升。通過應(yīng)用人工智能,可以提升威脅判定的準(zhǔn)確度,從海量噪聲中快速、準(zhǔn)確地洞察和判定真正的風(fēng)險(xiǎn)。據(jù)吳云坤透露,1個(gè)安全大模型處理安全告警的能力相當(dāng)于50~60個(gè)網(wǎng)絡(luò)安全工程人員。
利用大模型進(jìn)行威脅研判已投入多個(gè)應(yīng)用場景。據(jù)苗守野透露,中國聯(lián)通基于元景大模型體系,實(shí)現(xiàn)檢測+分析+運(yùn)營的端到端網(wǎng)絡(luò)安全能力智能化升級,大模型智能研判平均時(shí)間達(dá)到秒級,研判準(zhǔn)確性達(dá)到95%以上,有效助力基礎(chǔ)網(wǎng)絡(luò)安全底座的智能化變革。
中國聯(lián)通集團(tuán)網(wǎng)絡(luò)與信息安全部總經(jīng)理苗守野
第二,病毒檢測效率和精度躍升。人工智能可以增強(qiáng)識(shí)別準(zhǔn)確度和研判效率,幫助快速準(zhǔn)確地從海量樣本中識(shí)別出真正的惡意樣本和病毒。吳云坤說,奇安信利用人工智能病毒引擎QDE對132萬多個(gè)樣本的檢測結(jié)果顯示,QDE的檢出率為97.9%,比傳統(tǒng)病毒引擎高出4.13%,誤報(bào)率僅0.009%,遠(yuǎn)低于傳統(tǒng)引擎誤報(bào)率0.04%。
奇安信集團(tuán)總裁吳云坤
第三,安全運(yùn)營能力提質(zhì)躍升。人工智能可以替代人工,解放安全專家,突破網(wǎng)絡(luò)安全的人力資源邊界,大幅度提升運(yùn)營能力。吳云坤講到,安全專家每天能夠研判約480條信息,安全機(jī)器人每天能夠智能研判30240條信息,“從這個(gè)角度看,一臺(tái)機(jī)器人相當(dāng)于60位安全專家”。
第四,攻防實(shí)戰(zhàn)水平躍升。網(wǎng)絡(luò)安全領(lǐng)域的創(chuàng)新核心是使用新技術(shù)實(shí)現(xiàn)網(wǎng)絡(luò)空間安全檢測、分析、研判、指揮、響應(yīng)、處置形成閉環(huán),并不斷提升攻擊方和防守方的實(shí)戰(zhàn)水平和工作效率。在吳云坤看來,人工智能能有效的縮短閉環(huán)時(shí)間,AI加持攻守雙方完成閉環(huán)后,可以實(shí)現(xiàn)知識(shí)經(jīng)驗(yàn)再積累,持續(xù)提升作戰(zhàn)水平。
AI成為安全領(lǐng)域創(chuàng)新熱點(diǎn)
“AI驅(qū)動(dòng)安全已經(jīng)成為網(wǎng)絡(luò)安全領(lǐng)域的重要?jiǎng)?chuàng)新熱點(diǎn)?!?吳云坤舉例說,上個(gè)月在美國舉行的全球最大網(wǎng)絡(luò)安全年度大會(huì)(RSAC 2024)發(fā)布的新產(chǎn)品中,60%與AI相關(guān),其中創(chuàng)新沙盒十強(qiáng)中有7家是AI方向;我國2024安全創(chuàng)客匯40強(qiáng)的10個(gè)創(chuàng)新賽道中,AI安全排在第二位。
與此同時(shí),傳統(tǒng)網(wǎng)絡(luò)安全行業(yè)也正在快速轉(zhuǎn)型,加快擁抱AI。一些綜合性大型安全企業(yè)通過收購、自我研發(fā)或生態(tài)建設(shè)補(bǔ)齊短板,用AI不斷發(fā)展完善產(chǎn)品和服務(wù)體系,加速建立對抗威脅的閉環(huán),提升安全事件處置的能力和效率。例如,Crowdstrike在推出Charlotte AI之后,把過去分布在不同終端的所有數(shù)據(jù)整合進(jìn)AI網(wǎng)絡(luò)安全分析工具Charlotte AI,將安全事件響應(yīng)時(shí)間從過去的8小時(shí)縮短為幾分鐘。
國內(nèi)頭部科技企業(yè)已在同步推進(jìn)AI在網(wǎng)絡(luò)安全領(lǐng)域落地生根。作為網(wǎng)絡(luò)安全原創(chuàng)技術(shù)策源地總體單位,奇安信以科技創(chuàng)新推動(dòng)產(chǎn)業(yè)創(chuàng)新,于今年3月對外正式發(fā)售了“AI驅(qū)動(dòng)安全”的代表性產(chǎn)品:QAX-GPT安全機(jī)器人。QAX-GPT安全機(jī)器人對真實(shí)網(wǎng)絡(luò)風(fēng)險(xiǎn)事件研判準(zhǔn)確率達(dá)到100%,可以消除80%以上無效告警,助力企業(yè)網(wǎng)絡(luò)安全運(yùn)營效率提升逾60倍。
BCS產(chǎn)業(yè)峰會(huì)嘉賓一致認(rèn)為,國家相關(guān)政策正在進(jìn)一步推動(dòng)AI在網(wǎng)絡(luò)安全產(chǎn)業(yè)加速布局。
“數(shù)據(jù)是人工智能三要素之一,人工智能模型的訓(xùn)練需要大量且高質(zhì)量的數(shù)據(jù)。”蔣楠說,發(fā)展人工智能,需要更加注重?cái)?shù)據(jù)的收集、清洗、標(biāo)注和存儲(chǔ),以確保模型訓(xùn)練的有效性和科學(xué)性。當(dāng)前,國家發(fā)力促進(jìn)數(shù)據(jù)要素流通,通過流通實(shí)現(xiàn)數(shù)據(jù)價(jià)值,將支撐包括網(wǎng)絡(luò)安全在內(nèi)的人工智能新應(yīng)用快速發(fā)展。
中石化集團(tuán)信息和數(shù)字化管理部副總經(jīng)理蔣楠
AI時(shí)代呼喚體系安全
在BCS產(chǎn)業(yè)峰會(huì)上,與會(huì)嘉賓們提醒,目前的網(wǎng)絡(luò)攻擊者不僅利用人工智能技術(shù)編寫程序、制造病毒、發(fā)起飽和式攻擊,也在針對人工智能防護(hù)模型本身的弱點(diǎn)進(jìn)行“投毒”或“滲透”。與會(huì)專家建議,AI時(shí)代的網(wǎng)絡(luò)安全防護(hù)同樣需要突破單點(diǎn)思維,推進(jìn)體系建設(shè)。
一方面,網(wǎng)絡(luò)攻擊開始面向AI“對癥下藥”。蔣楠舉例說,攻擊者可能進(jìn)行藥餌攻擊,即針對AI收集日常運(yùn)營數(shù)據(jù)自我學(xué)習(xí)訓(xùn)練以檢測出新的攻擊這一特性,攻擊者注入精心設(shè)計(jì)的數(shù)據(jù)樣本(即藥餌),使訓(xùn)練數(shù)據(jù)被污染,給AI“洗腦”,最終危及整個(gè)系統(tǒng)的正常功能。
要更加重視人工智能安全防御技術(shù)創(chuàng)新。具體而言,在AI系統(tǒng)收集數(shù)據(jù)、訓(xùn)練模型階段,可以采用網(wǎng)絡(luò)蒸餾、對抗訓(xùn)練、對抗樣本檢測、輸入重構(gòu)、模型剪枝等多種防御性技術(shù),以防止針對AI的數(shù)據(jù)投毒式攻擊。
當(dāng)前國內(nèi)網(wǎng)絡(luò)安全防護(hù)還沒有真正普及體系化建設(shè)。例如,國內(nèi)安全設(shè)備和產(chǎn)品的互操作性標(biāo)準(zhǔn)和規(guī)范一度長期缺位,不同網(wǎng)絡(luò)安全廠商各自為戰(zhàn),無法形成協(xié)同效應(yīng),無法真正落實(shí)“AI驅(qū)動(dòng)安全”帶來的威脅檢測能力和安全運(yùn)營能力提升
“AI是知識(shí)工程,需要多維數(shù)據(jù)、多維場景,綜合性廠商比單點(diǎn)技術(shù)廠商更具優(yōu)勢?!眳窃评ふJ(rèn)為,綜合性廠商基于內(nèi)生安全建立體系,使單點(diǎn)技術(shù)通過體系協(xié)同在對抗威脅時(shí)發(fā)揮最大效能。
與會(huì)專家們呼吁,網(wǎng)絡(luò)安全行業(yè)應(yīng)建立體系化思維,不僅是在企業(yè)內(nèi)部推廣建立協(xié)同高效的安全體系,全行業(yè)也需要建立更多通用、互認(rèn)、開源的標(biāo)準(zhǔn)規(guī)范和操作體系,實(shí)現(xiàn)產(chǎn)品互操作、數(shù)據(jù)共分享、安全同治理,提升全行業(yè)體系安全能力,真正助力數(shù)字經(jīng)濟(jì)發(fā)展。
相關(guān)稿件