記者從在北京召開的2024全球數(shù)字經(jīng)濟(jì)大會(huì)數(shù)字安全高層論壇暨北京網(wǎng)絡(luò)安全大會(huì)產(chǎn)業(yè)峰會(huì)（以下簡稱“BCS產(chǎn)業(yè)峰會(huì)”）上獲悉，人工智能極大提升了工作學(xué)習(xí)效率，但也帶來風(fēng)險(xiǎn)和監(jiān)管問題。人工智能和機(jī)器學(xué)習(xí)越來越多地應(yīng)用于威脅檢測、自動(dòng)化響應(yīng)、預(yù)測分析等網(wǎng)絡(luò)安全防護(hù)工作。要更加重視人工智能安全防御技術(shù)創(chuàng)新，筑牢智能時(shí)代網(wǎng)絡(luò)安全基石。

　　聯(lián)合國副秘書長李軍華

　　聯(lián)合國副秘書長李軍華在開幕致辭中說，“不斷發(fā)展的數(shù)字世界是一個(gè)矛盾體?！卑査颉鯛枴だ章榷辔粚＜椰F(xiàn)場分享了智能時(shí)代網(wǎng)絡(luò)安全威脅的種類以及典型的網(wǎng)絡(luò)攻擊方式，介紹了當(dāng)前利用人工智能助力網(wǎng)絡(luò)安全躍升的前沿研究和實(shí)踐，為構(gòu)建更加安全穩(wěn)固的數(shù)字安全體系建言獻(xiàn)策。

　　開幕式上，全國工商聯(lián)網(wǎng)絡(luò)與數(shù)據(jù)安全委員會(huì)召集奇安信集團(tuán)、聯(lián)想集團(tuán)、中科曙光、中興通訊、中國軟件、長城科技、神州信息、東軟集團(tuán)、東華軟件、瀾起科技、軟通動(dòng)力、中國電子云等60家數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)鏈領(lǐng)軍企業(yè)，共同發(fā)起《打造“人工智能+安全”新質(zhì)生產(chǎn)力》倡議，呼吁社會(huì)各界攜手合作，凝聚各方智慧和力量，推動(dòng)人工智能與安全的深度融合，為中國數(shù)字經(jīng)濟(jì)保駕護(hù)航。
　　AI助力實(shí)現(xiàn)四大躍升
　　2024年政府工作報(bào)告明確，開展“人工智能+”行動(dòng)。在BCS產(chǎn)業(yè)峰會(huì)上，演講嘉賓們認(rèn)為，人工智能有利于筑牢可信可控的數(shù)字安全屏障，至少能夠助力網(wǎng)絡(luò)安全實(shí)現(xiàn)四大能力躍升。
　　第一，網(wǎng)絡(luò)威脅發(fā)現(xiàn)能力躍升。通過應(yīng)用人工智能，可以提升威脅判定的準(zhǔn)確度，從海量噪聲中快速、準(zhǔn)確地洞察和判定真正的風(fēng)險(xiǎn)。據(jù)吳云坤透露，1個(gè)安全大模型處理安全告警的能力相當(dāng)于50～60個(gè)網(wǎng)絡(luò)安全工程人員。
　　利用大模型進(jìn)行威脅研判已投入多個(gè)應(yīng)用場景。據(jù)苗守野透露，中國聯(lián)通基于元景大模型體系，實(shí)現(xiàn)檢測+分析+運(yùn)營的端到端網(wǎng)絡(luò)安全能力智能化升級，大模型智能研判平均時(shí)間達(dá)到秒級，研判準(zhǔn)確性達(dá)到95%以上，有效助力基礎(chǔ)網(wǎng)絡(luò)安全底座的智能化變革。

　　中國聯(lián)通集團(tuán)網(wǎng)絡(luò)與信息安全部總經(jīng)理苗守野

　　第二，病毒檢測效率和精度躍升。人工智能可以增強(qiáng)識(shí)別準(zhǔn)確度和研判效率，幫助快速準(zhǔn)確地從海量樣本中識(shí)別出真正的惡意樣本和病毒。吳云坤說，奇安信利用人工智能病毒引擎QDE對132萬多個(gè)樣本的檢測結(jié)果顯示，QDE的檢出率為97.9%，比傳統(tǒng)病毒引擎高出4.13%，誤報(bào)率僅0.009%，遠(yuǎn)低于傳統(tǒng)引擎誤報(bào)率0.04%。

　　奇安信集團(tuán)總裁吳云坤

　　第三，安全運(yùn)營能力提質(zhì)躍升。人工智能可以替代人工，解放安全專家，突破網(wǎng)絡(luò)安全的人力資源邊界，大幅度提升運(yùn)營能力。吳云坤講到，安全專家每天能夠研判約480條信息，安全機(jī)器人每天能夠智能研判30240條信息，“從這個(gè)角度看，一臺(tái)機(jī)器人相當(dāng)于60位安全專家”。
　　第四，攻防實(shí)戰(zhàn)水平躍升。網(wǎng)絡(luò)安全領(lǐng)域的創(chuàng)新核心是使用新技術(shù)實(shí)現(xiàn)網(wǎng)絡(luò)空間安全檢測、分析、研判、指揮、響應(yīng)、處置形成閉環(huán)，并不斷提升攻擊方和防守方的實(shí)戰(zhàn)水平和工作效率。在吳云坤看來，人工智能能有效的縮短閉環(huán)時(shí)間，AI加持攻守雙方完成閉環(huán)后，可以實(shí)現(xiàn)知識(shí)經(jīng)驗(yàn)再積累，持續(xù)提升作戰(zhàn)水平。
　　AI成為安全領(lǐng)域創(chuàng)新熱點(diǎn)
　　“AI驅(qū)動(dòng)安全已經(jīng)成為網(wǎng)絡(luò)安全領(lǐng)域的重要?jiǎng)?chuàng)新熱點(diǎn)?！?吳云坤舉例說，上個(gè)月在美國舉行的全球最大網(wǎng)絡(luò)安全年度大會(huì)（RSAC 2024）發(fā)布的新產(chǎn)品中，60%與AI相關(guān)，其中創(chuàng)新沙盒十強(qiáng)中有7家是AI方向；我國2024安全創(chuàng)客匯40強(qiáng)的10個(gè)創(chuàng)新賽道中，AI安全排在第二位。
　　與此同時(shí)，傳統(tǒng)網(wǎng)絡(luò)安全行業(yè)也正在快速轉(zhuǎn)型，加快擁抱AI。一些綜合性大型安全企業(yè)通過收購、自我研發(fā)或生態(tài)建設(shè)補(bǔ)齊短板，用AI不斷發(fā)展完善產(chǎn)品和服務(wù)體系，加速建立對抗威脅的閉環(huán)，提升安全事件處置的能力和效率。例如，Crowdstrike在推出Charlotte AI之后，把過去分布在不同終端的所有數(shù)據(jù)整合進(jìn)AI網(wǎng)絡(luò)安全分析工具Charlotte AI，將安全事件響應(yīng)時(shí)間從過去的8小時(shí)縮短為幾分鐘。
　　國內(nèi)頭部科技企業(yè)已在同步推進(jìn)AI在網(wǎng)絡(luò)安全領(lǐng)域落地生根。作為網(wǎng)絡(luò)安全原創(chuàng)技術(shù)策源地總體單位，奇安信以科技創(chuàng)新推動(dòng)產(chǎn)業(yè)創(chuàng)新，于今年3月對外正式發(fā)售了“AI驅(qū)動(dòng)安全”的代表性產(chǎn)品：QAX-GPT安全機(jī)器人。QAX-GPT安全機(jī)器人對真實(shí)網(wǎng)絡(luò)風(fēng)險(xiǎn)事件研判準(zhǔn)確率達(dá)到100%，可以消除80%以上無效告警，助力企業(yè)網(wǎng)絡(luò)安全運(yùn)營效率提升逾60倍。
　　BCS產(chǎn)業(yè)峰會(huì)嘉賓一致認(rèn)為，國家相關(guān)政策正在進(jìn)一步推動(dòng)AI在網(wǎng)絡(luò)安全產(chǎn)業(yè)加速布局。
　　“數(shù)據(jù)是人工智能三要素之一，人工智能模型的訓(xùn)練需要大量且高質(zhì)量的數(shù)據(jù)。”蔣楠說，發(fā)展人工智能，需要更加注重?cái)?shù)據(jù)的收集、清洗、標(biāo)注和存儲(chǔ)，以確保模型訓(xùn)練的有效性和科學(xué)性。當(dāng)前，國家發(fā)力促進(jìn)數(shù)據(jù)要素流通，通過流通實(shí)現(xiàn)數(shù)據(jù)價(jià)值，將支撐包括網(wǎng)絡(luò)安全在內(nèi)的人工智能新應(yīng)用快速發(fā)展。

　　中石化集團(tuán)信息和數(shù)字化管理部副總經(jīng)理蔣楠

　　AI時(shí)代呼喚體系安全
　　在BCS產(chǎn)業(yè)峰會(huì)上，與會(huì)嘉賓們提醒，目前的網(wǎng)絡(luò)攻擊者不僅利用人工智能技術(shù)編寫程序、制造病毒、發(fā)起飽和式攻擊，也在針對人工智能防護(hù)模型本身的弱點(diǎn)進(jìn)行“投毒”或“滲透”。與會(huì)專家建議，AI時(shí)代的網(wǎng)絡(luò)安全防護(hù)同樣需要突破單點(diǎn)思維，推進(jìn)體系建設(shè)。
　　一方面，網(wǎng)絡(luò)攻擊開始面向AI“對癥下藥”。蔣楠舉例說，攻擊者可能進(jìn)行藥餌攻擊，即針對AI收集日常運(yùn)營數(shù)據(jù)自我學(xué)習(xí)訓(xùn)練以檢測出新的攻擊這一特性，攻擊者注入精心設(shè)計(jì)的數(shù)據(jù)樣本（即藥餌），使訓(xùn)練數(shù)據(jù)被污染，給AI“洗腦”，最終危及整個(gè)系統(tǒng)的正常功能。
　　要更加重視人工智能安全防御技術(shù)創(chuàng)新。具體而言，在AI系統(tǒng)收集數(shù)據(jù)、訓(xùn)練模型階段，可以采用網(wǎng)絡(luò)蒸餾、對抗訓(xùn)練、對抗樣本檢測、輸入重構(gòu)、模型剪枝等多種防御性技術(shù)，以防止針對AI的數(shù)據(jù)投毒式攻擊。
　　當(dāng)前國內(nèi)網(wǎng)絡(luò)安全防護(hù)還沒有真正普及體系化建設(shè)。例如，國內(nèi)安全設(shè)備和產(chǎn)品的互操作性標(biāo)準(zhǔn)和規(guī)范一度長期缺位，不同網(wǎng)絡(luò)安全廠商各自為戰(zhàn)，無法形成協(xié)同效應(yīng)，無法真正落實(shí)“AI驅(qū)動(dòng)安全”帶來的威脅檢測能力和安全運(yùn)營能力提升
　　“AI是知識(shí)工程，需要多維數(shù)據(jù)、多維場景，綜合性廠商比單點(diǎn)技術(shù)廠商更具優(yōu)勢?！眳窃评ふJ(rèn)為，綜合性廠商基于內(nèi)生安全建立體系，使單點(diǎn)技術(shù)通過體系協(xié)同在對抗威脅時(shí)發(fā)揮最大效能。
　　與會(huì)專家們呼吁，網(wǎng)絡(luò)安全行業(yè)應(yīng)建立體系化思維，不僅是在企業(yè)內(nèi)部推廣建立協(xié)同高效的安全體系，全行業(yè)也需要建立更多通用、互認(rèn)、開源的標(biāo)準(zhǔn)規(guī)范和操作體系，實(shí)現(xiàn)產(chǎn)品互操作、數(shù)據(jù)共分享、安全同治理，提升全行業(yè)體系安全能力，真正助力數(shù)字經(jīng)濟(jì)發(fā)展。