7月31日，ISC.AI 2024數(shù)字安全峰會(huì)在北京國(guó)家會(huì)中心順利召開(kāi)。峰會(huì)以“打造安全大模型，引領(lǐng)安全行業(yè)革命”為主題，呼吁行業(yè)以大模型重塑安全體系，守護(hù)數(shù)字經(jīng)濟(jì)穩(wěn)健發(fā)展。大會(huì)匯聚了多位院士專家，以及360、華為、微軟等國(guó)內(nèi)外企業(yè)領(lǐng)袖，深入剖析人工智能技術(shù)發(fā)展帶來(lái)的安全挑戰(zhàn)與解決方案，共同探索安全大模型驅(qū)動(dòng)數(shù)字安全發(fā)展新路徑。

人工智能安全問(wèn)題不容忽視

亟需產(chǎn)研攜手共探新解法

人工智能技術(shù)的廣泛應(yīng)用正推動(dòng)著各行各業(yè)轉(zhuǎn)型升級(jí)，同時(shí)為安全行業(yè)的發(fā)展注入了強(qiáng)勁動(dòng)力。中國(guó)工程院院士吳世忠在主題演講中，從生成式人工智能安全研究的總體態(tài)勢(shì)和技術(shù)熱點(diǎn)角度進(jìn)行了深入分析。他表示，由AI技術(shù)帶來(lái)的新型安全問(wèn)題已成為現(xiàn)實(shí)，安全行業(yè)將迅速邁進(jìn)AI驅(qū)動(dòng)的新時(shí)代。然而，大模型安全研究可以說(shuō)剛剛開(kāi)始。無(wú)論是安全研究還是安全產(chǎn)業(yè)，都必須緊跟科技進(jìn)步和應(yīng)用創(chuàng)新，才能服務(wù)好發(fā)展，保障好發(fā)展。

 “當(dāng)前，AI應(yīng)用系統(tǒng)安全責(zé)任與風(fēng)險(xiǎn)嚴(yán)重失衡”，中國(guó)工程院院士，國(guó)家數(shù)字交換系統(tǒng)工程技術(shù)研究中心(NDSC)主任鄔江興在主題演講中強(qiáng)調(diào)了當(dāng)前AI系統(tǒng)面臨的窘境。他提出，基于內(nèi)生安全架構(gòu)可發(fā)現(xiàn)或糾正AI應(yīng)用系統(tǒng)安全問(wèn)題，AI應(yīng)用系統(tǒng)中必須包含必要多樣性和相對(duì)正確公理的內(nèi)生安全構(gòu)造，在不可信的過(guò)程中找到相對(duì)可信的結(jié)果。智能時(shí)代需要選擇正確的技術(shù)路徑，實(shí)現(xiàn)更安全的AI應(yīng)用系統(tǒng)。

尋找“明星場(chǎng)景”

加速安全大模型實(shí)踐應(yīng)用

隨著人工智能技術(shù)的飛速發(fā)展，所有行業(yè)和產(chǎn)品都在被重塑，安全行業(yè)同樣面臨著一場(chǎng)革命。360集團(tuán)創(chuàng)始人，ISC大會(huì)主席周鴻祎在《打造安全大模型，引領(lǐng)安全行業(yè)革命》的主題演講中指出，用AI重塑安全的本質(zhì)是讓安全做到“自動(dòng)駕駛”，360首推安全大模型，對(duì)購(gòu)買(mǎi)360標(biāo)準(zhǔn)產(chǎn)品的用戶免費(fèi)提供大模型標(biāo)準(zhǔn)能力，實(shí)現(xiàn)大模型普惠和安全行業(yè)新質(zhì)生產(chǎn)力變革。

作為國(guó)內(nèi)唯一兼具數(shù)字安全能力和AI技術(shù)雙重優(yōu)勢(shì)的廠商，360基于深厚的全棧大模型底層技術(shù)、世界上規(guī)模最大的安全知識(shí)庫(kù)、亞洲最大的高級(jí)安全專家團(tuán)隊(duì)和多領(lǐng)域全覆蓋強(qiáng)實(shí)戰(zhàn)的安全場(chǎng)景能力，打造了國(guó)內(nèi)首個(gè)安全大模型“360安全大模型”，并在終端、安全運(yùn)營(yíng)、安全服務(wù)等諸多業(yè)務(wù)場(chǎng)景落地實(shí)踐。目前360全線安全產(chǎn)品已集成安全大模型能力，并對(duì)所有購(gòu)買(mǎi)360標(biāo)準(zhǔn)產(chǎn)品的用戶免費(fèi)提供大模型標(biāo)準(zhǔn)能力。

當(dāng)前，人工智能跨越式發(fā)展，技術(shù)創(chuàng)新加速迭代，業(yè)界主流模型從千億稠密到萬(wàn)億稀疏，并逐步走向百萬(wàn)級(jí)超長(zhǎng)序列和多模態(tài)。華為副總裁，ISP與互聯(lián)網(wǎng)系統(tǒng)部總裁岳坤在演講中表示，如何在智能時(shí)代的早期保證相應(yīng)的服務(wù)能力和服務(wù)水平，將是首批的智能應(yīng)用面臨的核心挑戰(zhàn)之一。他強(qiáng)調(diào)，提升安全水平是保障智能化服務(wù)能力和服務(wù)水平的關(guān)鍵，而原生是人工智能時(shí)代最大的安全。華為今年發(fā)布了昇騰原生計(jì)劃，將投入專項(xiàng)資金，以技術(shù)+商業(yè)驅(qū)動(dòng)生態(tài)繁榮，為客戶打造更加匹配場(chǎng)景需求的方案，加速AI模型的應(yīng)用。

平衡AI治理與賦能

共話“安全+AI”融合發(fā)展新路徑

隨著生成式人工智能驅(qū)動(dòng)AI發(fā)展進(jìn)入新階段，AI治理隨之也變成了一個(gè)突出問(wèn)題。先進(jìn)計(jì)算與關(guān)鍵軟件（信創(chuàng)）海河實(shí)驗(yàn)室主任，中國(guó)新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長(zhǎng)龔克在演講中指出，AI治理應(yīng)遵循有利發(fā)展、為人服務(wù)和基于倫理三點(diǎn)原則，要清楚認(rèn)識(shí)到技術(shù)自身的不足，以及人對(duì)于AI技術(shù)的惡用、濫用、誤用等風(fēng)險(xiǎn)。他強(qiáng)調(diào)，防止AI“作惡”要建立明確的倫理標(biāo)準(zhǔn)、提高透明度和問(wèn)責(zé)制、完善法律法規(guī)、內(nèi)置安全機(jī)制等。此外，要堅(jiān)持開(kāi)放創(chuàng)新，在信創(chuàng)基礎(chǔ)上發(fā)展安全可控的AI生態(tài)。

隨后，在由IDC中國(guó)副總裁鐘振山主持的“安全大模型引領(lǐng)數(shù)字安全新升級(jí)”圓桌對(duì)話上，教育部高等學(xué)校網(wǎng)絡(luò)空間安全專業(yè)教學(xué)指導(dǎo)委員會(huì)秘書(shū)長(zhǎng)封化民，360數(shù)字安全集團(tuán)副總裁余凱，統(tǒng)信軟件副總裁萬(wàn)慧星，微軟大中華區(qū)安全與合規(guī)業(yè)務(wù)產(chǎn)品市場(chǎng)負(fù)責(zé)人李亮，圍繞大模型技術(shù)對(duì)于安全行業(yè)的影響、大模型在安全領(lǐng)域應(yīng)用的主要優(yōu)勢(shì)和障礙以及小模型的應(yīng)用價(jià)值等話題，發(fā)表了各自觀點(diǎn)。

一直以來(lái)，ISC致力于搭建“政產(chǎn)學(xué)研用”的國(guó)際交流平臺(tái)。ISC.AI 2024數(shù)字安全峰會(huì)上，來(lái)自國(guó)內(nèi)外的專家學(xué)者和企業(yè)精英共同探討了安全與大模型技術(shù)融合的前沿議題，不僅為數(shù)字安全創(chuàng)新發(fā)展提供了寶貴的啟示，更推動(dòng)了數(shù)字安全技術(shù)的跨越式發(fā)展，引領(lǐng)我們邁向一個(gè)更加智能、安全、和諧的數(shù)字新時(shí)代。