人工智能技術(shù)正以前所未有的浪潮之勢(shì)，引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革，深度重塑經(jīng)濟(jì)社會(huì)發(fā)展格局。2025年8月，國(guó)務(wù)院發(fā)布《關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見(jiàn)》，系統(tǒng)推動(dòng)人工智能在全社會(huì)的普及應(yīng)用與深度融合，逐步形成“以創(chuàng)新帶應(yīng)用、以應(yīng)用促創(chuàng)新”的良性發(fā)展飛輪。技術(shù)躍遷釋放價(jià)值紅利的同時(shí)帶來(lái)風(fēng)險(xiǎn)挑戰(zhàn)，只有當(dāng)“安全內(nèi)核”嵌入“發(fā)展飛輪”，產(chǎn)業(yè)才能實(shí)現(xiàn)高質(zhì)量和可持續(xù)發(fā)展。
近日，中國(guó)信息通信研究院(簡(jiǎn)稱“中國(guó)信通院”)正式發(fā)布《人工智能安全治理研究報(bào)告(2025年)――推進(jìn)人工智能安全治理產(chǎn)業(yè)實(shí)踐框架》。
報(bào)告深入分析全球人工智能安全治理逐步邁向體系化、實(shí)操化趨勢(shì)，認(rèn)識(shí)到各主要經(jīng)濟(jì)體持續(xù)推進(jìn)治理框架落地，如何在產(chǎn)業(yè)層面構(gòu)建務(wù)實(shí)有效的安全治理舉措已成為各方關(guān)注的核心議題。本報(bào)告立足本土產(chǎn)業(yè)實(shí)踐，深入剖析當(dāng)前面臨的安全治理挑戰(zhàn)，提出“兩橫三縱”的人工智能安全治理產(chǎn)業(yè)實(shí)踐框架，旨在為產(chǎn)業(yè)提供一套系統(tǒng)性、可落地、動(dòng)態(tài)化的安全治理體系，推動(dòng)人工智能釋放更大動(dòng)能。
報(bào)告核心觀點(diǎn)
1.人工智能技術(shù)發(fā)展帶來(lái)風(fēng)險(xiǎn)態(tài)勢(shì)不斷演化，需樹(shù)立動(dòng)態(tài)的安全觀。人工智能技術(shù)應(yīng)用的安全風(fēng)險(xiǎn)突破了傳統(tǒng)安全邊界帶來(lái)新態(tài)勢(shì)：一是風(fēng)險(xiǎn)形態(tài)演變快，補(bǔ)丁式防護(hù)思路難適用；二是風(fēng)險(xiǎn)識(shí)別難度高，應(yīng)用場(chǎng)景風(fēng)險(xiǎn)指標(biāo)難量化；三是模型能力進(jìn)展快，對(duì)抗已知漏洞邁向應(yīng)對(duì)未知風(fēng)險(xiǎn)。由于人工智能技術(shù)和應(yīng)用具有不可預(yù)見(jiàn)性，當(dāng)前人類對(duì)于人工智能安全風(fēng)險(xiǎn)認(rèn)知存在局限性，需要建立動(dòng)態(tài)演化的人工智能安全觀。
2.全球各方多措并舉推進(jìn)人工智能安全治理務(wù)實(shí)行動(dòng)。國(guó)際合作層面，全球加強(qiáng)安全治理深化交流，聯(lián)合國(guó)、國(guó)際電信聯(lián)盟等主要國(guó)際組織加速推進(jìn)治理規(guī)則完善，多國(guó)協(xié)同推進(jìn)全球安全治理實(shí)踐，產(chǎn)業(yè)界、學(xué)術(shù)界積極開(kāi)展對(duì)話交流凝聚治理共識(shí)。監(jiān)管政策層面，各國(guó)推動(dòng)安全治理體系化落地，各主要經(jīng)濟(jì)體實(shí)施差異化監(jiān)管方案，配套建立治理平臺(tái)，開(kāi)展治理行動(dòng)，推動(dòng)形成治理實(shí)效。產(chǎn)業(yè)實(shí)踐層面，構(gòu)建安全治理務(wù)實(shí)舉措成為核心議題，通過(guò)形成自律共識(shí)、開(kāi)展測(cè)試評(píng)估、建立互通渠道等，形成保障產(chǎn)業(yè)發(fā)展的良性生態(tài)。
3.人工智能產(chǎn)業(yè)面臨技術(shù)、應(yīng)用、管理、協(xié)同共治的多重挑戰(zhàn)。一是技術(shù)發(fā)展擴(kuò)大內(nèi)生安全新敞口。模型固有特性誘發(fā)安全可控復(fù)雜難題，內(nèi)生安全形勢(shì)愈發(fā)嚴(yán)峻。與傳統(tǒng)網(wǎng)絡(luò)安全相比，人工智能安全攻防非對(duì)稱性加劇，技術(shù)安全凸顯“易攻難守”新形勢(shì)。二是應(yīng)用延展引發(fā)衍生安全新難題。模型應(yīng)用既帶來(lái)應(yīng)用形態(tài)迭代、開(kāi)源生態(tài)濫用、軟件供應(yīng)鏈漏洞等外部性安全難題，也引發(fā)個(gè)人、群體、社會(huì)多層面次生風(fēng)險(xiǎn)傳導(dǎo)放大。三是組織管理體系構(gòu)建面臨新卡點(diǎn)。人工智能技術(shù)的黑箱屬性、應(yīng)用的不確定性和產(chǎn)業(yè)鏈條的多樣性愈發(fā)凸顯，給人工智能模型研發(fā)、系統(tǒng)部署、應(yīng)用運(yùn)行等不同組織主體以及同時(shí)擁有多重身份的組織主體帶來(lái)管理挑戰(zhàn)。四是多元共治協(xié)同機(jī)制尚待健全完善。當(dāng)前行業(yè)在核心治理環(huán)節(jié)普遍存在共建合力不足的問(wèn)題，統(tǒng)一標(biāo)準(zhǔn)尚未形成、協(xié)同機(jī)制仍需完善。
4.報(bào)告提出“兩橫三縱”的人工智能安全治理產(chǎn)業(yè)實(shí)踐框架。面對(duì)人工智能內(nèi)生安全與應(yīng)用風(fēng)險(xiǎn)交織泛化的復(fù)雜挑戰(zhàn)，傳統(tǒng)單點(diǎn)、靜態(tài)的防護(hù)體系已難以為繼，產(chǎn)業(yè)界亟需一個(gè)系統(tǒng)性的安全治理落實(shí)框架。為此，報(bào)告立足本土產(chǎn)業(yè)實(shí)踐，提出“兩橫三縱”的人工智能安全治理產(chǎn)業(yè)實(shí)踐框架。企業(yè)內(nèi)部層面，人工智能管理體系建設(shè)應(yīng)結(jié)合技術(shù)發(fā)展態(tài)勢(shì)，深度融合“管理層”的制度牽引作用與“技術(shù)層”的能力支撐作用，聚焦實(shí)際應(yīng)用場(chǎng)景的應(yīng)用風(fēng)險(xiǎn)，建立覆蓋人工智能系統(tǒng)全生命周期的動(dòng)態(tài)安全合規(guī)和風(fēng)險(xiǎn)管理方案，系統(tǒng)構(gòu)建“開(kāi)發(fā)側(cè)”“部署側(cè)”與“應(yīng)用側(cè)”安全關(guān)，實(shí)現(xiàn)從模型研發(fā)、系統(tǒng)部署到場(chǎng)景應(yīng)用的全鏈條防護(hù)。此外，產(chǎn)業(yè)界需加強(qiáng)多元共治，將分散的治理努力匯聚成強(qiáng)大的系統(tǒng)屏障。
5.多領(lǐng)域勾勒人工智能安全治理從原則框架走向行業(yè)縱深實(shí)施的清晰路徑。金融行業(yè)探索構(gòu)建基于智能程度與金融場(chǎng)景的分級(jí)管控體系，通過(guò)安全護(hù)欄、算法修正與本地化部署，筑牢風(fēng)險(xiǎn)防線。醫(yī)療行業(yè)積極應(yīng)對(duì)模型幻覺(jué)等核心挑戰(zhàn)，通過(guò)構(gòu)建高價(jià)值應(yīng)用、高知識(shí)密度、高技術(shù)含量數(shù)據(jù)集，保障輸出的準(zhǔn)確性與安全性。交通行業(yè)聚焦智能座艙與自動(dòng)駕駛，積極探索端到端安全測(cè)試與仿真驗(yàn)證體系。能源行業(yè)在關(guān)鍵領(lǐng)域推動(dòng)人工智能安全內(nèi)生設(shè)計(jì)理念落地，推行“可解釋AI+專家規(guī)則”雙校驗(yàn)機(jī)制，確保工業(yè)級(jí)可靠。通信行業(yè)創(chuàng)新實(shí)踐“以技治技”，通過(guò)大小模型協(xié)同、安全知識(shí)賦能與全生命周期管控，構(gòu)建主動(dòng)防御體系。
