自2023年起，被外界譽(yù)為“人工智能教父”的杰弗里?辛頓每年都會(huì)在公開(kāi)場(chǎng)合發(fā)出關(guān)于AI的警告。
那一年，他提醒人們，AI的發(fā)展將帶來(lái)越來(lái)越大的風(fēng)險(xiǎn)。
2024年，他聲稱(chēng)，AI將操控人類(lèi)。
2025年，他在上海舉辦的世界人工智能大會(huì)上，將人類(lèi)與AI的關(guān)系形容為“把小老虎當(dāng)寵物”――當(dāng)幼虎長(zhǎng)大后，很可能傷人。
近日，2025世界機(jī)器人大會(huì)在北京亦莊舉行，各類(lèi)機(jī)器人刮起運(yùn)動(dòng)旋風(fēng)。
如今，在AI帶來(lái)的蓬勃機(jī)遇面前，越來(lái)越多的人并非害怕技術(shù)本身，而是擔(dān)心自己無(wú)法掌握方向盤(pán)。
人工智能的發(fā)展正以難以預(yù)測(cè)的速度推進(jìn)，而治理機(jī)制和國(guó)際共識(shí)仍然滯后。
面對(duì)這場(chǎng)技術(shù)變革，中國(guó)正在給出自己的方案――不僅考慮如何發(fā)展，更著眼于如何在發(fā)展中確保安全、在競(jìng)爭(zhēng)中尋求合作。
其一是保證人工智能健康有序發(fā)展。
“不發(fā)展是最大的不安全。”幾周前的中國(guó)互聯(lián)網(wǎng)大會(huì)上，清華大學(xué)智能法治研究院院長(zhǎng)申衛(wèi)星的這句話(huà)，引起了業(yè)內(nèi)共鳴。
他認(rèn)為，當(dāng)前在人工智能領(lǐng)域，不能因?yàn)橹卫砘蛄⒎?，扼殺掉產(chǎn)業(yè)發(fā)展的機(jī)會(huì)?！暗斯ぶ悄芤泊_實(shí)必須保證健康有序發(fā)展，這個(gè)底線(xiàn)是應(yīng)該明確的?！?
業(yè)內(nèi)普遍認(rèn)為，人工智能領(lǐng)域的治理，應(yīng)在設(shè)定明確底線(xiàn)的前提下，為發(fā)展留出充足的空間。而鼓勵(lì)創(chuàng)新應(yīng)該作為人工智能治理的第一原則。
近期召開(kāi)的國(guó)務(wù)院常務(wù)會(huì)議明確指出，當(dāng)前人工智能技術(shù)加速迭代演進(jìn)，要深入實(shí)施“人工智能+”行動(dòng)，大力推進(jìn)人工智能規(guī)?；虡I(yè)化應(yīng)用，推動(dòng)人工智能在經(jīng)濟(jì)社會(huì)發(fā)展各領(lǐng)域加快普及、深度融合，形成以創(chuàng)新帶應(yīng)用、以應(yīng)用促創(chuàng)新的良性循環(huán)。
其二是加快形成多元協(xié)同治理格局。
治理的目標(biāo)不僅是防范風(fēng)險(xiǎn)，更要讓技術(shù)在可控范圍內(nèi)釋放最大價(jià)值。國(guó)務(wù)院常務(wù)會(huì)議提出，要提升安全能力水平，加快形成動(dòng)態(tài)敏捷、多元協(xié)同的人工智能治理格局。
中國(guó)社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任周輝對(duì)三里河表示，人工智能技術(shù)屬于顛覆性技術(shù)，在治理過(guò)程中，需要將一致性評(píng)估、合規(guī)性審查等引入人工智能監(jiān)管機(jī)制。同時(shí)，考慮到人工智能發(fā)展速度不斷加快，應(yīng)適應(yīng)性地構(gòu)建敏捷治理機(jī)制。
此外，由于人工智能技術(shù)在全球各領(lǐng)域都會(huì)產(chǎn)生深遠(yuǎn)影響，其發(fā)展和應(yīng)用帶來(lái)的風(fēng)險(xiǎn)與挑戰(zhàn)往往是跨越國(guó)界的，治理更需國(guó)際合作。對(duì)此，中國(guó)是倡導(dǎo)者也是積極實(shí)踐者。
中國(guó)工程院院士鄔賀銓在2025互聯(lián)網(wǎng)安全大會(huì)上指出，數(shù)字空間是人類(lèi)共同的新家園，人工智能與數(shù)字安全的挑戰(zhàn)是全球性的，單打獨(dú)斗無(wú)法應(yīng)對(duì)。
復(fù)旦大學(xué)中國(guó)研究院副研究員劉典認(rèn)為，中國(guó)應(yīng)摒棄個(gè)別國(guó)家的“小院高墻”政策，通過(guò)“一帶一路”等多雙邊框架，推動(dòng)AI技術(shù)務(wù)實(shí)合作。
中國(guó)社會(huì)科學(xué)院法學(xué)研究所教授姚佳表示，打造一個(gè)全方位、多層次、匯聚廣泛共識(shí)，具有包容性、平等性和多元性的人工智能治理框架，應(yīng)是各國(guó)未來(lái)合作的重要方向。
其三是讓技術(shù)解決技術(shù)的挑戰(zhàn)。
面對(duì)人工智能帶來(lái)的新挑戰(zhàn)，傳統(tǒng)、被動(dòng)、碎片化的安全防護(hù)已力不從心，亟須變革。
鄔賀銓曾多次表示，要?jiǎng)?chuàng)新升級(jí)數(shù)字安全防護(hù)體系，構(gòu)建AI驅(qū)動(dòng)的主動(dòng)免疫。
2025世界人工智能大會(huì)期間，辛頓呼吁人類(lèi)探索通用AI訓(xùn)練方法，使人工智能向善。
上海人工智能實(shí)驗(yàn)室主任周伯文指出，在面對(duì)長(zhǎng)期風(fēng)險(xiǎn)，特別是管理可能超越人類(lèi)智能的智能體時(shí)，要轉(zhuǎn)向“內(nèi)生安全”的新思路，即從“讓人工智能變得安全”(Make AI Safe)邁向“打造安全的人工智能”(Make Safe AI)。前者是后置性的安全補(bǔ)丁，缺乏敏捷性和韌性；后者則強(qiáng)調(diào)安全的內(nèi)生性和原生性。
人工智能的未來(lái)，并不只是關(guān)于算力的競(jìng)賽。更重要的是，誰(shuí)能在技術(shù)創(chuàng)新與規(guī)則之間找到平衡，誰(shuí)就有可能贏得真正的主動(dòng)。
中國(guó)正在給出的答案，是一條兼顧發(fā)展、治理與技術(shù)安全的道路。
