當(dāng)前，全球人工智能（AI）正在加速發(fā)展，成為推動(dòng)新一輪科技革命和產(chǎn)業(yè)變革的關(guān)鍵力量。人工智能技術(shù)的革命性突破既帶來(lái)極大便利，也引發(fā)一系列新問(wèn)題新風(fēng)險(xiǎn)，給現(xiàn)有國(guó)家治理體系帶來(lái)極大挑戰(zhàn)。
2024年被廣泛認(rèn)為是人工智能的元年，人工智能的研究與應(yīng)用如雨后春筍般涌現(xiàn)，與之伴隨的是全球正加快推進(jìn)人工智能監(jiān)管。
發(fā)展十分迅速
2024年人工智能的新技術(shù)不斷突破、新業(yè)態(tài)持續(xù)涌現(xiàn)、新應(yīng)用加快拓展，已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量。
在醫(yī)療領(lǐng)域，人工智能開(kāi)始參與“聽(tīng)診”與“問(wèn)診”，提前收集患者癥狀，形成初步病歷，協(xié)助完成初步診斷建議和分析，推薦治療方案。
在藝術(shù)創(chuàng)作領(lǐng)域，人工智能作為創(chuàng)作工具，打破了藝術(shù)創(chuàng)作的單一性與局限性，賦予了創(chuàng)作過(guò)程更高的自由度與無(wú)限可能性。從音樂(lè)、繪畫(huà)到電影，不同門(mén)類的藝術(shù)家紛紛開(kāi)始學(xué)習(xí)和利用人工智能進(jìn)行藝術(shù)探索。在音樂(lè)方面，前不久，人工智能音樂(lè)平臺(tái)Suno發(fā)布的V4版本再度引發(fā)關(guān)注與討論，用戶可以一鍵生成音質(zhì)更高、時(shí)長(zhǎng)更長(zhǎng)的音樂(lè)，創(chuàng)作出具有獨(dú)特風(fēng)格的音樂(lè)作品。在影視方面，今年年初，OpenAI發(fā)布文生視頻模型Sora，用戶能夠生成分辨率最高達(dá)1080p、時(shí)長(zhǎng)最長(zhǎng)達(dá)20秒，且具有寬屏、豎屏或方形寬高比的視頻。
在文化領(lǐng)域，虛實(shí)結(jié)合的人工智能技術(shù)，可以讓人瞬間穿越千年。裸眼3D、全息投影、VR虛擬、體感互動(dòng)……時(shí)間和空間的限制被相繼打破，為文化的交流與傳播帶來(lái)了無(wú)限驚喜。比如，國(guó)家自然博物館打造的數(shù)字人及AR導(dǎo)覽項(xiàng)目，游客通過(guò)手機(jī)、平板或VR眼鏡等進(jìn)入互動(dòng)界面，可以選擇路線、數(shù)字領(lǐng)航員開(kāi)啟探索之旅，除了常規(guī)展品，還可以看到AR特效展品。
在日常生活中，人工智能應(yīng)用更是隨處可見(jiàn)，
智能家居、導(dǎo)航等領(lǐng)域均有運(yùn)用。
面臨新的課題
與此同時(shí)，隨著生成式人工智能的快速發(fā)展，其在法律、安全、就業(yè)、道德倫理等方面也面臨著一系列新課題。
2024年初，大量由人工智能生成的泰勒虛假色情、血腥照片在多個(gè)社交平臺(tái)瘋傳，瀏覽量超過(guò)千萬(wàn)，引發(fā)社交媒體震動(dòng)。實(shí)際上這不是泰勒第一次成為人工智能“深度偽造”的受害者。就在不久前，有人使用人工智能技術(shù)仿造了她的聲音和形象來(lái)為商品進(jìn)行推廣，讓消費(fèi)者誤以為這是泰勒代言的商品。
而在韓國(guó)，隨著人工智能技術(shù)的不斷發(fā)展，使用“深偽”技術(shù)制作虛假視頻更加方便。據(jù)韓國(guó)媒體報(bào)道，把女性面部合成到不雅視頻中并大肆傳播的“深度偽造性犯罪”，已在韓國(guó)女性中引起極大恐慌。
不僅如此，生成式人工智能也存在損害數(shù)據(jù)隱私、侵犯版權(quán)等方面的隱憂。人工智能科技公司數(shù)據(jù)采集過(guò)程的合法合規(guī)問(wèn)題突出。
美國(guó)知名作家尼古拉斯?巴斯貝恩和尼古拉斯?蓋奇向紐約曼哈頓聯(lián)邦地區(qū)法院提起集體訴訟，指控美國(guó)微軟公司和美國(guó)人工智能公司“開(kāi)放人工智能研究中心”（OpenAI）侵犯了他們以及其他作家的版權(quán)。他們?cè)谠V訟中稱，微軟和OpenAI使用他們書(shū)中的信息來(lái)訓(xùn)練包括聊天機(jī)器人ChatGPT在內(nèi)的人工智能產(chǎn)品，這兩家公司的行為構(gòu)成“對(duì)版權(quán)作品的惡意大規(guī)模竊取”。訴訟稱，微軟和OpenAI既沒(méi)有獲得許可，也沒(méi)有給予賠償，“竊取”作家們的作品，用于建立價(jià)值數(shù)十億美元的商業(yè)，這是令人無(wú)法容忍的。
今年中國(guó)廣州互聯(lián)網(wǎng)法院作出判決的全球AIGC侵權(quán)第一案，北京互聯(lián)網(wǎng)法院審理的國(guó)內(nèi)首例“AI文生圖”著作權(quán)的侵權(quán)案以及前不久全國(guó)首例人工智能生成聲音人格權(quán)侵權(quán)案，這些案件都在生成式人工智能領(lǐng)域、知識(shí)產(chǎn)權(quán)以及傳統(tǒng)意義上的人身權(quán)等問(wèn)題產(chǎn)生了緊密的關(guān)聯(lián)。
監(jiān)管勢(shì)在必行
生成式人工智能如此迅猛的發(fā)展帶來(lái)新技術(shù)突破和產(chǎn)業(yè)變革的同時(shí)，其引發(fā)的安全風(fēng)險(xiǎn)也對(duì)監(jiān)管和治理提出新要求。這一年，世界范圍內(nèi)，各主要經(jīng)濟(jì)體醞釀多年的人工智能立法實(shí)踐陸續(xù)進(jìn)入成熟期。
5月21日，歐盟理事會(huì)正式批準(zhǔn)《人工智能法案》。外界普遍認(rèn)為，作為全球首部全面的人工智能法規(guī)，《人工智能法案》實(shí)施后將對(duì)全球人工智能產(chǎn)業(yè)鏈產(chǎn)生深遠(yuǎn)影響?？傮w上，《人工智能法案》在適用范圍、人工智能系統(tǒng)風(fēng)險(xiǎn)分級(jí)管理、通用人工智能模型管理、執(zhí)法與處罰等方面，為整個(gè)人工智能產(chǎn)業(yè)鏈上的相關(guān)方提供了一個(gè)合規(guī)義務(wù)框架。
英國(guó)科學(xué)、創(chuàng)新和技術(shù)部于2月向英國(guó)議會(huì)提交《人工智能監(jiān)管的創(chuàng)新方法：政府的回應(yīng)》，明確其目標(biāo)是成為人工智能安全開(kāi)發(fā)和部署的全球領(lǐng)導(dǎo)者。7月11日，美國(guó)國(guó)會(huì)通過(guò)《內(nèi)容來(lái)源保護(hù)和防止編輯和深度偽造媒體完整性法案》，旨在解決人工智能生成內(nèi)容的“深度偽造”泛濫問(wèn)題。法案正在等待總統(tǒng)簽署成為正式法律，尚未正式生效，但已經(jīng)獲得多方支持。法國(guó)數(shù)據(jù)監(jiān)管機(jī)構(gòu)法國(guó)國(guó)家信息與自由委員會(huì)7月12日發(fā)布首批關(guān)于人工智能系統(tǒng)發(fā)展的建議，詳細(xì)說(shuō)明歐盟《人工智能法案》與《通用數(shù)據(jù)保護(hù)條例》如何相互作用。
作為負(fù)責(zé)任的人工智能大國(guó)，中國(guó)在大力推進(jìn)人工智能創(chuàng)新發(fā)展的同時(shí)，積極致力于為國(guó)際社會(huì)提供更多公共產(chǎn)品，以開(kāi)放姿態(tài)開(kāi)展人工智能國(guó)際交流合作，為全球人工智能發(fā)展和治理作出積極探索，貢獻(xiàn)了建設(shè)性思路和方案。
7月，2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議在中國(guó)上海舉辦。會(huì)議通過(guò)的《人工智能全球治理上海宣言》倡導(dǎo)建立全球范圍內(nèi)的人工智能治理機(jī)制，支持聯(lián)合國(guó)發(fā)揮主渠道作用，歡迎加強(qiáng)南北合作和南南合作，提升發(fā)展中國(guó)家的代表性和發(fā)言權(quán)；鼓勵(lì)國(guó)際組織、企業(yè)、研究機(jī)構(gòu)、社會(huì)組織和個(gè)人等多元主體積極發(fā)揮與自身角色相匹配的作用，參與人工智能治理體系的構(gòu)建和實(shí)施。
此外，中國(guó)和美國(guó)、法國(guó)等建立高層級(jí)對(duì)話機(jī)制。2024年5月，中美人工智能政府間對(duì)話首次會(huì)議成功舉行。2024年5月7日，中法兩國(guó)發(fā)布《中華人民共和國(guó)和法蘭西共和國(guó)關(guān)于人工智能和全球治理的聯(lián)合聲明》。在今年召開(kāi)的第78屆聯(lián)合國(guó)大會(huì)上，143個(gè)聯(lián)合國(guó)會(huì)員國(guó)以協(xié)商一致方式通過(guò)了中方主提的“加強(qiáng)人工智能能力建設(shè)國(guó)際合作”決議。這是全球首個(gè)聚焦人工智能能力建設(shè)的共識(shí)性文件。
有分析指出，2024年全球人工智能治理的發(fā)展場(chǎng)景，展示了各國(guó)在應(yīng)對(duì)技術(shù)進(jìn)步與倫理挑戰(zhàn)的共同努力。隨著善用人工智能系統(tǒng)的共識(shí)不斷擴(kuò)大，社會(huì)各界需繼續(xù)推進(jìn)相關(guān)法律法規(guī)的制定。
