隨著人工智能的爆發(fā)式增長，對可信品質的關注度也提升到了前所未有的高度，各界均在不斷探索將更多的可信理念從基礎能力、算法技術、應用場景和產(chǎn)品設備等不同層面進行融合實踐，人工智能可信賴程度逐步提升。
2022年9月1-3日，世界人工智能大會于上海舉辦。在9月1日舉辦的可信AI論壇上，中國信息通信研究院聯(lián)合京東探索研究院等近30家政產(chǎn)學研單位共同發(fā)布《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報告（2022年）》。
報告對人工智能產(chǎn)業(yè)融合可信要素的發(fā)展態(tài)勢進行總體分析，研判發(fā)展趨勢并提出措施建議，希望能為社會各界提供借鑒和參考，助力可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展。
報告主要觀點
政策發(fā)布上，全球持續(xù)探索人工智能立法，推動可信人工智能范式法制化。自2021年以來，從歐盟發(fā)布人工智能領域的第一份綜合性法案《人工智能法案》，到美國推出《2022算法問責法案》，再到中國深圳、上海等各地方相繼推動人工智能立法條例。各國針對人工智能算法的監(jiān)測、人工智能應用的審查的相關監(jiān)管法規(guī)不斷增加，人工智能治理已進入建章立制階段。
技術研究上，提升人工智能系統(tǒng)穩(wěn)定性、隱私保護技術占據(jù)可信人工智能技術研究主流，可解釋性、公平性等技術研究緊隨其后。當前以對抗訓練、梯度屏蔽為代表的人工智能系統(tǒng)穩(wěn)定性技術穩(wěn)步發(fā)展；以同態(tài)加密、多方安全計算、差分隱私等為代表的隱私安全技術發(fā)展迅速；可解釋性增強技術研究當前仍處于初期階段，科技巨頭推出多個AI可解釋性工具及服務；提升人工智能公平性主流方法為通過構建完整異構數(shù)據(jù)集及引入公平?jīng)Q策量化指標算法，以減輕決策偏差。
標準研制上，行業(yè)組織成為可信人工智能標準重要推進者，涵蓋多個可信人工智能領域。國際標準化組織和國際電工委員ISO/IEC布局最早，涉及AI系統(tǒng)偏差、風險管理、AI系統(tǒng)質量模型、神經(jīng)網(wǎng)絡魯棒性等；電氣和電子工程師協(xié)會（IEEE）主要以隱私、可解釋為突破點；中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟牽頭制定了《可信AI操作指引》和《可信AI示范區(qū)管理辦法》，開展可信AI測試工具征集和可信AI試評估等落地實踐。
產(chǎn)業(yè)生態(tài)上，倫理、法律研究進一步深入，在硬件、技術、應用及支撐體系等層面蓬勃發(fā)展，形成兼顧穩(wěn)定性、可解釋性、隱私保護和公平性，涵蓋基礎硬件、技術平臺、產(chǎn)品設備、應用場景等多元化產(chǎn)業(yè)生態(tài)。其中，基礎能力方面為可信AI提供可信能力、數(shù)據(jù)安全、平臺系統(tǒng)等服務。理論與技術方面主要圍繞計算機視覺、自然語言處理、智能語音等垂直領域，在隱私保護、數(shù)據(jù)標注、精準識別、噪聲處理等方面不斷提升算法公平性、穩(wěn)定性與可解釋性水平，有效賦能各類產(chǎn)業(yè)應用。產(chǎn)品與設備方面目前已逐步滲透至機器人、汽車、醫(yī)療器械、
智能終端、AR/VR設備等領域，以“安全專網(wǎng)”“地圖引擎”“終端感知”等形式打造兼具穩(wěn)定性、合規(guī)性、可解釋性等特征的功能體系。應用場景方面目前已涌現(xiàn)出面向隱私安全保護、風險識別與控制、數(shù)據(jù)傳輸與共享等領域的諸多案例，并已在金融、醫(yī)藥、教育、制造等環(huán)節(jié)深入開展商業(yè)化應用，加速全產(chǎn)業(yè)鏈的可信生態(tài)形成。標準測試與咨詢設計方面目前已形成較為完善的可信AI標準與評測體系，覆蓋國際、國內、行業(yè)、團體標準四大類，并且在可信人工智能總體框架、可解釋AI發(fā)展與實踐等領域陸續(xù)發(fā)布了一系列研究成果。
