可信AI由理論研究邁向工程化落地。隨著人工智能技術(shù)的快速發(fā)展，社會各界對可信AI研究已經(jīng)從理論探索逐步走向工程化落地實踐。政府與研究機構(gòu)相關(guān)政策和規(guī)范從宏觀指導(dǎo)，開始向可操作、可落地的規(guī)范演進。在法律監(jiān)管層面，各政府部門的法規(guī)政策愈發(fā)重視實施和操作。例如新加坡于5月出臺世界首個AI治理測試框架及工具包；英國6月宣布首個人工智能倫理和監(jiān)管的重大研究計劃。
在行業(yè)可信實踐層面，各國研究機構(gòu)紛紛開展可信AI技術(shù)研究及標準制定工作，為業(yè)界提供評估準則并聚焦準入落地。如英國BSI與艾倫圖靈實驗室合作開發(fā)技術(shù)標準改善人工智能治理，美國NIST發(fā)布《人工智能偏差識別和管理標準》和《AI風(fēng)險管理框架(草案)》，為企業(yè)和機構(gòu)的AI風(fēng)險管理提供了大量可參考的要求和指導(dǎo)。
在企業(yè)可信實踐層面，產(chǎn)業(yè)界從企業(yè)戰(zhàn)略管理和技術(shù)工具研發(fā)創(chuàng)新雙線并進，加速了可信AI在企業(yè)的落地實踐。如頭部科技企業(yè)先后發(fā)布了AI治理戰(zhàn)略和治理體系，成立了相關(guān)委員會和工作組，聚焦企業(yè)層面的AI治理和風(fēng)險管理體系。同時可信AI技術(shù)和保障工具也在蓬勃發(fā)展，各大企業(yè)積極研發(fā)可信產(chǎn)品應(yīng)用，也開源了一批聚焦隱私性、魯棒性、安全性、可解釋性、公平性等可信能力的測試工具。
全球人工智能市場收支規(guī)模達850廳美元,預(yù)測,2022年該市場規(guī)模將同比增長約20%至 1017廳美元,并將于2025年突破2000廳美元大關(guān), CAGR 達24.5%
調(diào)度決策外賣調(diào)度系統(tǒng)困住騎手;個性化推薦電商場景下的信息繭房和馬太效應(yīng);內(nèi)容治理如何守護清朗健康的網(wǎng)絡(luò)環(huán)境;人工智能可以放心使用嗎
數(shù)據(jù)不完備和濫用風(fēng)險突出而損害用戶的權(quán)益;人工智能算法存在固有缺陷在可解釋性魯棒性偏見歧視等方面尚存在局限;企業(yè)人工智能管理體系不完善
企業(yè)作為落實人工智能治理原則的重要主體,形成覆蓋人工智能產(chǎn)品全生命周期的風(fēng)險管理機制,提出了面向可持續(xù)發(fā)展的人工智能治理基本框架
構(gòu)建面向可持續(xù)發(fā)展的人工智能技術(shù)體系,推動人工智能技術(shù)可用、可靠、可信，其內(nèi)涵包括提升技術(shù)安全和構(gòu)建技術(shù)管理機制兩個層面工作
在規(guī)劃設(shè)計階段機器學(xué)習(xí)場景中固有的不可預(yù)測性,傳達實施偏差會進一步加劇;在研發(fā)部署階段模型運行之后的動態(tài)更新缺乏足夠驗證等挑戰(zhàn)
高增長:未來五年全球人工智能市場規(guī)模平均增速將超過20%;高集中:軟件占比近40%硬件產(chǎn)品占比接近35%;高壁壘:滲透率還不到4%
我國新一代人工智能治理工作框架應(yīng)整合社會各界對AI社會技術(shù)復(fù)合體的離散性認知,突破AI包容審慎實踐的探索,建立基于“邏輯-秩序-監(jiān)管“的人工智能治理工作框架
多模態(tài)數(shù)據(jù)具有異構(gòu)性 多模態(tài)數(shù)據(jù)的關(guān)聯(lián)難度表示較大 多模態(tài)知識融合困難 多模態(tài)問答大多只能處理簡單的問題 多模態(tài)知識問答推理能力弱 可解釋性差
谷歌CVPR 2022擁有18億參數(shù),并使用30億的 標注圖像進行訓(xùn)練,在ImageNet上取得了新的記錄90.45%,證明了視覺大模型（30億參數(shù)）在廣泛視覺問題上的有效性
OpenAI提出DALLE模型,可以根據(jù)用戶輸入的文本生成對應(yīng)的圖像,Imagen模型,CogView,VQ-Diffusion 模型以及 NUWA-infinity 等效果同樣出色
告立足于算法的技術(shù)趨勢和行業(yè)應(yīng)用現(xiàn)狀,從法律監(jiān)管,倫理治理,技術(shù)治理三個層面梳理總結(jié)國內(nèi)外在算法治理方面的實踐做法,保障算法技術(shù)創(chuàng)新與應(yīng)用健康
