技術(shù)局限尚需突破方能釋放更大價(jià)值

• 知識(shí)更新與自主學(xué)習(xí)能力，目前大語(yǔ)言模型仍然為靜態(tài)數(shù)據(jù)驅(qū)動(dòng)的學(xué)習(xí)范式，無(wú)法實(shí)現(xiàn)新知識(shí)的快速學(xué)習(xí)與迭代，尤其是涉及到時(shí)效數(shù)據(jù)與專有數(shù)據(jù)的場(chǎng)景下存在 障礙，OpenAI正在通過(guò)Plugins生態(tài)來(lái)突破這一局限

• 垂直領(lǐng)域泛化能力，通用任務(wù)的卓越能力已經(jīng)顯現(xiàn)，但是進(jìn)入垂直細(xì)分領(lǐng)域與知識(shí)體系下，大模型的性能與泛化能力仍然需要增強(qiáng)，行業(yè)大模型訓(xùn)練是當(dāng)前挑戰(zhàn)的 破局之道之一

• 長(zhǎng)期記憶能力，目前正在通過(guò)增大上下文容量、數(shù)據(jù)向量化，以及AI agent等多種方式探索突破

巨大的模型訓(xùn)練與推理算力等成本拉低效益比

• 訓(xùn)練與微調(diào)成本，該訓(xùn)練成本僅針對(duì)企業(yè)應(yīng)用基礎(chǔ)模型結(jié)合行業(yè)知識(shí)與數(shù)據(jù)集進(jìn)行訓(xùn)練與微調(diào)的成本，并非基礎(chǔ)大模型訓(xùn)練成本，與上述“垂直領(lǐng)域泛化能力”相 對(duì)應(yīng)，該成本仍然為行業(yè)知識(shí)壁壘顯著的企業(yè)必須承擔(dān)的成本，開源基礎(chǔ)模型在一定程度上可以降低這一階段的訓(xùn)練成本

• 推理成本，大模型在參數(shù)體量巨大的情況下，仍然存在較高的推理成本，這方面可以通過(guò)模型壓縮與剪枝等技術(shù)的發(fā)展進(jìn)一步降低

• 模型能力與業(yè)務(wù)場(chǎng)景的適應(yīng)成本，這部分成本雖然由于人機(jī)交互方式的變化顯著降低，但是前期仍然需要考慮提示工程在特定場(chǎng)景的磨合成本

安全合規(guī)可信應(yīng)用底線尚需剛性保障

• 模型安全與可控制性問題，這是人工智能普遍面臨的問題，大模型并不能幸免，包括模型攻防、數(shù)據(jù)注入等問題；同時(shí)，模型能力來(lái)自于“涌現(xiàn)”，需要進(jìn)行模型 能力，尤其是生成結(jié)果的可控制，方能進(jìn)入到生產(chǎn)環(huán)境

• 對(duì)齊問題，既包括人工智能與人類社會(huì)價(jià)值觀保持一致，也包括與不同國(guó)家價(jià)值觀，不同類型企業(yè)經(jīng)營(yíng)以及商業(yè)法則相匹配等，前者最為關(guān)鍵，這也是目前最為關(guān) 注的AI不受控制的風(fēng)險(xiǎn)之一，目前在通過(guò)RLHF與RLAIF不同方式來(lái)實(shí)現(xiàn)

• 隱私與數(shù)據(jù)安全問題，無(wú)論是大模型的訓(xùn)練推理，還是對(duì)話應(yīng)用的過(guò)程中，都存在過(guò)多的隱私暴露與數(shù)據(jù)安全風(fēng)險(xiǎn)，這有賴于技術(shù)突破和監(jiān)管合規(guī)的進(jìn)一步建立

附件：AI結(jié)合電商、廣告應(yīng)用發(fā)展飛速！AI+教育暫處最底位！2023中國(guó)人工智能產(chǎn)業(yè)應(yīng)用發(fā)展圖譜