2024大模型行業(yè)可信應用框架研究報告-前沿技術創(chuàng)新探索、可信應用框架落地實施

以大模型為代表的新一代人工智能技術變革仍在加速迭代，為“新質(zhì)生產(chǎn)力”的發(fā)展注入強勁動力， 助力產(chǎn)業(yè)智能化升級和經(jīng)濟發(fā)展。大模型在產(chǎn)業(yè)端已經(jīng)開始在任務簡單、容錯率高的場景得到廣泛地使 用，例如智能客服、文案生成等場景，但是在醫(yī)療疾病診斷、金融投資理財?shù)热蝿諒碗s度高、容錯率低的 場景，大模型的規(guī)�；�落地仍然遇到不少阻礙。為進一步釋放以大模型為核心的人工智能新技術范式生產(chǎn) 力，需要解決大模型的“可信應用”問題，支撐大模型在金融、醫(yī)療、政務等專業(yè)領域的深化應用。為此 本報告提出了面向?qū)�業(yè)領域的大模型可信應用框架，即大模型為核心的智能系統(tǒng)在面向金融、醫(yī)療、政務 等專業(yè)領域的應用中，為確保應用的專業(yè)性、可控性、真實性和安全性，應當如何構(gòu)建系統(tǒng)的技術架構(gòu)和 體系。

從技術實現(xiàn)來看，企業(yè)建設一體化的大模型可信應用框架目標是在大模型開發(fā)和應用的不同環(huán)節(jié)，施 加相應的技術保障手段，以提升落地應用的可信程度。目前主要手段包括提升數(shù)據(jù)供給質(zhì)量、增強模型在 應用領域的專業(yè)能力、提高模型生成內(nèi)容的可控可信、提升智能體推理的可信、使用圍欄工具和安全保障 措施、建立全面充分的評測體系、構(gòu)建“反饋-迭代”的良性循環(huán)體系等手段，綜合實現(xiàn)大模型在專業(yè)領域 中的穩(wěn)妥應用和持續(xù)深化拓展。從產(chǎn)業(yè)應用實踐來看，目前在金融、醫(yī)療、政務等行業(yè)中已有大模型應用 框架的落地實踐，提升了推理結(jié)果的準確專業(yè)真實性，并增強了推理過程的透明安全可控，提高了客戶對 于大模型應用的信賴程度。

展望未來，本報告中提出的大模型應用框架是推動大模型在產(chǎn)業(yè)中規(guī)�；�落地應用釋放價值的初步探索，未來的產(chǎn)業(yè)化突破還需要從前沿技術創(chuàng)新探索、可信應用框架落地實施、行業(yè)治理體系搭建、產(chǎn)業(yè)生 態(tài)合作完善等多個維度統(tǒng)籌推進。我們期待產(chǎn)業(yè)上下游各方通力協(xié)作，共同推動大模型在產(chǎn)業(yè)中的規(guī)�；� 可信應用落地，助力產(chǎn)業(yè)智能化升級。

附件：2024大模型行業(yè)可信應用框架研究報告-前沿技術創(chuàng)新探索、可信應用框架落地實施