國內大模型相關的進展消息每日紛至沓來，行業(yè)進入快速發(fā)展期，而業(yè)內討論的焦點也逐漸從概念藍圖過渡到產品落地層面。隨著大模型的發(fā)展熱潮涌動，對話式AI正在打開新一輪的商業(yè)增量。

中關村科金作為領先的對話式AI技術解決方案提供商，在與先進技術保持同頻進步的同時，積極展開相關產品研發(fā)及大模型實踐的探索。

近期，中關村科金與行業(yè)客戶攜手共創(chuàng)了一些有場景代表性的試點項目，如針對財富業(yè)務場景，基于開源基礎大模型打造了面向理財師的營銷助手，該產品可以實時追蹤行業(yè)動態(tài)，深入理解客戶的投資需求，通過用戶畫像解析構建投資要素，為客戶生成專業(yè)、客觀的投資建議，減少理財師手工撰寫文案的工作量、提升理財師單兵效能，同時幫助客戶更好地做出投資決策。

中關村科金資深AI產品總監(jiān)曹陽，于近日分享了在對話大模型上的思考和對話式智能展業(yè)助手產品的應用實踐。

大模型對AI技術產品化影響的思考

ChatGPT對通用大模型訓練結果的優(yōu)越呈現(xiàn)，不僅大幅提升了行業(yè)關注度，也標志著人工智能發(fā)展進入新的里程碑階段。GPT全稱為Generative Pre-trained Transformer，可譯為生成式預訓練Transformer模型，是“預訓練”和“大模型”結合后一種新的人工智能模式，當大規(guī)模數(shù)據(jù)集在模型上完成預訓練后，僅需微調少量數(shù)據(jù)甚至無需微調，就可直接支撐各類應用。

基于大模型此特性，我們AI技術產品化的路徑和思路也要隨之發(fā)生改變。首先在數(shù)據(jù)應用層，過去一般是采用結構化數(shù)據(jù)，而圖片、文字、視頻等非結構化數(shù)據(jù)機器無法理解，需要采用高效的并行分布式處理技術，并借助應用自然語言處理、影像處理、社會網(wǎng)分析和機器學習等專業(yè)的工具或模型，通過打標和預定義范式對數(shù)據(jù)搜索、過濾、計算，將數(shù)據(jù)結構化后再進行處理。

但標簽化的過程會產生信息損失，與信息論的原理一致，一旦抽象或者總結必然有信息損失，可利用的信息就會減少。此外，結構化后有損的數(shù)據(jù)可應用的范圍也較窄，多用于特定業(yè)務領域，如FAQ知識庫、會話流程等。

相比之下，大模型可以直接利用非結構化數(shù)據(jù)，不用進行“加工”處理，且支持全量無損的內容輸入，可運用的數(shù)據(jù)范圍非常廣，價值也相對更高。若將大模型產品嵌入企業(yè)服務系統(tǒng)中進行升級再造，包括知識檢索、數(shù)據(jù)分析、輔助編程、數(shù)字員工、數(shù)字人等企業(yè)級應用都有可能被重構。可以說，大模型打開了企業(yè)數(shù)智化轉型新的天花板。

其次在產品化思路上也需要進行轉變。原先AI技術產品化過程需要對所有內容進行預先定義和梳理，無論是分類模型，還是SOP挖掘，都是既定范式。即在特定場景中，預定義范式后進行數(shù)據(jù)處理，并訓練出對應模型，可以稱之為“打標領域知識注入”，是一種預設的機械化方式。

而大模型則是一種受控的自組織化方式。只需把對話、文本、音視頻和文檔等數(shù)據(jù)注入大模型中，機器能夠按要求進行自主學習和訓練，進而完成特定任務。無需人工進行預先處理，便可直接使用結構化和非結構化數(shù)據(jù)；也無需基于特定業(yè)務進行訓練，便能解決特定和非特定場景的任務。

兩種方式之間有著極大的流程、效率差異。過去預設的機械化方式，無論是預先設定流程還是結構化數(shù)據(jù)要求，都需要專業(yè)人員參與，工作量大、專業(yè)性要求高。并且在業(yè)務過程中，若要判定預先設定的結構是否適合業(yè)務模式，一般只能基于事后分析，無法在事中和事前進行定義。

比如我們今天將會遇見哪個人，會發(fā)生哪些內容對話，是無法事先定義的，客服場景也是如此，這也是為什么現(xiàn)在的智能客服大多只能集中在售后。但對于營銷而言，事前和事中才是核心，甲乙雙方或者買賣雙方交易的核心節(jié)點是業(yè)務關系發(fā)生變化，從沒有交易到產生交易。因此探索大模型在目前人力成本不斷上升但成功率較低的智能客服與營銷系統(tǒng)的落地改造十分必要。

大模型在金融業(yè)務應用初探

中關村科金一直致力于通過AI技術，構建客戶全周期對話式AI服務，助力企業(yè)服務生產力第四次躍升。圍繞這一理念，中關村科金基于多款開源基礎大模型，結合領域知識圖譜、領域知識注入、Prompt工程等前沿技術，構建了對話式智能服務平臺。依托該平臺，針對財富機構業(yè)務場景，打造了一款“對話式智能展業(yè)助手”的大模型應用產品。

以前理財師跟客戶是獨立溝通，沒有太多輔助工具，而我們希望對話式智能展業(yè)助手的推出，能夠助力理財師在專業(yè)能力上得到提升，在產品的信息獲取上更高效便利。

在產品邏輯上，對話式智能展業(yè)助手系統(tǒng)的第一步是構建用戶畫像，提供包括用戶基本畫像和深層畫像、投資經(jīng)歷、關注競品、投資預測等數(shù)據(jù)信息。第二步是基于用戶畫像構建投資策略，類似于炒股軟件的策略選股，通過構建投資策略scheme（計劃），以prompt（編程語言，用于顯示可提示用戶進行輸入的對話框）的形式與專業(yè)資訊進行關聯(lián)。之后結合大模型的生成提示能力，按照業(yè)務預先設定好的SOP（標準操作程序）執(zhí)行任務，根據(jù)每個SOP對應節(jié)點選取的業(yè)務專家梳理的限定詞，生成投資組合推薦，最終生成話術和產品營銷方案等。

此外，在過程中我們還可以全流程執(zhí)行SOP指導，不局限于與客戶的溝通過程，而是覆蓋整個生命周期。比如設定在用戶生日時發(fā)送生日祝福；推送教育相關的培訓分享等。

上述鏈路是針對于單個理財師。如果是多個理財師或者整個團隊使用，對話式智能展業(yè)助手還能發(fā)揮更大價值。對所獲取的所有理財師與客戶溝通的內容進行分析優(yōu)化后，提煉金牌銷售的話術技能同步給普通銷售，實現(xiàn)對普通銷售的技能賦能，拉齊、提升團隊的專業(yè)水平。

此外，對話式智能展業(yè)助手還可以應用于資產管理中心、運營中心和產品研發(fā)中心等，中后臺部門通過掌握了解一線人員與客戶群體之間的互動、反饋情況，可以及時進行策略調整，從而各業(yè)務之間形成良好互動，助力組織智能。

目前，中關村科金的對話式智能展業(yè)助手已在與國內某頭部信托公司的共創(chuàng)項目中應用落地。該信托公司從業(yè)務層出發(fā)，將業(yè)務服務流程拆解為用戶、投資組合、市場和產品四個維度，再結合SOP節(jié)點設置，每個節(jié)點執(zhí)行對應策略，大模型根據(jù)提示詞生成節(jié)點話術，并通過限定字數(shù)、溝通風格等，使生成結果更加接近理想效果。

銷售的核心是信任，信任產生后客戶才更容易采納建議。所以我們希望基于前期的用戶和投資策略信息，直觀反饋用戶應該關注的行業(yè)理財資訊。更高的專業(yè)度更容易贏得客戶信任，我們希望能為理財師提供有效輔助。

在和客戶溝通時，理財師可以運用對話式智能展業(yè)助手，根據(jù)用戶畫像知道客戶關注哪些產品，結合公司當下主推的產品和系統(tǒng)提供的引導策略進行銷售，但如果理財師覺得不合適也可修改。而新調整的策略和修改的內容，會反饋給大模型執(zhí)行再次生成任務，直到得到符合理財師預期的話術和內容。

為了進一步保障生成效果，我們采用了大模型外掛領域知識庫和無監(jiān)督學習+調參的方式，將專業(yè)知識、操作手冊、業(yè)務規(guī)范、產品信息、競品信息等領域知識注入到大模型內，再將客戶和行業(yè)數(shù)據(jù)、宏觀經(jīng)濟的分析等內容進行關聯(lián)，理財師按需求選擇是否引用提示內容。在大模型思維鏈推導和無監(jiān)督學習的能力之上，輔以領域知識庫和調參，可進一步加強自然語言處理任務的完成效果。

但目前在領域知識的注入方式上，還需要依賴行業(yè)專家進行知識梳理，未來可以考慮通過新的架構或者方案，將該步驟拆分成一個個子環(huán)節(jié)，轉化成專業(yè)度要求較低的操作，降低對行業(yè)專家的依賴度，實現(xiàn)非高價值的任務批量自動化處理。

這也是大模型的優(yōu)勢之一。從過去依賴AI專家手工調參，進入大規(guī)模可復制的大工業(yè)落地階段。通過配置任務要素系統(tǒng)，注入領域知識，進行對話調參，影響大模型節(jié)點策略，生成話術內容，形成一個大模型自閉環(huán)的業(yè)務信息自組織架構，是未來理想的狀態(tài)。

在這個模式下，市場上現(xiàn)有的系統(tǒng)都可以用大模型的思路再造一遍，大模型為ToB領域帶來了一個新維度的市場。原來是基于特定的結構化數(shù)據(jù)建立特定的模型，未來可能是一個大模型獲取相應的結構化或非結構化數(shù)據(jù)，通過特征工程（利用領域知識從原始數(shù)據(jù)中提取特征、屬性的過程）控制完成所有任務。

而如何將特征工程更好地控制應用和落地到實際業(yè)務當中，還需整個行業(yè)共同探索。目前，中關村科金已自主研發(fā)了包括大規(guī)模對話語言模型、知識圖譜、語音識別、語音生成等AI技術的對話引擎，未來將持續(xù)加大在對話式AI技術上的投入，基于該大模型對話引擎，圍繞企業(yè)的各種對話場景，打造應用場景更豐富的對話式AI產品，為企業(yè)提供更高效完備的營銷服一體化綜合解決方案，構建人機協(xié)同的新型生產關系。