1月15日，科大訊飛對(duì)外發(fā)布深度推理模型訊飛星火X1。這是我國(guó)首個(gè)基于全國(guó)產(chǎn)算力平臺(tái)訓(xùn)練的具備深度思考和推理能力的大模型，用更少的算力實(shí)現(xiàn)了業(yè)界一流效果，多項(xiàng)指標(biāo)國(guó)內(nèi)第一，中文數(shù)學(xué)能力國(guó)內(nèi)第一，并已率先應(yīng)用于教育、醫(yī)療等剛需場(chǎng)景。

深度推理模型是當(dāng)下大模型最新發(fā)展方向之一。和過去人們熟知的大語(yǔ)言模型相比，深度推理模型著重強(qiáng)化了模型在邏輯推理、因果推斷以及結(jié)構(gòu)化知識(shí)應(yīng)用的能力，尤其在數(shù)學(xué)問題、代碼生成以及科學(xué)推理等方面更具優(yōu)勢(shì)。

簡(jiǎn)單來(lái)說(shuō)，深度推理模型更切近人類的思考過程，在生成回答時(shí)更強(qiáng)調(diào)邏輯和推理，能夠給出明確的思考路徑，大大減少過去大語(yǔ)言模型“已讀亂回”的現(xiàn)象，更能應(yīng)用于教育、醫(yī)療乃至科研等剛需場(chǎng)景。

此前，市面上已經(jīng)涌現(xiàn)出不少推理模型，但一直沒有出現(xiàn)基于國(guó)產(chǎn)算力平臺(tái)訓(xùn)練的模型。實(shí)際上，這也正是我國(guó)人工智能產(chǎn)業(yè)面臨的核心問題之一，我國(guó)人工智能發(fā)展在應(yīng)用技術(shù)上更為成熟，算法并不落后，但在算力、芯片上等底層工具鏈上尚存在不足。

實(shí)現(xiàn)人工智能技術(shù)自主可控是產(chǎn)業(yè)生態(tài)健康發(fā)展的基石。此前，已有不少產(chǎn)業(yè)端人士積極呼吁國(guó)產(chǎn)算力底座的重要性，政策端也不斷引導(dǎo)鼓勵(lì)。2023年，科大訊飛與華為攜手自研算力底座，對(duì)外聯(lián)合發(fā)布了國(guó)內(nèi)首個(gè)全國(guó)產(chǎn)算力平臺(tái)“飛星一號(hào)”，可常態(tài)化支持萬(wàn)億參數(shù)的大模型訓(xùn)練，實(shí)現(xiàn)算力層面真正的自主可控。

“中國(guó)大模型只有在國(guó)產(chǎn)技術(shù)底座上發(fā)展，才能有自主可控的大未來(lái)。”科大訊飛董事長(zhǎng)劉慶峰說(shuō)。自科大訊飛立項(xiàng)大模型以來(lái)，就一直堅(jiān)定走國(guó)產(chǎn)化自主技術(shù)路線。訊飛星火至今仍然是國(guó)內(nèi)唯一基于全國(guó)產(chǎn)算力的大模型，堪稱大模型競(jìng)賽中的“國(guó)家隊(duì)”代表。

即便有了訊飛星火的成功經(jīng)驗(yàn)，在全國(guó)產(chǎn)上訓(xùn)練推理模型仍然面臨諸多挑戰(zhàn)。這是一條幾乎沒有可參照范例、也從未有廠商走通的路徑。推理模型的訓(xùn)練方法也和大語(yǔ)言模型有著顯著不同，比如架構(gòu)上更注重邏輯和可解釋性，而大語(yǔ)言模型則基于Transformer，更關(guān)注上下文建模和大規(guī)模參數(shù)優(yōu)化。

科大訊飛攜手華為，攻克了訓(xùn)練推理強(qiáng)交互、高吞吐推理優(yōu)化以及國(guó)產(chǎn)算子優(yōu)化等一系列難題，最終成功訓(xùn)練出完全基于全國(guó)產(chǎn)算力平臺(tái)的深度推理模型訊飛星火X1。

值得一提的是，訊飛星火X1近期還參加了小初高（含競(jìng)賽）、大學(xué)（含競(jìng)賽）、AIME、MATH 500等多項(xiàng)考試，交出了一份非常亮眼的“考試成績(jī)單”：用更少的算力，實(shí)現(xiàn)了業(yè)界一流的效果，多項(xiàng)指標(biāo)國(guó)內(nèi)第一。

更難能可貴的是，這些升級(jí)都建立在對(duì)行業(yè)的深度理解與應(yīng)用上。在業(yè)內(nèi)的推理模型們?nèi)钥嘤诩夹g(shù)比拼時(shí)，訊飛星火X1已經(jīng)率先在教育、醫(yī)療等諸多場(chǎng)景實(shí)現(xiàn)落地應(yīng)用。

比如搭載了訊飛星火X1數(shù)學(xué)高中數(shù)學(xué)智能教師助手，已被一線教研員和教師用來(lái)解答高中數(shù)學(xué)創(chuàng)新題和考試題，大獲好評(píng)。在醫(yī)療場(chǎng)景下，X1的相關(guān)技術(shù)和策略也取得了初步驗(yàn)證成效，可使得專科輔助診斷和復(fù)雜病歷內(nèi)涵質(zhì)控的準(zhǔn)確率均達(dá)90%。

同樣基于全國(guó)產(chǎn)算力平臺(tái)的訊飛星火4.0 Turbo也再度升級(jí)，七大核心能力全面提升，全面對(duì)標(biāo)OpenAI最新版的GPT-4o。這次訊飛星火的底座升級(jí)，同樣來(lái)自于行業(yè)的真實(shí)反饋和痛點(diǎn)需求，著重升級(jí)的圖文、長(zhǎng)文本以及混域知識(shí)搜索技術(shù)都可顯著提升大模型在日常使用中的效率，讓訊飛星火成為更懂行業(yè)的大模型。

這離不開此前訊飛星火在各行各業(yè)的廣泛應(yīng)用。當(dāng)前，訊飛星火已經(jīng)成為央國(guó)企大模型的第一選擇2024年，無(wú)論是大模型招投標(biāo)的全年總盤還是在央國(guó)企領(lǐng)域，科大訊飛的中標(biāo)數(shù)量（91個(gè)中標(biāo)項(xiàng)目）和中標(biāo)金額（84780.8萬(wàn)元）均居第一，成為2024年度大模型中標(biāo)項(xiàng)目的“標(biāo)王”。

中國(guó)人工智能產(chǎn)業(yè)發(fā)展起步快、應(yīng)用廣，已經(jīng)成為全球人工智能競(jìng)賽中不可忽視的重要力量。但國(guó)內(nèi)產(chǎn)業(yè)多年來(lái)在芯片、算力上的不足，仍然需要一段時(shí)間的追趕和攻堅(jiān)。訊飛星火X1成功基于全國(guó)產(chǎn)算力平臺(tái)訓(xùn)練，為我國(guó)實(shí)現(xiàn)人工智能技術(shù)自主可控提供了不少寶貴經(jīng)驗(yàn)和教訓(xùn)積累。

去年10月24日，科大訊飛與華為、合肥大數(shù)據(jù)資產(chǎn)運(yùn)營(yíng)有限公司聯(lián)合打造的國(guó)產(chǎn)超大規(guī)模智算平臺(tái)“飛星二號(hào)”已正式啟動(dòng)，將實(shí)現(xiàn)新模型新算法的持續(xù)適配和智算集群規(guī)模的再次躍遷。