近日，人工智能安全基礎(chǔ)設(shè)施提供商瑞萊智慧（RealAI）宣布完成新一輪戰(zhàn)略融資，北京市人工智能產(chǎn)業(yè)投資基金等參與投資。本輪融資完成后，「瑞萊智慧」將繼續(xù)加速通用人工智能安全基座產(chǎn)品研發(fā)，并不斷推進安全可控的大模型商業(yè)化落地。

隨著全球范圍內(nèi)最大規(guī)模的人工智能浪潮掀起，人工智能的可控性和安全性成為愈發(fā)重要的發(fā)展議題。如今，人工智能大模型的通用性和泛化性大幅提升，應(yīng)用也從傳統(tǒng)的判別式任務(wù)走向生成式任務(wù)，而人工智能的內(nèi)生及衍生安全問題變得愈加復(fù)雜，其帶來的挑戰(zhàn)和已經(jīng)引起的各類風(fēng)險事件也持續(xù)受到全球公眾、企業(yè)和政府的廣泛關(guān)注。

當(dāng)下，人工智能安全不僅要解決數(shù)據(jù)風(fēng)險，模型本身的幻覺、魯棒性不足和不可解釋性等技術(shù)問題，還要著力減少倫理風(fēng)險、價值觀對齊風(fēng)險，以及AI詐騙等濫用行為導(dǎo)致的影響。

2018年7月，「瑞萊智慧」依托清華大學(xué)人工智能研究院發(fā)起設(shè)立，始終深耕安全、可靠、可控的第三代人工智能，著力打造人工智能安全基礎(chǔ)設(shè)施，提供以AI安全為核心能力的AI平臺產(chǎn)品與行業(yè)解決方案，為人工智能技術(shù)安全、可靠、可控的落地應(yīng)用筑就堅實基座。

秉持著“智能向善”的使命，「瑞萊智慧」堅持源頭創(chuàng)新和底層研究，實現(xiàn)對AI大模型的研發(fā)部署和應(yīng)用治理環(huán)節(jié)全覆蓋，建立了包括基礎(chǔ)算法平臺層、底層資源層、應(yīng)用層的全方位AI安全體系，已成為通用人工智能全產(chǎn)業(yè)鏈條安全標(biāo)準(zhǔn)的制定者和踐行者。目前，「瑞萊智慧」已推出“大模型安全基座”與“AI生成內(nèi)容檢測基座”兩條產(chǎn)品線，分別對應(yīng)人工智能內(nèi)生與衍生安全風(fēng)險。

大模型安全基座基于博弈對抗技術(shù)打造，能針對當(dāng)前大模型幻覺、輸出有害內(nèi)容等風(fēng)險做出綜合有效的自動化可控性評測，并可以通過知識嵌入、領(lǐng)域能力增強、模型圍欄等手段，使模型在嚴(yán)肅場景的表現(xiàn)更加可控。針對對抗樣本攻擊、模型后門攻擊、數(shù)據(jù)逆向攻擊等人工智能特有的安全挑戰(zhàn)，可提供端到端的AI紅隊對抗安全性測評，并提升模型抗攻擊能力。基于該安全基座，可直接面向嚴(yán)肅場景打造更加可控的行業(yè)大模型系統(tǒng)應(yīng)用，實現(xiàn)大模型落地。

AI生成內(nèi)容檢測基座基于貝葉斯深度學(xué)習(xí)技術(shù)開發(fā)，能夠精準(zhǔn)判斷圖像、視頻、音頻、文本等各類內(nèi)容是否由人工智能生成，防止虛假信息的廣泛傳播，同時能夠滿足人臉識別等需要可信內(nèi)容輸入的場景需求，涵蓋互聯(lián)網(wǎng)AIGC內(nèi)容標(biāo)注、多媒體AIGC合成鑒定、人臉識別系統(tǒng)防AIGC攻擊、AIGC文章檢測等功能，可遏制因人工智能被惡用、濫用所帶來的不良影響。

基于強大的基礎(chǔ)通用人工智能安全能力和豐富的行業(yè)落地經(jīng)驗，「瑞萊智慧」開發(fā)了更加安全、可控的行業(yè)解決方案，成功在基礎(chǔ)設(shè)施、政府、金融等領(lǐng)域?qū)崿F(xiàn)快速的產(chǎn)品化和商業(yè)化落地，已服務(wù)多個國家部委以及中國銀聯(lián)、中國工商銀行、中國建設(shè)銀行、華為等300余家頭部企業(yè)，服務(wù)政策大模型在北京市上線使用，累計獲得近百項國家級獎項和榮譽。

「瑞萊智慧」CEO田天博士表示：“大模型在安全可控上的不足是其當(dāng)前無法廣泛落地應(yīng)用的根本原因，而人工智能不安全的開發(fā)和使用，則可能給人類的發(fā)展乃至生存帶來災(zāi)難性的后果。相比過往其他領(lǐng)域的安全問題，人工智能安全風(fēng)險更加本質(zhì)也更加難克服。”

未來，「瑞萊智慧」將發(fā)揮前沿引領(lǐng)者角色，持續(xù)關(guān)注世界范圍內(nèi)出現(xiàn)的前沿人工智能安全風(fēng)險挑戰(zhàn)，沉淀技術(shù)能力和實踐經(jīng)驗，進一步創(chuàng)新和完善產(chǎn)品功能，加深立體化產(chǎn)品體系建設(shè)和產(chǎn)業(yè)化建設(shè)，為“人工智能+”賦能全行業(yè)全場景提供堅實安全保障。

「瑞萊智慧」也將不斷推動通用人工智能安全能力的基礎(chǔ)設(shè)施化建設(shè)，與智算中心等算力基礎(chǔ)設(shè)施深度融合，護航中國通用人工智能高質(zhì)量發(fā)展，加速中國人工智能產(chǎn)業(yè)向國際領(lǐng)軍地位邁進。