布全球首款本地大模型辦公本,基于全國(guó)產(chǎn)算力訓(xùn)練的深度推理大模型訊飛星火X1再度升級(jí),在2025世界人工智能大會(huì)上舉辦高規(guī)格多語(yǔ)言大模型國(guó)際研討會(huì)……近日,皖企科大訊飛在人工智能領(lǐng)域動(dòng)作頻頻。

面對(duì)日益激烈的全球AI競(jìng)爭(zhēng),以科大訊飛為代表的中國(guó)人工智能公司正從追逐參數(shù)規(guī)模、模型熱潮與技術(shù)崇拜,回歸場(chǎng)景需求,轉(zhuǎn)向人文關(guān)懷。

“改變世界的不僅僅是AI技術(shù)本身,而是能解決剛需的產(chǎn)品,是真正落入產(chǎn)業(yè)的能力。”科大訊飛副總裁趙翔在2025世界人工智能大會(huì)上提出一個(gè)樸素愿景:讓AI像水和電一樣服務(wù)每一個(gè)場(chǎng)景。

“智商不掉線”的本地大模型

7月22日,科大訊飛發(fā)布了全球首款搭載本地大模型的墨水屏智能辦公設(shè)備——科大訊飛智能辦公本X5。這個(gè)辦公本最大的革新在于行業(yè)首創(chuàng)、基于本地大模型的本地離線AI能力。

擁有了本地大模型的AI設(shè)備有什么不一樣呢?先了解一下什么是本地大模型。

隨著各種AI大模型的普及,大家使用各種AI技術(shù)來(lái)輔助解決問(wèn)題的頻次越來(lái)越高。但這些大模型基本都屬于云端大模型,需要依賴云端服務(wù)器,這就意味著用戶需要聯(lián)網(wǎng)才能使用AI功能。

那在一些需要保密的會(huì)議場(chǎng)合下沒(méi)網(wǎng)了該怎么辦?又或者差旅中聯(lián)網(wǎng)不方便、信號(hào)不穩(wěn)定又該如何?此外,還有一些信息安全、數(shù)據(jù)隱私、云端審核等方面的問(wèn)題,讓大家越來(lái)越關(guān)注如何將關(guān)鍵AI能力從云端移至本地端側(cè),也就是在“斷網(wǎng)”環(huán)境下也能正常使用AI應(yīng)用,達(dá)到“智商不掉線”的效果。

開(kāi)發(fā)本地大模型并不是一件容易的事,需突破多重技術(shù)壁壘。

“就拿在辦公本這個(gè)AI設(shè)備上開(kāi)發(fā)本地大模型來(lái)說(shuō),首先需要企業(yè)利用自主大模型完成針對(duì)性的量化與剪枝優(yōu)化,還需要企業(yè)擁有芯片級(jí)定制化能力,實(shí)現(xiàn)大模型、芯片與系統(tǒng)開(kāi)發(fā)的跨領(lǐng)域協(xié)同攻堅(jiān),硬件設(shè)計(jì)上也要解決內(nèi)存帶寬、元件堆疊、散熱等核心問(wèn)題!笨拼笥嶏w副總裁、讀寫(xiě)科技總經(jīng)理鐘錕表示,此外,還需要掌握操作系統(tǒng)調(diào)優(yōu)能力,對(duì)大模型進(jìn)行單獨(dú)分區(qū),同時(shí)對(duì)模型加載效率、內(nèi)存調(diào)度進(jìn)行深度優(yōu)化,實(shí)現(xiàn)本地大模型引擎與應(yīng)用的并行調(diào)度。

以X5為例,該設(shè)備搭載最新6nmAI芯片,擁有8核CPU及高達(dá)9T的NPU算力;谶@一硬核基礎(chǔ),X5將訊飛自主可控的云端大模型部署于本地端側(cè),并針對(duì)辦公場(chǎng)景進(jìn)行深度優(yōu)化。

同時(shí),X5實(shí)現(xiàn)了核心AI能力的本地離線運(yùn)行,包括離線語(yǔ)音轉(zhuǎn)寫(xiě)、離線多人識(shí)別、離線中英互譯以及離線會(huì)議紀(jì)要。這意味著,即使在網(wǎng)絡(luò)受限的記錄場(chǎng)景下,例如無(wú)網(wǎng)或弱網(wǎng)環(huán)境、涉密會(huì)議等,用戶仍然能夠使用辦公本的語(yǔ)音轉(zhuǎn)寫(xiě)、生成會(huì)議紀(jì)要等核心AI功能。

“本地大模型,離線也聰明,安全又高效!辩婂K表示,目前大量大模型使用云端的能力,會(huì)耗費(fèi)大量的算力和電力,通過(guò)本地大模型與云端配合,能夠?qū)崿F(xiàn)更高的效率。

降低“AI幻覺(jué)”概率

咨詢知識(shí)、寫(xiě)總結(jié)、查文獻(xiàn)……從“有事問(wèn)百度”到“有事問(wèn)AI”,在千行百業(yè)中都逐漸滲透的AI,也改變著人們的網(wǎng)絡(luò)使用習(xí)慣。但看似“無(wú)所不能”“回答一切”,人們使用下來(lái)之后,卻經(jīng)常發(fā)現(xiàn)AI給的答案并不靠譜,甚至在“一本正經(jīng)地胡說(shuō)八道”“偽造事實(shí)”。

開(kāi)放式內(nèi)容生成功能目前飽受詬病,最核心的問(wèn)題在于,人工智能所生成的內(nèi)容并非完全準(zhǔn)確。隨著深度推理模型的邏輯自洽性提升,AI生成內(nèi)容愈加真假難辨。為此,人們還創(chuàng)造了一個(gè)新詞“AI幻覺(jué)”,來(lái)表示大語(yǔ)言模型編造它認(rèn)為是真實(shí)存在的甚至看起來(lái)合理或可信的信息。因此,借助AI來(lái)輔助決策和判斷時(shí),務(wù)必要保持審慎的態(tài)度。

盡管“AI幻覺(jué)”短期內(nèi)難以完全消除,但業(yè)界正不斷通過(guò)技術(shù)改進(jìn)升級(jí)來(lái)治理“AI幻覺(jué)”現(xiàn)象,以保障人工智能技術(shù)的安全可靠應(yīng)用,不斷升級(jí)AI功能。

7月25日,基于全國(guó)產(chǎn)算力訓(xùn)練的深度推理大模型訊飛星火X1再次升級(jí),并在幻覺(jué)治理方面領(lǐng)先業(yè)界主流模型。

面對(duì)大模型容易“胡說(shuō)八道”的通病,科大訊飛提出基于多路徑采樣驗(yàn)證及事實(shí)性約束強(qiáng)化學(xué)習(xí)的幻覺(jué)治理技術(shù),在大模型思考過(guò)程及回復(fù)生成階段,實(shí)現(xiàn)客觀問(wèn)題與標(biāo)準(zhǔn)答案的深度強(qiáng)對(duì)齊。對(duì)于大模型自身生成內(nèi)容是否符合客觀事實(shí)的事實(shí)性幻覺(jué)治理,以及在用戶給定額外參考資料時(shí)大模型回復(fù)是否忠于原文的忠實(shí)性幻覺(jué)治理兩方面,都有顯著改善。

簡(jiǎn)單說(shuō),就是給AI裝上了“自我驗(yàn)證機(jī)制”,大幅減少了在慢思考下的幻覺(jué)率,讓大模型回復(fù)通用常識(shí)及專業(yè)知識(shí)問(wèn)題更加可靠。

科大訊飛董事長(zhǎng)劉慶峰建議,預(yù)防大模型生成“幻覺(jué)數(shù)據(jù)”充斥互聯(lián)網(wǎng)帶來(lái)的危害,要從技術(shù)研發(fā)和管理機(jī)制上構(gòu)建可信的信息環(huán)境。

例如,構(gòu)建安全可信數(shù)據(jù)標(biāo)簽體系,建立安全可信、動(dòng)態(tài)更新的信源和數(shù)據(jù)知識(shí)庫(kù),對(duì)不同類型數(shù)據(jù)的可信度和危害程度建立標(biāo)簽體系,降低“AI幻覺(jué)”出現(xiàn)概率。研究幻覺(jué)自動(dòng)分析的技術(shù)和軟件平臺(tái),開(kāi)展幻覺(jué)自動(dòng)分析、AIGC深度鑒偽、虛假信息檢測(cè)、有害內(nèi)容識(shí)別以及互聯(lián)網(wǎng)傳播溯源,定期清理幻覺(jué)數(shù)據(jù),為公眾提供AIGC幻覺(jué)信息檢測(cè)工具與服務(wù)。

給世界提供“第二種選擇”

7月26日,2025世界人工智能大會(huì)的開(kāi)幕式主論壇上,諾貝爾獎(jiǎng)得主杰弗里·辛頓發(fā)表主旨演講時(shí),大屏幕上同步顯示著流暢準(zhǔn)確的中英文同傳字幕,這正是搭載了全新星火語(yǔ)音同傳大模型的訊飛同傳在“實(shí)戰(zhàn)”。

目前,星火X1的多語(yǔ)言支持能力擴(kuò)展至130多個(gè)語(yǔ)種,在阿語(yǔ)、德語(yǔ)、法語(yǔ)、韓語(yǔ)、日語(yǔ)等重點(diǎn)語(yǔ)種上整體效果已超過(guò)GPT-4.1。而基于星火X1強(qiáng)大底座的訊飛語(yǔ)音同傳大模型翻譯綜合質(zhì)量超90分,同傳首字響應(yīng)快至2秒,達(dá)到人類高階同傳的行業(yè)標(biāo)準(zhǔn)要求,并覆蓋超過(guò)8萬(wàn)個(gè)垂直領(lǐng)域?qū)I(yè)詞匯,讓交流如母語(yǔ)般順暢。

英國(guó)作家道格拉斯·亞當(dāng)斯在1979年出版的科幻小說(shuō)《銀河系漫游指南》中虛構(gòu)了一種生物——“巴別魚(yú)”,這個(gè)神奇生物可以寄生在宿主耳道內(nèi)實(shí)時(shí)翻譯任何語(yǔ)言,從而實(shí)現(xiàn)跨物種語(yǔ)言交流。

“多語(yǔ)言AI就像現(xiàn)實(shí)版的‘巴別魚(yú)’,正在打破人們之間的語(yǔ)言隔閡!痹2025世界人工智能大會(huì)重點(diǎn)論壇之一——科大訊飛高級(jí)別高水平多語(yǔ)言基座大模型國(guó)際學(xué)術(shù)研討會(huì)上,英國(guó)薩里大學(xué)“以人為本的人工智能研究中心”聯(lián)合主任宋一晢教授認(rèn)為,“人工智能不是主導(dǎo)者,而是賦能者”,人工智能的最終目標(biāo)是賦能人類,這要求AI必須以人為本,并圍繞人的體驗(yàn)、創(chuàng)造力與福祉設(shè)計(jì)?缭秸Z(yǔ)言溝通障礙是邁向“以人為本的人工智能”的第一步,要真正將AI從云端帶到用戶端,打造“實(shí)現(xiàn)可接觸、可控制、真正屬于每一個(gè)人”的AI。

為什么中國(guó)大模型要做多語(yǔ)種?劉慶峰在去年的世界聲博會(huì)開(kāi)幕式上曾表示,“大模型越用越聰明,是自我迭代的,就像PC和互聯(lián)網(wǎng)一樣,會(huì)成為社會(huì)最基本的底層能力和工具。如果中國(guó)的大模型廠商都只做中文,全球沒(méi)有第二種選擇,我們就必然會(huì)被鎖在中國(guó)范圍之內(nèi)!

基于AI大模型的多語(yǔ)種技術(shù)正在讓跨語(yǔ)言交流變得越來(lái)越便利、自然!拔覀兿M麡(gòu)建全方位的多語(yǔ)言大模型和它的應(yīng)用,給世界提供第二種選擇。”科大訊飛研究院院長(zhǎng)劉聰表示,未來(lái),科大訊飛的多語(yǔ)言模型將推進(jìn)“語(yǔ)音+文本”多模態(tài)數(shù)據(jù)的共建共享,打通不同模態(tài)之間的語(yǔ)義壁壘。打造具備原生多語(yǔ)種語(yǔ)音能力的大模型底座,增強(qiáng)模型對(duì)全球語(yǔ)言生態(tài)的原生感知力。同時(shí),構(gòu)建融合跨語(yǔ)言知識(shí)遷移能力的多語(yǔ)言通用大模型,實(shí)現(xiàn)不同語(yǔ)種間的知識(shí)遷移與泛化能力提升,全面支撐全球多語(yǔ)言AI應(yīng)用發(fā)展。

全球化深入發(fā)展的今天,多語(yǔ)言大模型不僅是技術(shù)創(chuàng)新的成果,更是推動(dòng)文明交流互鑒、構(gòu)建人類命運(yùn)共同體的重要工具。事實(shí)證明,越來(lái)越多的來(lái)自中國(guó)的AI技術(shù)方案正獲得廣泛認(rèn)可和期待,為全球提供多元化AI技術(shù)路徑選擇,為全球數(shù)字文明的繁榮發(fā)展注入了新的動(dòng)力。(記者 許昊杰)

編輯:劉暢司晨
更多精彩資訊請(qǐng)?jiān)趹?yīng)用市場(chǎng)下載“央廣網(wǎng)”客戶端。歡迎提供新聞線索,24小時(shí)報(bào)料熱線400-800-0088;消費(fèi)者也可通過(guò)央廣網(wǎng)“啄木鳥(niǎo)消費(fèi)者投訴平臺(tái)”線上投訴。版權(quán)聲明:本文章版權(quán)歸屬央廣網(wǎng)所有,未經(jīng)授權(quán)不得轉(zhuǎn)載。轉(zhuǎn)載請(qǐng)聯(lián)系:cnrbanquan@cnr.cn,不尊重原創(chuàng)的行為我們將追究責(zé)任。
長(zhǎng)按二維碼
關(guān)注精彩內(nèi)容