四川新聞網(wǎng)

首頁 > shouye > 中新網(wǎng)四川

當AI“住進”終端,端側智能如何讓機器更懂人?
2025年07月01日 14:50 來源:中新網(wǎng)四川 編輯:曹惠君

  中新網(wǎng)四川新聞7月1日電 (湯雁)近日,一場以“端側覺醒,AI的下一場突圍?”為主題的深度對話在新網(wǎng)銀行和清華大學經(jīng)濟管理學院直播間同步呈現(xiàn)。清華大學經(jīng)濟管理學院中國金融研究中心副主任黃張凱對話面壁智能聯(lián)合創(chuàng)始人、CEO李大海,共同討論端側智能“以小博大”,以及端側智能背后的技術突破與系統(tǒng)級創(chuàng)新,探索“小模型”如何重塑產(chǎn)業(yè)未來。

直播海報。新網(wǎng)銀行供圖

  從云端到終端:以端側智能重構AI應用新范式

  在AI浪潮中,AI模型已經(jīng)不再“以大為美”。隨著AI技術的進步,用戶對各類AI的依賴性與日俱增。但在各類AI模型滲透進用戶的生活、學習和工作時,AI的一些痼疾也逐漸展露出來:隱私泄露、斷網(wǎng)秒變“人工智障”,這些仿佛成了云端AI難以逾越的障礙。正因如此,人們對AI的需求也日漸多元化。隱私保護、離線使用的需求痛點一直亟待得到真正的滿足。

  如果將AI從互聯(lián)網(wǎng)的“牢籠”里解救出來呢?這或許是一條未曾設想的道路,但面壁智能這家公司正走在這條名為“端側智能”的道路上。有關這個名詞,李大海解釋,“關于端側智能,簡單來說就是把智能推理的能力做到了終端上,利用終端本地的算力,在不需要依賴于網(wǎng)絡的情況下,實現(xiàn)本地的智能推理。”

  李大海認為端側智能目前有三大優(yōu)勢,這些優(yōu)勢有如大衛(wèi)用于對抗歌利亞的石子一樣,能夠直擊用戶痛點:首先是隱私保護,智能推理僅發(fā)生在本地終端,從根源上杜絕了用戶隱私泄露的風險。其次則是對安全、快速響應、可靠性要求較高的場景比較友好,例如汽車駕駛領域。此外,在高帶寬場景下,運用本地推理的端側智能比使用云端的經(jīng)濟成本要低很多。

  因此,端側智能的發(fā)展有著廣闊的前景,這也正是面壁智能目前發(fā)力的重點。之所以選擇走這條路,是因為2023年面壁智能在進行戰(zhàn)略聚焦時,發(fā)現(xiàn)自己最大的優(yōu)勢就是能夠做出知識密度很高的模型,足以做到以小博大。

  面壁智能目前一直在做的端側模型MiniCPM系列模型,有一個很形象的稱呼叫面壁小鋼炮,寓意著“以小博大”的個性。據(jù)李大海介紹,6月份剛剛發(fā)布的MiniCPM4-8B在以僅22%的訓練開銷的前提下,整體水平上可以對標Qwen3,甚至超越模型參數(shù)更大的Gemma-3-12B,因此這個版本的小鋼炮也被借用科幻小說《三體》里的說法被稱為“前進四”。

  李大海介紹,長文本內容的推理速度提升一向是面壁智能的優(yōu)勢,而且在同行們動輒用20T、30T高質量數(shù)據(jù)訓練出模型的時候,面壁智能經(jīng)常只用不到10T的數(shù)據(jù)就能訓練出非常好的模型。在如此強大的模型能力加持下,端側智能的應用場景將變得無比寬廣,也可以為AI進行更好的個性化服務賦能。

  從“遷就”到“同頻”:端側智能如何讓AI更懂用戶?

  “過去整個計算機發(fā)展的歷史是從人去遷就計算機,逐步地變成計算機來遷就人!崩畲蠛H绱嗽u價AI時代中,人與計算機的關系。在AI更大滲透入人類世界的今天,更加人性化的AI已經(jīng)日漸成為AI行業(yè)未來發(fā)展的新方向。

  在上下文連接的基礎上,AI模型形成記憶,構建了記憶后的機器才會更像人、更懂人。在這個觀念的引導下,面壁智能在端側智能領域不斷深入探索:“在本地要能去感知世界,能去跟世界互動,基于超長的記憶去感知去做決策!崩畲蠛UJ為端側智能的優(yōu)勢正在于此。

  在他看來,未來類似于機器人和機器狗一類的產(chǎn)品會同時具備云端和端側兩類分工,而不會在失去網(wǎng)絡連接時變成一個完全不能動的產(chǎn)品。

  在應用場景層面,端側智能可以為汽車的智能座艙進行賦能:“能夠通過艙內艙外的攝像頭去感知環(huán)境的變化,基于環(huán)境變化去給用戶第一時間的關懷跟呵護!倍藗戎悄芸梢詫噧溶囃馇闆r進行感知,再進行進一步分析。例如智能座艙可識別夏天被遺落在車內的兒童,并做到及時提醒和預警,有效預防悲劇的發(fā)生。如今,面壁科技正在與國內頭部車企公司進行緊密合作。

  同時,因為端側智能的離線屬性,可以做到Always On(總是開啟),因此可以獲得更多的隱私密度。換言之,在隱私層面的信息處理時,既可以讓用戶免受隱私信息泄露的困擾,也可在保證隱私的基礎上更加了解用戶的數(shù)據(jù),讓AI和用戶同頻,做到讓機器比用戶更懂用戶,甚至在滿足用戶的實用需求以外,可以更加注重情緒價值。

  未來的AI行業(yè)格局會走向何方?

  當科技企業(yè)尋求融資時,投資人們最愛問的一個問題就是:“你覺得未來大模型的格局會是怎樣?”面對這個問題,李大海給出的回復是3+X。3指的是未來會有三家以大模型本身為商業(yè)模式的龍頭企業(yè),他們會在未來轉化為云企業(yè);X指的是未來會有X家將大模型與行業(yè)深度融合的垂直領域企業(yè),通過高知識密度模型,在如汽車、手機、電腦、具身智能、教育等端側場景中提供更加智能、便捷、個性化的服務。

  例如,去年面壁智能與國內頂尖高校合作研發(fā)了學生AI成長助手以及AI智能課堂等產(chǎn)品,為學生配備具有智能問答、智能伴學功能的專屬智能助手以及全面智能化、個性化AI課堂,有效助力學生成長與生活。同樣,在金融領域背調等環(huán)節(jié),AI也已經(jīng)有了較多的應用場景。

  在展望前景時,李大海認為日新月異的社會更需要兩種能力,第一種是構建事業(yè)的基礎能力,如邏輯思維能力、親和力、團隊凝聚力等,第二種能力是人文關懷。李大海認為,在科學飛速發(fā)展的時刻,科學技術更會向人文思潮靠近!半m然未來的科技會越來越強,但我們仍然需要多姿多彩的人文去豐富我們的精神世界!

  新網(wǎng)銀行最新打造的“AI構造力”直播欄目,緊跟國家科技創(chuàng)新戰(zhàn)略,聚焦AI領域技術突破與創(chuàng)新應用,解讀AI大模型如何重構金融及行業(yè)生態(tài)。通過直播訪談、線下交流、內容聯(lián)動等形式,搭建銀行科技、AI公司創(chuàng)始人、高校教授與財經(jīng)媒體人之間的交流互動平臺。(完)

中國新聞網(wǎng)·四川新聞版權與免責聲明:

① 凡本網(wǎng)注明"來源:本網(wǎng)或中國新聞網(wǎng)·四川新聞"的所有作品,版權均屬于中新社,未經(jīng)本網(wǎng)授權不得轉載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權使用作品的,應在授權范圍內使用,并注明"來源:中國新聞網(wǎng)·四川新聞"。違反上述聲明者,本網(wǎng)將追究其相關法律責任。 ② 凡本網(wǎng)注明"來源:XXX(非本網(wǎng))"的作品,均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責。 ③ 如因作品內容、版權和其它問題需要同本網(wǎng)聯(lián)系的,請在30日內進行。 聯(lián)系方式:中國新聞網(wǎng)·四川新聞采編部 電話:+86-28-62938795