隨著大模型行業(yè)開源、降本趨勢進一步明確，人工智能（AI）端側(cè)應用再度成為市場關注焦點。在近日舉行的“人工智能終端產(chǎn)業(yè)發(fā)展研討會”上，中國工程院院士鄔賀銓表示，云邊端協(xié)同大模型落地推動了AI終端應用發(fā)展。作為用戶側(cè)承載大模型部署任務的重要載體，AI終端將加快智能升級和自主進化，激活萬億元規(guī)模產(chǎn)業(yè)。

大模型落地開啟AI終端新時代

回顧過去四十年通信終端的演進史，從3G開始，手機從功能機進入智能手機時代。“再到5G、6G的層層跨越，通信技術逐步進入了以AI為核心的新階段，AI手機、AI PC等各種AI終端正向我們走來。”鄔賀銓表示。

魅族最新發(fā)布的AI手機

鄔賀銓認為，AI終端新時代的到來，主要得益于大模型的落地。具體而言，云端大模型主要承擔全局性任務，包括模型訓練、跨邊緣節(jié)點的數(shù)據(jù)聚合與分析優(yōu)化等；邊緣大模型負責實時推理與局部決策，同時向云端回傳高價值結構化數(shù)據(jù)；端側(cè)大模型則發(fā)揮超輕量優(yōu)勢，完成即時感知與響應，同時也過濾一些數(shù)據(jù)，回送到邊緣和云端。

“隨著通信終端向AI終端發(fā)展，終端架構也有所變化，底下的硬件層還是原來的硬件，但是計算單元已經(jīng)不僅僅是CPU了，出現(xiàn)了CPU+GPU/NPU等異構單元。除了計算單元，存儲單元的性能也有了大幅提升，目前高端手機的顯存已經(jīng)做到了24GB，存儲空間達到了1TB，已與PC相當。”鄔賀銓感慨說道。

同時，他表示，大模型的接入讓終端操作系統(tǒng)也發(fā)生了很大變化，不僅要支持異構計算框架，還要實現(xiàn)計算資源調(diào)度以及多模型分析共享。操作系統(tǒng)支持的不僅僅是一個模型，還有多種智能體。未來只要對AI手機喊一句“幫我點一杯咖啡”，它就能知道你平時是要打開美團APP、選擇瑞幸購買大杯熱拿鐵，還會自動通過微信、支付寶幫你支付。在工業(yè)領域，一個工人要開機床，工業(yè)智能體已經(jīng)學習過他的習慣性動作，所以只需要下個命令就能自動執(zhí)行。

“現(xiàn)在的智能體大部分還在操作系統(tǒng)外緣，但是未來的智能體可能會嵌入到操作系統(tǒng)內(nèi)核甚至框架之中，這樣就可以直接調(diào)用大模型來解釋用戶需求，當然這也會讓操作系統(tǒng)變得更加復雜。”鄔賀銓表示。

從智能終端到AI終端，整個終端從底層硬件到操作系統(tǒng)，再到應用框架，都將發(fā)生很大的變化，絕不僅僅是增加了一點軟件功能而已。鄔賀銓指出，一方面，端側(cè)大模型將優(yōu)化AI應用體系，形成“終端感知+邊緣推理+云端訓練”的協(xié)同模式；另一方面，精簡的端側(cè)大模型嵌入邊緣/端側(cè)，讓大模型與終端能力結合，也將為終端本身賦能。

AI終端應用模式呈現(xiàn)七大特點

不同于傳統(tǒng)的智能終端，AI終端具備主動感知理解、多模態(tài)交互、智能化服務和自主學習進化四大功能，可以實現(xiàn)從感知、理解、交互、決策到服務全流程的智能升級和自主進化。

聯(lián)想AI眼鏡

鄔賀銓認為，AI終端不僅僅是功能的變化，應用模式也將隨之改變。一是形態(tài)多樣化，手機、PC、眼鏡等可穿戴設備以及傳感器、機器人、網(wǎng)約車等都能成為AI終端；二是功能智能化，從簡單的通信終端向集智能體/具身智能、通感融合、通信計算定位控制于一體的AI終端演進；三是人機交互多模化，用戶界面從圖形界面（GUI）轉(zhuǎn)變成語言界面（LUI），并將最終升級為智能體界面（Agent UI），用戶可以通過自然語言、觸摸屏、手勢甚至唇語等多種方式實現(xiàn)交互，同時APP的存在感和獨立性將被弱化，轉(zhuǎn)而成為系統(tǒng)背后的服務工具；四是內(nèi)容交互異構化，用戶對終端發(fā)起提問時使用的是自然語言，而它反饋給你的回答可能是文字、圖形，甚至可能是視頻，提問和獲得信息的呈現(xiàn)方式可能是不對稱的；五是內(nèi)容供應個性化，獲取信息的方式從瀏覽到對話，內(nèi)容產(chǎn)生的來源不再只是對外檢索，也可能是用戶在終端或云端自主生成，從內(nèi)容預制到內(nèi)容定制；六是通信連接多元化，未來的通信不再是點到點，可能是點到多點、多點到點，同時支持多歸屬、多切片、多接口，還可以是D2D和離線應用；七是應用服務泛在化，C端和B端應用服務相互補充，向著“人機物兼容、云邊端協(xié)同、通感算融合、天空地互聯(lián)”的美好愿景不斷進發(fā)。

未來發(fā)展面臨六方面挑戰(zhàn)

“AI終端將端側(cè)大模型或智能體嵌入操作系統(tǒng)，釋放UGC（User-Generated Content，用戶生成內(nèi)容）創(chuàng)意，增強用戶體驗，將激活萬億元規(guī)模產(chǎn)業(yè)。”鄔賀銓預測說。根據(jù)Canalys的報告，全球AI手機出貨量在全球智能手機市場的占比將從2024年的16%增長至2028年54%。全球AI PC在電腦市場的出貨量占比也將從2024年的18%增長至2025年的40%。這一預測揭示了AI手機、AI PC市場迅猛的增長勢頭。

與此同時，一些新的增長點也逐漸浮出水面。比如，AI眼鏡作為可與手機相連的智能外設受到廣泛關注。受益于大模型下沉，直接或經(jīng)手機上云的輕量級AR眼鏡將在工業(yè)和醫(yī)療領域應用，率先進入市場。除消費電子領域外，AI終端的適用范圍還可擴展至工業(yè)終端、商務終端、交通工具、物流終端、教育終端、醫(yī)療終端、養(yǎng)老終端等諸多領域，廣泛服務于社會生活的各個方面，具備廣闊的發(fā)展前景和創(chuàng)新空間。

不過，AI終端技術研發(fā)尚處于探索階段，仍面臨許多挑戰(zhàn)。鄔賀銓指出了幾個值得關注的問題：其一，業(yè)內(nèi)統(tǒng)一標準缺位，AI終端產(chǎn)業(yè)需定義統(tǒng)一的模型接口、模型格式、通信協(xié)議、數(shù)據(jù)交換協(xié)議和算力調(diào)度標準，以實現(xiàn)跨廠商、跨平臺的兼容，確保云邊端模型的遷移和數(shù)據(jù)互通。其二，AI終端創(chuàng)新面臨端側(cè)算力瓶頸，端側(cè)芯片自主創(chuàng)新壓力大，芯片廠商需和操作系統(tǒng)廠商聯(lián)合優(yōu)化實現(xiàn)軟硬件協(xié)同設計。其三，軟硬件兼容適配能力有待提升，在不改變操作系統(tǒng)底層架構的前提下實現(xiàn)終端操作系統(tǒng)高效擴展，需精準對接操作系統(tǒng)接口，需正視不同平臺間的差異性；如果要把AI融入操作系統(tǒng)內(nèi)核，需全面重構系統(tǒng)架構。其四，數(shù)據(jù)存在安全與隱私風險，需要在保障數(shù)據(jù)有效利用的同時嚴格遵守數(shù)據(jù)隱私法規(guī)。其五，端側(cè)大模型需在AI能效比指標下優(yōu)化，要在能耗與性能之間平衡尋優(yōu)。其六，AI終端依賴云邊端協(xié)同，對通信帶寬、時延和可靠性都提出了更高的要求。