華為鴻蒙4上線、大模型“登機” 生成式AI加速向移動端滲透
        2023-08-04 19:35:06    騰訊網

        《科創板日報》8月4日訊(編輯 宋子喬)今日,華為鴻蒙4(HarmonyOS 4)正式發布。華為鴻蒙系統是面向萬物互聯的全場景分布式操作系統,支持手機、平板、智能穿戴、智慧屏等多種終端設備運行。目前鴻蒙生態設備已達7億臺。


        (資料圖)

        值得注意的是,鴻蒙4搭載了AI大模型,這意味著,華為進一步將AI大模型接入其移動終端,可在手機側運行大模型。

        據華為介紹,通過盤古大模型的底層能力加持,HarmonyOS將帶來更進步的AI,華為的智慧助手小藝將具備AI大模型能力,在交互、生產力提升和個性化服務三個方向上增強:

        小藝可以聽懂你所有指令甚至實現自然對話;在語音交互的基礎上增加了文字互動,可以幫用戶快速摘要資訊信息;能輔助文案生成、圖片二次創作;能記錄更多瑣事、靈感,熟悉日常偏好、習慣;預計在8月下旬開啟邀測體驗。

        這不是華為首次嘗試將AI大模型接入移動終端。

        3月份發布的華為P60手機自帶智慧搜圖功能,該功能基于多模態大模型技術,通過在手機端側對模型進行小型化處理,實現了手機側的大模型運行。

        互聯網時代,移動終端是大模型的最佳入口,華為之外,OpenAI、谷歌、騰訊、百度、三星、高通等都致力于實現AI大模型在移動終端的輕量化部署。

        OpenAI不僅成立了ChatGPT移動團隊,還推出了覆蓋iOS/安卓系統的移動端ChatGPT應用。

        Meta將與高通合作,從2024年起,其開源大模型Llama 2將能在旗艦智能手機和PC上運行。

        高通表示正在將更多生成式AI用例向邊緣側遷移,目前,參數超過10億的AI模型已經能夠在手機上運行,且性能和精度達到與云端相似的水平。

        谷歌、騰訊、百度等已將模型壓縮技術緊密結合移動端模型部署框架/工具。

        三星電子考慮將其設備上的默認搜索引擎由谷歌改為必應。

        在移動端運行大模型有何好處?

        廣發證券對OpenAI發布移動端應用的評價可以作為答案,該機構稱,移動端ChatGPT可以帶來:

        更廣泛的用戶群體:移動端更易于訪問,降低使用門檻,吸引更多用戶,擴大AI技術和大模型的普及范圍;

        海量交互數據:用戶隨時隨地使用ChatGPT,產生多元化領域的交互數據,進一步加速模型迭代;

        商業價值充分釋放:移動應用中提供內購的訂閱業務,App付費空間打開,全球近40億智能手機用戶為ChatGPT帶來龐大受眾基礎和商業化變現的機會。

        總體而言,大模型接入更多種類的硬件設備已成趨勢。華泰證券此前表示,大模型的“新入口”屬性已經從主流的PC和手機端,向更廣泛的智能設備擴散。這些主要的智能設備不僅包括手機,還包括機器人、智能音箱、車載助手等。

        從投資角度看,這不僅將賦能各類智能物聯終端,使其借助AI模型提升硬件價值量,還將帶動智能模組、IoT芯片等上游零部件的量價增長。

        另外,隨著大模型在智能設備中的滲透率提升,對于邊緣側模型推理的需求將快速釋放。

        國盛證券便指出,在AI向實際場景落地時,邊緣算力的重要性加速凸顯,邊緣算力在成本、時延、隱私上具有天然優勢,也可以作為橋梁,預處理海量復雜需求,并將其導向大模型。

        (科創板日報 宋子喬)

        關鍵詞: