
6月19日,騰訊云在國家科技傳播中心召開行業大模型及智能應用技術峰會,首次公布騰訊云行業大模型研發進展。會上騰訊發布了依托騰訊云TI平臺打造行業大模型精選商店,可以為客戶提供MaaS(Model-as-a-Service)一站式服務,助力客戶構建專屬大模型及智能應用。
(資料圖片僅供參考)
《中國經營報》記者注意到,會上,騰訊云還聯合22家客戶正式啟動行業大模型共建合作,并攜手17家生態伙伴共同發起了“騰訊云行業大模型生態計劃”,致力于共同推進大模型在產業領域的創新和落地。基于騰訊HCC高性能計算集群和大模型能力,騰訊云已經為傳媒、文旅、政務、金融等10余個行業提供了超過50個大模型行業解決方案。
騰訊集團高級執行副總裁、云與智慧產業事業群CEO湯道生表示,生態共建是AI發展的有效路徑,騰訊將堅持生態開放,為企業提供高質量模型服務,同時支持客戶多模型訓練任務,加速大模型在產業場景的創新探索。
產業場景是大模型最佳練兵場
會上,湯道生分別從模型、數據、應用與算力四個角度分享了對大語言模型在產業落地的思考。
就模型而言,湯道生認為,比起通用大模型,企業更需要針對具體行業的大模型,并結合企業自身的數據進行訓練和精調,以打造出更實用的智能服務。企業對提供的專業服務要求高且容錯性低,因此使用的大模型必須具備可控、可追溯和可修正的特點,并經過反復充分的測試。
其次是數據的重要性。“數據是大模型的原材料,針對具體場景,數據的覆蓋和質量至關重要。在模型的開發過程中,需要關注敏感數據的保護和安全合規,并有效管理大量的數據和標簽,不斷進行測試和模型的迭代。”湯道生說。騰訊云也推出基于TI平臺的行業大模型精調解決方案,幫助模型開發者和算法工程師高效率、高品質、低成本地處理數據,創建和使用大模型。
在應用方面,騰訊自身也應用行業大模型,優化自身企業級用戶,為用戶提高工作效率。例如,通過基于行業模型的智能小助手,騰訊會議可以協助用戶進行日程安排、會管、會控等操作,并自動生成智能總結摘要,提升會議的效率。騰訊企點智能客服和AI代碼助手等應用也通過行業模型的訓練和精調,提供更精準、詳細的回答和高效的編程輔助。
最后是算力的支持。算力是模型持續運轉的基礎,高性能、高彈性和高穩定的算力對于大模型的訓練和使用至關重要。據介紹,騰訊云也提供新一代高性能計算集群,為客戶提供穩定計算、高速網絡與專業運維。同時,推出面向AI運算的向量數據庫,支撐對圖像、音頻和文本等非結構化數據的高效處理,數據接入AI的效率,也比傳統方案提升10倍。
湯道生表示:“大模型只是開端,AI與產業的融合,將綻放出更有創造力的未來。生態共建是AI發展的有效路徑,騰訊將堅持生態開放,為企業提供高質量模型服務,同時支持客戶多模型訓練任務,加速大模型在產業場景的創新探索。”
攜手10余個行業探索行業大模型
AI大模型驅動“智慧涌現”,為千行百業帶來了全新發展機遇。然而企業在接入、訓練、部署和應用大語言模型時面臨著訓練成本高昂、數據安全、專業知識不足等現實挑戰。
當前,通用大語言模型在應對產業場景落地時存在一定的局限性。首先,通用大模型的訓練數據主要來自公開數據集或網絡數據,對于特定行業的專業領域知識了解有限。此外,通用大語言模型的訓練需要大量計算資源和漫長的訓練周期,這對企業來說可能昂貴且耗時。同時,安全和合規也是必要考量因素。因此,選擇與具備一站式行業大模型服務能力的云廠商合作,打造企業專屬的行業大模型至關重要,好用、易用的同時還能降低企業的成本和時間投入。
“依據企業實際需求,進而‘量體裁衣’定制一個專屬大模型,或許是解決這些問題的最佳答案。”騰訊云副總裁、騰訊云智能負責人、優圖實驗室負責人吳運聲表示,基于客戶實際痛點和需求,騰訊云全新公布MaaS全景圖,依托騰訊云TI平臺打造行業大模型精選商店,為企業客戶提供涵蓋模型預訓練、模型精調、智能應用開發等一站式行業大模型解決方案。在TI平臺內置高質量行業大模型基礎上,企業加入自己獨有的場景數據,就可以快速生成自己的專屬模型;同時,也可根據自身業務場景需求,“量體裁衣、按需定制”不同參數、不同規格的模型服務。
擁有充沛算力是大模型訓練的基礎,據悉,今年4月,騰訊云發布了專為大模型訓練設計的新一代HCC高性能計算集群,采用最新一代的騰訊云星星海自研服務器,具備業界最高的3.2Tbps互聯帶寬,算力性能提升了3倍。此外,騰訊云即將推出向量數據庫(Tencent Cloud VectorDB),源自騰訊集團每日處理千億次檢索的向量引擎(OLAMA),單索引支持10億級向量規模,更適用于AI運算、檢索,數據接入AI的效率也比傳統方案提升10倍。
吳運生表示,在平臺層面,依托TI平臺,騰訊云將為客戶提供一站式模型服務,涵蓋完善的模型工具、成熟的流程方法、全面的配套服務、領先的安全保障能力。
首先,騰訊云TI平臺內置多個高質量行業大模型,涵蓋金融、傳媒、文旅、政務、工業等多個行業場景,企業可以結合自身場景數據按需定制精調,也可以根據自身需求開展多模型訓練任務,大幅降低大模型應用門檻。
其次,TI平臺提供完善的大模型工具鏈,包括數據標注、訓練、評估、測試和部署等全套工具。同時,由TI-ACC升級的“太極Angel”提供更優的訓練和推理加速能力。在傳統CV、NLP算法模型的基礎上,新增了對大模型的訓練和推理加速能力,通過異步調度優化、顯存優化、計算優化等方式,相比行業常用方案性能提升30%+。
再次,TI平臺沉淀了從“業務分析、數據處理、大模型選擇”到“模型評測”的一體化完整方法論,同時支持MLOps的體系及工具,可以保障客戶需求的順利交付。
會上,中國科技新聞學會黨委副書記、副理事長兼秘書長陳銳還表示,加速AI大模型技術在產業領域的創新和實踐,推動國家人工智能技術發展,更需要全行業人員共同關注傳播科技服務創新。
峰會現場,騰訊云還聯合22家客戶正式啟動行業大模型共建合作,未來將依托騰訊云領先的行業大模型能力,構建垂直行業模型及應用。并攜手17家生態伙伴共同發起了“騰訊云行業大模型生態計劃”,致力于共同加速推進大模型在產業領域的創新和落地。
在行業大模型標準體系方面,中國信通院云計算與大數據研究所副所長魏凱,騰訊法務副總裁江波,騰訊云副總裁、騰訊云智能負責人、優圖實驗室負責人吳運聲共同啟動了“行業大模型標準體系及能力架構”研究,該研究涵蓋模型行業能力、模型工程化性能、模型算力網絡、模型安全可靠等方面,未來將為行業大模型的建設和應用提供完備的能力和標準體系。
(文章來源:中國經營網)
關鍵詞: