騰訊云TI-ONE助力中小型企業(yè)“降本提效”：硬件成本降低50%

  ICC訊 據獲悉，騰訊云TI-ONE平臺在數據接入、模型訓練、模型服務(wù)等階段為企業(yè)提供全鏈路的技術(shù)優(yōu)化方案，并在模型訓練、推理階段提供TI-ACC加速工具，幫助客戶(hù)節省50%硬件成本。

  隨著(zhù)數字化轉型進(jìn)程不斷加速，人工智能技術(shù)的發(fā)展更加關(guān)注與行業(yè)應用、社會(huì )需求的深度融合。其中，技術(shù)服務(wù)商如何提供“開(kāi)箱即用”的AI能力，讓企業(yè)更好聚焦業(yè)務(wù)本身，提高 AI應用的開(kāi)發(fā)效率，成為行業(yè)關(guān)注的主要問(wèn)題。

  今年9月，騰訊一站式AI開(kāi)發(fā)服務(wù)平臺TI平臺全面升級，并推出TI-ACC加速工具、TI-OCR訓練平臺、TI-ONE訓練平臺、工業(yè)質(zhì)檢訓練平臺、智能視頻分析平臺、媒體內容中臺/媒體AI中心等服務(wù)板塊。其中，TI-ACC的推理加速性能較原生框架提升100%以上，可用于大模型加速等場(chǎng)景。

  目前，依托于數據訓練模型、深度學(xué)習網(wǎng)絡(luò )的分布式大規模機器訓練，成為企業(yè)提升業(yè)務(wù)效能的主要途徑。然而，數據量龐大、訓練推理環(huán)境搭建復雜、訓練周期長(cháng)、推理時(shí)延高等問(wèn)題，中小企業(yè)的人力成本和硬件成本不斷攀升。

  以AI商品識別服務(wù)商掌控科技為例。隨著(zhù)業(yè)務(wù)規模不斷擴大，高精度模型所需的GPU資源成本不斷提高。在騰訊云TI-ONE的助力下，客戶(hù)將由TI-ACC加速優(yōu)化后的模型部署在生產(chǎn)環(huán)境，推理性能提升100%，硬件成本降低50%。

  TI-ACC在推理階段所呈現的高性能，得益于底層的TNN基礎框架。據了解，TNN是騰訊優(yōu)圖實(shí)驗室向行業(yè)開(kāi)源的部署框架，TI-ACC在TNN接口基礎上進(jìn)行產(chǎn)品化封裝，提供一鍵式推理加速功能。

  此外，TI-ACC支持各類(lèi)主流模型格式接入，無(wú)需轉換。另覆蓋CV、NLP、推薦等場(chǎng)景，功能豐富，能夠滿(mǎn)足客戶(hù)的多樣化需求。

  使用層面，客戶(hù)只需將保存的模型包上傳到模型倉庫，將優(yōu)化后的模型在TI-ONE平臺發(fā)布服務(wù)并通過(guò)API條用，即可享受到TI-ACC推理加速帶來(lái)的高性能體驗。

  作為前沿技術(shù)的探索，騰訊一直通過(guò)向各行業(yè)提供 AI 技術(shù)助力，推動(dòng)人工智能技術(shù)高水平應用，目前已在金融、媒體、政務(wù)、工業(yè)和醫療等多個(gè)行業(yè)受到客戶(hù)認可。未來(lái)，騰訊也將持續深入行業(yè)，更好發(fā)揮AI技術(shù)的長(cháng)期價(jià)值，助力實(shí)體經(jīng)濟高質(zhì)量發(fā)展。