首頁-產品中心-人工智能
AI智算平臺
八維通AI智算平臺

八維通AI智算平臺致力于最大程度地降低企業(yè)使用AI算力的門檻，并獲得高效、低成本、規(guī)范化、可追溯的AI應用開發(fā)流程，幫助企業(yè)快速使用智算中心的網(wǎng)絡、GPU、存儲、機器學習框架與模型

產品優(yōu)勢

  • 異構算力高效調度

    多種算力硬件與形式，滿足不同場景應用需求

  • 多框架與生態(tài)支持

    多種框架、軟件棧支持，滿足多類模型訓練需求

  • 模型訓推一體

    數(shù)據(jù)管理，訓練與推理一站式全流程覆蓋

  • 自動流水線構建

    圖形化低代碼、零代碼流程組織工具

  • 開箱即用工具鏈

    專業(yè)工具庫，降低模型研發(fā)成本，提高模型研發(fā)效率

  • 分布式并行訓練

    千卡、萬卡大規(guī)模高效模型訓練

關鍵能力

資源整合

整合多種類資源如GPU、CPU、存儲、網(wǎng)絡等，構建高速并行存儲系統(tǒng)和高速InfiniBand網(wǎng)絡，形成異構GPU計算資源池。該資源池支持跨區(qū)域的靈活調配，構建高效率、低延遲的AI專用網(wǎng)絡環(huán)境。適應模型參數(shù)存儲需求，確保大規(guī)模數(shù)據(jù)的高效存取和多機通信需求，顯著提高數(shù)據(jù)傳輸速率，確保數(shù)據(jù)傳輸及任務執(zhí)行的安全穩(wěn)定。

分布式調度

基于容器技術，實現(xiàn)了對多種資源類型的高效調度，能夠自動進行GPU計算資源的分配與管理，從而提高了資源與任務調度的效率。系統(tǒng)還提供了資源組及優(yōu)先級設置功能，有效縮短了數(shù)據(jù)傳輸?shù)恼{度路徑，以適應大型語言模型的訓練與推理需求。此外，平臺支持模型微調與推理服務的持續(xù)運作。

異構支持

實現(xiàn)多類型的異構計算資源統(tǒng)一管理，融合市場上主流的國內外的GPU、TPU、DPU等資源，打造出一個集中的計算力資源庫。根據(jù)不同的計算任務需求，系統(tǒng)可以靈活地進行計算資源的調度與分配，提供包括計算力資源組、整機服務器、按卡申請等多種部署選項。

訓推一體

提供全方位的AI服務，包括數(shù)據(jù)標注、數(shù)據(jù)集管理、算法構建、模型訓練、模型調優(yōu)、模型管理和模型部署推理。平臺內置了多種常用的GPU函數(shù)庫和工具庫，支持TensorFlow、PyTorch、PaddlePaddle等訓練框架。

AI倉庫

平臺支持鏡像倉庫、算法倉庫、數(shù)據(jù)樣本庫等，保存用戶訓練推理所需數(shù)據(jù)與代碼。

適用場景

  • 算力租賃

    靈活接入和管理多種類型的計算資源，并根據(jù)租賃需求進行動態(tài)分配和調度

  • 科研與教育

    支持大規(guī)模的科學計算和模擬實驗，為科研人員提供充足的計算資源

  • 金融分析與評估

    支持多種金融分析模型和算法，提供精準的風險評估、市場預測和投資決策支持

  • 數(shù)據(jù)處理與仿真

    支持多種仿真模型和場景設置，為用戶提供豐富的仿真實驗資源和環(huán)境