時間:2023-07-28來源:本站
國內某互聯網企業,始終以用戶為中心,不斷加大在新技術上的研發投入,持續推動服務零售和商品零售在需求側和供給側的數字化升級,致力于為用戶提供品質服務。
為了促進自身業務發展和提升用戶體驗,該企業也向大模型領域發起進軍,希望通過大模型數據訓練和算法,實現產品應用的轉型和升級,以提高品牌滿意度。然而,要實現這一目標,強大的算力是必不可少的。
(圖片來源于包圖網)
算力是人工智能產業創新的基礎,沒有算力,做大模型就是天方夜譚。大模型需要處理海量的數據,并且需要在短時間內完成復雜的計算任務,這就要求更高水平的計算能力。因此,該客戶迫切需要一款能滿足大模型訓練高性能計算需求的AI算力基礎設施,為海量數據的大規模訓練提供強大算力支撐。
在了解到客戶的需求之后,寶德量身推薦了一款擁有高強的計算能力的寶德AI訓練服務器PR4910E。其配備了最先進的硬件設施,包括高效的CPU、GPU和TPU等,可以提供強大的計算能力來支持復雜的AI模型訓練,為該企業夯實了AI大模型算力底座。
它采用2顆身懷七大算力神器的第四代英特爾®至強®可擴展處理器,最大可達60核心,并具有13 個PCIe x16 Gen5插槽,支持10個全高全長雙寬 GPU卡(NVIDIA® Tesla系列、英特爾®GPU Flex系列和昇騰Atlas系列等),可為大模型訓練強有力的算力支撐;它支持32個 DIMM / DDR5內存插槽,支持最新400Gb ETH和NDR IB高速智能網卡,以及 GPU Direct RDMA,最多支持24個 NVMe SSD,且采用CPU 直通設計,大幅降低 I/O 延遲,這些都為大模型數據存儲和傳輸提供高效可靠保證。
此外,它采用整機模塊化設計,支持靈活切換 CPU 和 GPU/TPU 的異構拓撲結構,讓算力發揮到極致,為各個場景下的AI應用加速提碼,方便用戶維護和管理。