科技要聞:技嘉發布了最新的服務器,這些服務器配備了AMD EPYC Rome CPU和NVIDIA A100 GPU


科技要聞:技嘉發布了最新的服務器,這些服務器配備了AMD EPYC Rome CPU和NVIDIA A100 GPU

文章插圖
互聯網在提高人們社會活動質量的同時可能對部分互聯網使用者造成傷害 。我們要正確認識網絡的兩面性 , 用其所長、避其所短,發揮網絡對生活的積極促進作用 。把網絡作為生活的補充就可以享受網絡的諸多益處,接下來這篇文章給大家說說互聯網科技的正能量 。
在今天NVIDIA A100 PCIe GPU公布之后 , 技嘉已完成對G481-HA0 / G292-Z40的兼容性驗證,并將NVIDIA A100添加到這兩款服務器的支持列表中 。其余的G系列服務器將分為兩波,以很快完成各自的兼容性測試 。同時 , 技嘉還公布了基于AMD EPYC 7002處理器家族的新型G492系列服務器,該服務器最多可支持10個NVIDIA A100 PCIe GPU的PCIe Gen4 。
技嘉推出采納Nvidia A100 Ampere GPU和第二代AMD EPYC CPU的全新4U服務器
G492是當今市場上用于AI模型培訓的具有最高計算能力的服務器 。技嘉將為G492提供兩個SKU 。該G492-Z50將在一個更加平易近人的價格,而G492-Z51將朝著更高的性能為目標 。
G492是技嘉第二代4U G系列服務器 ?;诘谝淮鶪481(英特爾架構)/ G482(AMD架構)服務器,用戶友好的設計和可擴展性得到了進一步優化 。除了支持兩個280W第二代AMD EPYC 7002處理器外,這32個DDR4內存插槽還支持高達8TB的內存,并保持3200MHz的數據傳輸 。G492具有內置的PCIe Gen4交換機 , 可以提供更多PCIe Gen4通道 。PCIe Gen4的I / O性能是PCIe Gen3的兩倍,可以完全啟用NVIDIA A100 Tensor Core GPU的計算能力,或者可以將其應用于PCIe存儲,以幫助提供G492固有的存儲升級路徑 。
隨著NVIDIA GPU加速成為數據中心的主流技術,科學家 , 研究人員和工程師致力于使用GPU加速的HPC和AI來應對當今世界的重要挑戰 。根據NVIDIA的說法 , 與前幾代產品相比,A100 Tensor Core GPU實現了最高的性能飛躍 。A100 PCIe GPU還保持與上一代V100 GPU相同的250W TDP輪廓和機械設計 , 但HBM2內存容量增加到40GB 。在不更改代碼的情況下,使用TensorFloat-32(TF32)進行AI模型訓練的速度是V100的六倍 。NVIDIA A100可處理日趨成熟且尺寸和復雜性迅速增長的AI模型處理 。
【科技要聞:技嘉發布了最新的服務器,這些服務器配備了AMD EPYC Rome CPU和NVIDIA A100 GPU】升級到PCIe Gen4以支持新的A100 GPU
G492經過精心設計,可支持NVIDIA A100 PCIe GPU 。考慮到A100 GPU的使用情況 , 技嘉在系統中內置了PCIe Gen4交換機,以提供高速PCIe網狀網絡 , 以支持GPU和RDMA技術之間的GPUDirect對等(P2P)通信,以并行甚至更大的計算集群 。通過GPUDirect P2P,每個GPU可以通過PCIe總線直接訪問其他GPU的內存,從而幸免了將數據傳輸到服務器的系統內存,并減少了數據交換的延遲 。以深度學習為例 , 著名的開源深度學習框架(如TensorFlow和MXNet)提供了對GPUDirect P2P的支持,并且NVIDIA集體通信庫(NCCL)也針對GPUDirect P2P進行了優化 。
通過PCIe Gen4交換機擴展PCIe Gen4通道,也使得G492的可擴展性大大高于以前的G481 / G482服務器 。除了在機箱中包含10個雙插槽A100 GPU之外,機箱前后還預留了三個PCIe x16插槽和一個OCP 3.0插槽,為用戶提供了四個附加的SAS卡或SAS卡升級選項 。NVIDIA Mellanox InfiniBand卡 。
低成本,高性價比和靈便性是G492的主要產品吸引力 。G492系列服務器為用戶提供了高度的靈便性,可以根據需要自行配置并擴展計算能力 。技嘉馬上推出支持NVIDIA A100 GPU的NGC Ready系統 。NGC-Ready系統專為AI應用而構建,并使用NVIDIA NGC注冊中心中的GPU優化軟件對深度學習和機器學習工作負載的功能和性能進行了測試 。支持NGC的系統使治理員可以放心地部署運行AI應用程序所需的基礎架構 。
在存儲配置方面,G492可以配備12個3.5英寸或2.5英寸硬盤驅動器 。背板支持SATA / SAS / NVMe協議;因此,除了大型集群外,G492還適用于必須確保數據安全的企業或研究實驗室的基礎架構 。G492和NVIDIA A100 PCIe GPU可以為各種規模的AI使用提供革命性的計算能力,加速各種規模的工作負載,并幫助客戶縮短其服務的上市時間 。