【智快網(wǎng)】8月8日消息,微軟與英偉達合作,推出了Azure ND H100 v5 VM虛擬機預(yù)覽版。經(jīng)過數(shù)月測試,該虛擬機于今日正式發(fā)布,旨在協(xié)助企業(yè)更高效地處理生成式人工智能任務(wù)。
據(jù)了解,ND H100 v5 VM是迄今為止Azure中更強大且高度可伸縮的AI虛擬機系列。該虛擬機采用了多項創(chuàng)新技術(shù),包括8塊NVIDIA H100 Tensor Core GPU,通過下一代NV Switch和NV link 4.0相互連接。在無阻塞胖樹網(wǎng)絡(luò)中,每個GPU搭載400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand和每VM 3.2Tb/s的性能。此外,每個VM中的8塊本地GPU之間通過3.8Tb/s對分割帶寬的NV Switch和NV link 4.0進行互聯(lián)。這樣的配置使得AI模型的性能顯著提升,相較上一代ND A100 v4 VM,性能有了明顯提升。
此次推出的虛擬機還引入了第四代英特爾至強可擴展處理器和PCIE第5代主機到GPU互連技術(shù),每個GPU的帶寬達到64Gb/s。此外,新的虛擬機配備了16信道的4800 MHz DDR5內(nèi)存。所有這些技術(shù)的結(jié)合,使得Azure ND H100 v5 VM成為強大的AI虛擬機,能夠更高效地處理生成式AI任務(wù)。
據(jù)智快網(wǎng)了解,新的虛擬機使用NVIDIA的NVIDIA Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand網(wǎng)絡(luò)。目前,該虛擬機僅限于美國東部和西部的Azure企業(yè)訪問。微軟計劃在明年為其虛擬機添加數(shù)十萬塊新的GPU,以進一步提升其性能和可擴展性。
除了正式宣布Azure虛擬機推出外,微軟還宣布擴展其Azure OpenAI服務(wù),新增加拿大東部、美國東部2(East United States 2)、日本東部和英國南部地區(qū)。現(xiàn)有的Azure OpenAI服務(wù)客戶已超過11000名,本季度平均每天吸引100名新客戶。這一顯著的增長證明了微軟AI服務(wù)在滿足企業(yè)獨特需求方面所帶來的價值和可擴展性。
微軟補充稱,ChatGPT AI平臺最強大的版本GPT-4也將適用于新的Azure OpenAI服務(wù)區(qū)域,為用戶提供更強大的人工智能體驗。這將為企業(yè)和開發(fā)者帶來更多可能性,推動人工智能技術(shù)的不斷創(chuàng)新與應(yīng)用。