娇小w搡bbbb搡bbb,《第一次の人妻》,中国成熟妇女毛茸茸,边啃奶头边躁狠狠躁视频免费观看

微軟首款定制 AI 芯片,Maia 100 更多規格公開

發布者:SereneGardener最新更新時間:2024-08-30 來源: IT之家關鍵字:AI芯片  微軟 手機看文章 掃描二維碼
隨時隨地手機看文章

8 月 30 日消息,微軟公司出席 Hot Chip 2024 大會,分享了 Maia 100 芯片的規格信息。Maia 100 是臺積電 5nm 節點上制造的最大處理器之一,專門為部署在 Azure 中的大規模 AI 工作負載而設計。

附上 Maia 100 芯片規格如下

  • 芯片尺寸:820 平方毫米

  • 封裝:采用 COWOS-S 夾層技術的 TSMC N5 工藝

  • HBM BW/Cap;1.8TB/s @ 64GB HBM2E

  • 峰值密集 Tensor POPS: 6bit: 3,9bit: 1.5, BF16: 0.8

  • L1/L2:500MB

  • 后端網絡 BW:600GB/s(12X400gbe)

  • 主機 BW(PCIe):32GB/s PCIe Gen5X8

  • 設計 TDP:700W

  • Provision TDP:500W

Microsoft Maia 100 系統采用垂直集成方式,以優化成本和性能。它還采用定制服務器板,配備專門設計的機架和軟件堆棧,以提高性能。

Maia 100 架構

  • 高速 Tensor 單元可為訓練和推理提供高速處理,同時支持多種數據類型,單元采用 16xRx16 結構。

  • 矢量處理器是一個松散耦合的超標量引擎,采用定制指令集架構(ISA),支持包括 FP32 和 BF16 在內的多種數據類型。

  • 直接內存訪問(DMA)引擎支持不同的張量分片方案。

  • 硬件 semaphores 支持 Maia 系統的異步編程。

  • 為提高數據利用率和能效,大型 L1 和 L2 scratch pads 交由軟件管理。

Maia 100 采用基于以太網的互聯技術和類似 RoCE 的定制協議,可實現超高帶寬計算。它支持高達 4800 Gbps 的 all-gather 和 scatter-reduced 帶寬,以及 1200 Gbps 的 all-to-all 帶寬。

在軟件方面,Maia 軟件開發工具包(SDK)允許任何人快速將其 PyTorch 和 Triton 模型移植到 Maia。Maia SDK 為開發人員提供了多個組件,使他們能夠輕松地將模型部署到 Azure OpenAI 服務。


關鍵字:AI芯片  微軟 引用地址:微軟首款定制 AI 芯片,Maia 100 更多規格公開

上一篇:IBM推出Telum II處理器和Spyre AI加速器:8核、主頻5.5GHz,360MB高速緩存
下一篇:英特爾工程資源向Intel 18A傾斜,Arrow Lake主要使用外部工藝

推薦閱讀最新更新時間:2025-04-16 14:57

微軟秘密開發云計算AI芯片 提升云業務服務
對于現在的微軟來說,Windows業務早已經不是他們的重心,去相關業務已經被邊緣化。 調整思路后的微軟,現在把所有的重心都放在了跟云服務有關的業務,比如云計算、AI人工智能等等,而且憑借這兩個業務,他們也有望沖擊市值萬億美元。 為了擁有強大的云服務,微軟愿意投資,它要與AWS、谷歌競爭。如果使用專用處理器,微軟就可以證明自己很認真,想提升云業務AI服務的水平。 在云計算領域,微軟一直在研究AI運算技術,開發FPGA芯片,叫作Project Brainwave。在Azure服務中,已經有一些機器學習軟件為使用做好了準備,微軟可以用這些芯片增強軟件,訓練AI模型,讓AI模型運行。去年微軟曾說,它已經為下一代HoloLens MR頭盔開
[嵌入式]
深入了解汽車系統級芯片SoC連載之九:詳解GPGPU與人工智能
GPGPU即通用計算GPU,實際不是通用計算,而是深度學習計算或者說AI人工智能計算,這種計算深入到最底層就是矩陣之間的乘積累加。GPGPU基本上被英偉達壟斷,英偉達之所以能壟斷這個市場,并在無人駕駛領域大放異彩,主要是靠2005年開發的CUDA。 對于GPGPU即通用計算型GPU,軟件棧是其生態系統得以擴展的核心。GPGPU在軟件棧上主要有兩個特點:一是掩蓋硬件細節,高度透明,讓硬件抽象為一個軟件系統,讓程序員感覺不到硬件;二是編程模型更友好,人人都能上手。這會產生一個問題,抽象掩藏掉的硬件細節越多,編程模型對用戶越友好,那么它會越難充分發揮硬件的全部潛力。因此GPGPU的抽象是分層次的:越靠近用戶的層次越易用,同時該層次的
[汽車電子]
深入了解汽車系統級<font color='red'>芯片</font>SoC連載之九:詳解GPGPU與<font color='red'>人工智能</font>
支撐國產昆侖AI芯片發展 百度實現芯片計算功能方案
近年來,以深度學習技術為代表的人工智能(AI)已經被廣泛地應用于各個領域(例如,語音處理、圖像處理、自然語言處理、視頻處理、自動控制等),并對人們的生活方式產生了深遠的影響。 隨著人工智能技術的進一步發展,人們對于人工智能的水平的期待越來越高。人工智能的水平主要依賴于深度學習的發展,而深度學習技術對計算能力有非常高的要求。由于性能、成本和功耗等各方面的限制,傳統的處理器很難滿足深度學習的要求。 因此,如何設計軟件和硬件深度結合的高性能AI芯片,例如,圖形處理器(GPU)、專用集成電路(ASIC)等,以滿足深度學習技術的要求,是當前所需要解決的一個關鍵的問題。為此,百度在2019年6月26日申請了一項名為“生成基于芯片的計算功能的方
[手機便攜]
支撐國產昆侖<font color='red'>AI</font><font color='red'>芯片</font>發展 百度實現<font color='red'>芯片</font>計算功能方案
AI芯片正在從云端向邊緣側發展
人工智能(AI)正在推動產業界的快速轉型。隨著公司越來越以數據為驅動力,對AI的需求也隨之增長。語音識別,推薦系統,醫學影像和更好的供應鏈管理,只是AI技術賦予工具,算法和計算能力以有效執行其工作的幾種方式。 但是,這些現代AI技術的成功取決于大規模計算。為了解決這一計算難題,裝有大量晶體管并經過定制以執行特定于AI系統的計算芯片正在成為首選解決方案。這些專業的,先進的AI芯片組現已進入大規模部署階段。 AI芯片組,也稱為AI加速器,本質上是專用的計算機芯片,旨在實現大規模的AI特定計算所需的高速和高效率。 關于產品類型,AI芯片組市場大致可分為針對AI應用的現場可編程門陣列(FPGA)和專用集成電路(ASIC)。盡管
[嵌入式]
人工智能芯片殺出一匹黑馬:Kneron
本文我們將評估Kneron的NPU是如何達到谷歌和英特爾的同類芯片。 隨著邊緣計算越來越受歡迎,許多大公司都致力于開發人工智能工作負載專用芯片。值得注意的是,谷歌和英特爾等大品牌分別憑借Coral的Edge TPU和Movidius Myriad X VPU在市場上站穩了腳跟。 現在,一個新玩家殺進了這個領域,并聲稱要與該行業的一些大公司競爭。總部位于加州的初創公司Kneron最近發布了KL720 AI SoC,他們稱該SoC在速度、能效和成本方面優于市場上的任何其他SoC。為了證明這是否言過其實,我們著手對這款芯片與谷歌和英特爾的設備進行了比較。 邊緣計算Coral Edge TPU芯片 Coral是谷歌開
[嵌入式]
<font color='red'>人工智能</font><font color='red'>芯片</font>殺出一匹黑馬:Kneron
新基建助力5G和AI芯片發展
高技術含量、廣闊市場前景以及對生產生活的變革性影響使5G和人工智能成為全社會關注的焦點,集成電路在5G和人工智能領域發揮著基礎支撐作用。新基建加速5G和人工智能產業的發展,為集成電路帶來更為廣闊的市場空間,將進一步推動集成電路產業高速發展。 新基建提速5G通信芯片發展 (一)新基建助力5G網絡建設進一步提速 根據工信部的數據,截至2020年3月底,全國已建成5G基站19.8萬個,5G套餐用戶規模超過5000萬戶,5G終端連接超過2000萬。2020年,在新基建浪潮推動下,國內5G網絡建設將進一步提速。三大運營商計劃在2020年新建50萬個5G基站,5G相關資本開支1803億元,實現5G網絡覆蓋全國所有地級市
[新能源]
華為AI 芯片專利解密:快速均衡方法如何實現
近日,2019世界人工智能大會(簡稱2019 WAIC)在上海世博中心隆重開幕,為大家呈現了一幅未來AI世界的人工智能場景。值得注意的是,在大會開幕式環節中正式頒發SAIL獎(Super AI Leader,即“卓越人工智能引領者獎”),其中華為獲得卓越獎(Superior)、科大訊飛獲得應用獎(Applicative)、銀河水滴科技斬獲創新獎(Innovative)、阿里巴巴獲得先鋒獎(Leading)。 SAIL獎是世界人工智能創新大賽(AIWIN)的最高榮譽,用于表彰引領技術創新變革、創造未來美好生活的全球人工智能創新項目。SAIL獎根據所激勵的不同對象,設立卓越獎(Superior)、應用獎(Applicative)、創
[嵌入式]
華為<font color='red'>AI</font> <font color='red'>芯片</font>專利解密:快速均衡方法如何實現
2018年中美互聯網巨頭的AI芯片戰,BAT能否挑戰FANG?
AI時代一個值得關注的新變化是科技巨頭們都紛紛開始自主研發AI芯片,一方面可能是因為科技巨頭們積累了大量數據價值待挖掘,另一方面是目前的芯片算力不足且十分昂貴。美國作為傳統的科技強國,FANG(Facebook、Amazon、Netflix、Google)中的谷歌正在領跑。中國互聯網巨頭也大力發展AI,其中阿里的AI芯片進展最受關注。那么,BTA(百度、阿里、騰訊)能否在AI芯片領域挑戰FANG? 我們先來看看BTA和FANG市值差距。 BAT市值 FANG市值 Facebook、Amazon、Google的市值皆超過百度、阿里、騰訊。 FANG,谷歌領跑 Google TPU3.0 在所有的科技巨頭中,谷歌的
[安防電子]
2018年中美互聯網巨頭的<font color='red'>AI</font><font color='red'>芯片</font>戰,BAT能否挑戰FANG?
小廣播
最新嵌入式文章
何立民專欄 單片機及嵌入式寶典

北京航空航天大學教授,20余年來致力于單片機與嵌入式系統推廣工作。

 
EEWorld訂閱號

 
EEWorld服務號

 
汽車開發圈

 
機器人開發圈

電子工程世界版權所有 京ICP證060456號 京ICP備10001474號-1 電信業務審批[2006]字第258號函 京公網安備 11010802033920號 Copyright ? 2005-2025 EEWORLD.com.cn, Inc. All rights reserved
主站蜘蛛池模板: 宾川县| 铅山县| 财经| 抚州市| 武城县| 邵东县| 夹江县| 贵阳市| 双鸭山市| 广德县| 峨眉山市| 宁安市| 汶上县| 托克逊县| 合山市| 二手房| 临朐县| 定州市| 都昌县| 易门县| 哈密市| 枣庄市| 新野县| 永德县| 图片| 喀喇| 九龙城区| 深泽县| 兴国县| 响水县| 宁化县| 凌源市| 阿鲁科尔沁旗| 南昌市| 南汇区| 梅河口市| 灯塔市| 温宿县| 安阳县| 涟源市| 古蔺县|