英伟达宣告GB200合计卡：2080亿个晶体管，AI功能提升5倍

在这个星球上，英伟亿英伟达毫无疑难是达宣如今的AI之王，其推出的告G管AI功Telegram多开(TG:@dolphinSCRM,DolphinSCRM.com)跨境电商海外私域管理工具，多平台多账号多开，自动保存Cookie直登，双向自动翻译，敏感词监控，数据脱敏，企业内部风控H100已经被泛滥科技企业抢购，而英伟达的计卡晶体营收以及利润也是节节俯冲。可是升倍在这个算力抉择功能的明天，英伟达H100合计卡的英伟亿算力还远远不够，特意是达宣像Sora这样的文生视频的模子进去，更是告G管AI功对于合计卡的算力提出了更高的要求，于是计卡晶体Telegram多开(TG:@dolphinSCRM,DolphinSCRM.com)跨境电商海外私域管理工具，多平台多账号多开，自动保存Cookie直登，双向自动翻译，敏感词监控，数据脱敏，企业内部风控英伟达也适时地推出了下一代GPU，在AI功能上有着一劳永逸的升倍后退，可能说拉了相助对于手整整一代。英伟亿

英伟达在明天清晨举行GTC技术大会，达宣在大会上，告G管AI功 英伟达正式宣告了Blackwell架构，计卡晶体同时也揭示B200芯片将会是升倍首款基于Blackwell打造的GPU。首先是制程架构，没想到已经不差钱的英伟达并无接管台积电的3nm制程架构，而是不断接管4nm制程，而B200则是基于两颗芯片打造而成，总共具备2080亿个晶体管，借助NVlink 5.0拦阻数据传输，而NVLink 5.0在B200上可能实现1.8TB/s的数据传输，是上代的两倍，而NVLink 5.0的实际速率可能抵达10TB/s。

毫无疑难B200芯片最大的特色就在于其发达的AI算力，老黄揭示B200芯片的AI算力抵达了20PFlops，远超如今的H100的4PFLOPs，至关于是如今的5倍功能，从而可能让AI厂商磨炼愈加严正的模子，可是算传统的算力，B200中单个芯片比H100逾越25%，也即是说传统算力B200是H100的2.5倍。

此外老黄还宣告了基于两颗B200芯片以及Grace CPU打造的AI超算GB200，磨炼与推理LLM的功能比上代提升了30倍，简直即是黑科技。英伟达揭示凭证AI厂商磨炼一个1.8万亿参数的狂语言模子合计，原本需要8000块Hooper GPU，同时功耗抵达了15兆瓦，而如今厂商仅需2000块GPU，功耗约莫是4兆瓦，而在GPT-3的磨炼中，GB200的磨炼速率是H100的4倍，而推理速率则是H100的7倍。

这还只是AI超算的一小部份，英伟达针对于企业以及高功能合计用户推出了GB200 NVL72功能器，至少具备36个CPU以及72个Blackwell GPU，以及特意定制的水冷处置妄想，最高提供720PFLOPs的AI磨炼功能以及1440FLOPs的推理功能，此外一个机架上还收罗18个GB200芯片以及9个NVLink交流机，最高实现27万亿个参数模子的磨炼，要知道如今的GPT-4模子磨炼参数约莫为1.7万亿个，未来将会为AI带来更大的可能。

尽管GB200 NVL72功能器并非Blackwell的极限，英伟达还将推出DGX GB200这样的功能器集群，共有八个GB200 NVL72功能器，具备288个CPU，576个GPU，内存容量抵达了240TB，FP4算力更是抵达了11.5EFLOPs，着实是偏激于无畏，导致英伟达还揭示假如你感应算力还不够，未来英伟达DGX还可能拦阻不断地扩展，借助Quantum-X800 InfiniBand以太网实现数万颗GPU的互联互通，让AI磨炼功能抵达数不胜数的高度。

当初收罗微软、google、亚马逊已经揭示将大批推销英伟达的新一代GB200功能器用于AI磨炼。当初英伟达尚未宣告GB200的详细价钱，不外颇有可能价钱抵达了十多少多万，而且如今这种AI神器残缺即是买方市场，求过于供，看起来英伟达的营收还将在2024年创下新高，现着实AI规模，老黄的争先水平着实是太大了。

最新评论