400 128 6709

行业新闻

SuperMicro:AI存储硬件方案

发布时间:2025-05-06点击次数:

supermicro的ai存储硬件方案为大规模ai/gpu集群基础设施提供了全面的解决方案。通过可扩展单元(su,pod,例如256个gpu)进行扩展,旨在实现最高性能的ai训练和推理。

存储需求包括:

  • 全部采用NVMe存储。
  • 每个SU的性能要求为读取125 GBps,写入62 GBps。
  • 使用InfiniBand或Ethernet/RDMA,速率为200Gb/s或400Gb/s。
  • 采用并行文件系统和高性能对象存储。右下角的图片展示了单节点、单SU和4SU在不同体系下的读写带宽,根据存储硬件配置(如SATA/SAS/NVMe SSD)和网络带宽条件分为Good/Better/Best三种性能级别。

SuperMicro:AI存储硬件方案SuperMicro:AI存储硬件方案-Fig-1

企业级AI存储方案适用于Pod级别的部署,相较于云厂商,其规模和性能要求有所降低。

企业用例涵盖了推理与训练的比较,存储需求为:

  • 全NVMe或PB级别的分层存储。
  • 性能与总体拥有成本(TCO)之间的平衡。
  • 大于100 Gbps,首选以太网。
  • RDMA为可选项。
  • 采用并行文件系统和高性能对象存储。

SuperMicro:AI存储硬件方案SuperMicro:AI存储硬件方案-Fig-2

在执行AIOps和MLOps时,基础计算硬件方案包括:

  • GPU密集型服务器加速AI训练和推理。
  • GPUDirect存储直接从/向GPU内存传输数据,消除了CPU或主内存的负载。
  • Supermicro提供一系列GPU密集型服务器,满足每个应用层级的需求。

SuperMicro:AI存储硬件方案SuperMicro:AI存储硬件方案-Fig-3

计算+存储(性能层)方案中:

  • 活跃数据存储于此,针对性能进行了优化,将数据尽可能快地传递给应用程序。
  • 更高利用率带来更好的投资回报(ROI)。
  • Supermicro Peta级存储系统使用最新的E3.S NVMe存储的1U和2U服务器。
  • WEKA数据平台提供扩展式、分层存储解决方案,集群存储方案,数据保护和性能保障。
  • 高性能全闪存层(All-Flash High-Performance Storage Tier)由WEKA系统管理10%-20%的存储容量。
  • 应用层(Application Tier)使用GPU密集型服务器,通过GPUDirect存储进行直接传输。

SuperMicro:AI存储硬件方案SuperMicro:AI存储硬件方案-Fig-4

萤石开放平台 萤石开放平台

萤石开放平台:为企业客户提供全球化、一站式硬件智能方案。

萤石开放平台 365 查看详情 萤石开放平台

计算+存储(性能层)+容量层方案中,所有训练数据集和模型都存储在本地:

  • 数据湖使用容量优化的存储,高容量的旋转磁盘存储提供更低的每TB成本,支持备份和分层到私有云。
  • Supermicro服务器加入了一个由第三方软件合作伙伴支持的扩展集群。
  • 高容量数据湖(High-Capacity Data Lake)管理80-90%的存储容量,采用本地对象存储和基于云的存储,用于灾难恢复和业务连续性。
  • 应用层(Application Tier)使用GPU密集型服务器,通过GPUDirect存储直接进行传输。
  • 高性能全闪存存储层(All-Flash High-Performance Storage Tier)管理10-20%的存储容量。

SuperMicro:AI存储硬件方案SuperMicro:AI存储硬件方案-Fig-5

方案验证机架视角的集群组网方案,分为三个层次:

  1. 应用层(Application Tier):通过Supermicro 8U GPU服务器与1/10/25 GbE和InfiniBand网络连接至数据中心。
  2. 全闪存层(All-Flash Tier):使用Supermicro Petascale存储服务器,通过400 Gbps的InfiniBand提供数据存取。
  3. 对象层(Object Tier):SuperStorage服务器提供25或100 GbE网络连接,用于高容量存储。

SuperMicro:AI存储硬件方案SuperMicro:AI存储硬件方案-Fig-6

全闪存储系统参数的主要特点包括:

  • 支持双Intel和单AMD单PCIe Gen5处理器。
  • 支持1U E1.S和E3.S,2U E3.3 TLC、QLC和CXL设备,2U全闪存容量高达1PB。
  • 使用EDSFF设计进行优化的热设计。
  • 前置SSD和后置IO设计之间的平衡PCIe通道。
  • 4KB随机读取IOPS可达3000万,128KB顺序读取带宽超过230 GB/s。

目标解决方案包括:

  • 高性能AI SDS(软件定义存储)构建模块。
  • 虚拟化和密集VDI(虚拟桌面基础设施)。
  • 高性能对象存储。
  • 超融合基础设施。
  • 高性能CDN和视频流。

SuperMicro:AI存储硬件方案SuperMicro:AI存储硬件方案-Fig-7

以上就是SuperMicro:AI存储硬件方案的详细内容,更多请关注其它相关文章!


# 处理器  # 徐州大型网站优化公司  # 龙岗推广整合营销  # 怎样的关键词快去上排名  # 渝北区网站seo  # 运城提高关键词排名  # 适用于  # 开卖  # 游戏玩家  # 将至  # 三款  # 文件系统  # 存储容量  # 应用层  # 基础设施  # 高性能  # ai  # nvme 存储  # 外贸网站谷歌推广话术  # 菜馆推广营销策略分析论文  # 如何利用微信群做营销推广  # 酒店网站建设厂家黄页  # 短信验证码是营销推广吗 


相关栏目: 【 行业新闻62819 】 【 科技资讯67470


相关推荐: 世界人工智能大会机器人同台炫技!梳理A股相关业务营收占比超50%的个股名单  智能化解决方案:保障数据安全阻击泄露和丢失  AI取代人工先拿教育行业开刀?美版“作业帮”启动裁员  当科幻走进现实 脑机接口新技术能为生活带来哪些惊喜?  再也不怕「视频会议」尬住了!谷歌CHI顶会发布新神器Visual Captions:让图片做你的字幕助手  陈根:AI工具为游戏软件实时3D内容助力  CREATOR制造、使用工具,实现LLM「自我进化」  郭帆谈ChatGPT:电影行业需要创新,否则人工智能将让电影变得平庸  日入400万,第一批AI骗子已上岗  英伟达首席执行官黄仁勋:生成式 AI 时代「人类」会是新的编程语言  首部国内AI辅助动画片《魔游纪:人工智能辅助篇》预告发布  改动一行代码,PyTorch训练三倍提速,这些「高级技术」是关键  对艺术家拒绝置若罔闻,Stability AI 将推出适应多种画风的开源模型  印象笔记开放旗下“印象 AI”,可一键生成思维导图、写文章等  特斯拉首发人形机器人“擎天柱”亮相世界人工智能大会  AI技术加速迭代:周鸿祎视角下的大模型战略  Win11 AI 助手 Windows Copilot 被吐槽:套皮的 Edge 浏览器  人工智能快速发展 打开就业新空间  腾讯自主研发机器狗 Max 升级,可“奔跑跳跃”完成避障动作  AI和ML推动联网设备的增长  商业智能决策技术助力降本增效,世界人工智能大会举办商业AI高峰论坛  AI绘画,还需要懂数学?  本届人工智能大会上的这个“镇馆之宝”,来自长宁企业西井科技!  张朝阳陆川谈AI:大数据模型大幅提升工作效率,ChatGPT冲击最大的是内容创作领域  第四范式「式说」大模型入选《2025年通用人工智能创新应用案例集》  微软向美国政府提供GPT大模型,如何保证安全性?  谷歌 Gmail“帮我写电子邮件”AI 功能开始向安卓和苹果设备推广  人工智能在交通领域的革新:智能解决方案彻底改变交通方式  生成式人工智能来了,如何保护未成年人? | 社会科学报  李开复:未来几年,人工智能会革了所有人的命,除非你这么做  联想创投携手12家被投企业MWC展示元宇宙、机器人等技术  美图公司:Wink国内首发AI画面拓展功能  华为昇腾AI原生支持30多种基础大模型,包括GPT  映宇宙数字人“映映”亮相ChinaJoy,展示AI黑科技实现用户互动  无需标注数据,「3D理解」进入多模态预训练时代!ULIP系列全面开源,刷新SOTA  字节、网易相继入局,AI之后大厂又找到下一个风口?  数据显示:人工智能相关专业热度上升最快 考古、美术、生物医学工程等小众专业火了  亚太地区 70% 的企业高管正探索生成式 AI 应用或已经进行投资  7/8上海 | 2025世界人工智能大会分论坛:科技与人文-共筑无障碍智能社会  如何提高集群协作效率?中外团队合作研发基于均值偏移的机器人队形控制策略  「社交达人」GPT-4!解读表情、揣测心理全都会  AI 助手 Copilot 上线,微软 Win11 Dev 预览版 Build 23493 发布  2025世界人工智能大会(上海)开幕式纪要  ChatGPT只讲这25个笑话!实验上千次有90%重复,网友:幽默是人类最后的尊严  独家视角:首次展示有人与无人协同打击的7000米高空察打一体无人机  笔神作文声讨学而思AI大模型 称用“爬虫”技术盗取数据  0代码微调大模型火了,只需5步,成本低至150块  美图秀秀“AI 扩图”功能上线,可根据图像生成更大画幅  人形机器人概念集体爆发,能买吗?  “苏南 vs 苏北” AI 分胜负,娱乐性比较工具 EitherChoice 上线 

400 128 6709
E-mail

contact@tlftec.cn

扫一扫,添加微信

©  云南淘乐房科技有限公司 版权所有  滇ICP备2025071560号  

云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司 云南淘乐房科技有限公司