系统家园网 - 专注分享最好用的电脑系统

AMD Alveo™ V80 计算加速卡:内存密集型工作负载的最佳选择

更新时间:2024-10-28 16:36:18作者:hnzkhbsb
当前,人工智能已成为驱动企业创新发展的核心技术。企业积极探索AI应用的同时,不断增长的数据量也对IT基础设施提出了更高的算力要求,解决算力问题成为企业的当务之急。

近日,AMD正式推出AMD Alveo™ V80计算加速卡,专注于解决计算密集型工作负载的内存和带宽挑战。 AMD自适应与嵌入式计算事业部(AECG)高级产品线经理Shyam在接受记者采访时表示,AMD Alveo™ V80计算加速卡的硬件灵活性更适合内存密集型工作负载,并为应用程序提供了强大的平台。大数据。结合FPGA灵活性和HBM,基于AMD的工具设计框架可以很好地应用于V80计算加速卡,帮助用户更好地将其部署到生产系统中。

专为内存密集型工作负载而设计的适应性强的加速卡

AMD Alveo™ V80 计算加速卡旨在解决计算密集型工作负载带来的内存和带宽挑战。

Shyam表示,在传统的计算密集型架构中,内存和网络访问都很容易形成瓶颈。根本原因是PCIe连接带宽有限,无法满足海量数据的读写带宽需求。使用HBM可以很好的解决这个问题。

AMD Alveo™ V80 计算加速卡:内存密集型工作负载的最佳选择

从技术角度来看,作为HBM系列家族中最大的器件。AMD Alveo™ V80计算加速卡采用7nm AMD HBM自适应SoC,拥有32GB HBMe、800GB/带宽,可提供260万个可编程逻辑LUT。能够应对大型规划数据的工作量需求。此外,该产品还拥有800G网络带宽(4*200G或4*10/25/40/50G),采用光纤模块,并拥有58GB/s收发器。由于采用了集成的高带宽网络核心和加密引擎,该产品还拥有10,890个DSP计算逻辑片,提供比上一代产品高出2-3倍的DSP性能。与计算基础设施的强化连接可以轻松集成。

AMD Alveo™ V80 计算加速卡:内存密集型工作负载的最佳选择

在MCIO扩展端口上,AMD Alveo™ V80计算加速卡采用PCle Gen5接口,并具有低延迟32GB/s串行器和解串器。内存扩展方面,该产品采用了32GB DDR4 DIMM扩展插槽,拥有更强的内存扩展能力。

Shyam表示,与上一代AMD Alveo™ U55C产品相比,AMD Alveo™ V80计算加速卡将内存带宽提升高达1.8倍,逻辑密度提升高达2倍,网络带宽从每秒200GB提升至每秒800GB其次,在 PCle 带宽方面最多提高 4 倍,最高 2 倍。

AMD Alveo™ V80 计算加速卡:内存密集型工作负载的最佳选择

与传统架构固定缓存层次结构对数据读写和不规则访问模式潜在的低效率相比,AMD Alveo™ V80 计算加速卡采用的自适应计算架构能够分配靠近计算的内存,提供更低的延迟和降低功耗,同时更灵活地适应自定义数据类型和数据迁移。

AMD Alveo™ V80 计算加速卡:内存密集型工作负载的最佳选择

此外,AMD Alveo™ V80计算加速卡还具有更高的安全能力。 Shyam表示,越来越多的企业关注网络安全问题,希望构建坚实的网络安全保障,保护数据安全,预防网络安全事件的发生。 AMD Alveo™ V80计算加速卡中使用的HBM可用于缓冲和流表存储,从而实现更好的数据连接和更好的流量管理。此外,该芯片可提供硬化的IP加密引擎,实现高达800G的嵌入式IPSec,因此具有更高的网络安全性能。

满足不同场景下内存密集型工作负载的大规模加速

AMD Alveo™ V80作为一款高性能计算加速卡,适用于高性能计算、数据分析、金融科技、网络安全、AI计算、存储压缩等应用,可满足大规模加速的需求。不同场景下的内存密集型工作。负载要求。

Shyam 表示,无论是高性能计算场景中的基因组学和分子动力学。数据分析场景中的欺诈检测和医学分析,还是 AI 计算场景中的推荐引擎和大型语言模型,所有这些任务都有着相似的共性,即它们都是计算和内存密集型工作负载。因此,使用 AMD Alveo™ V80 计算加速卡可以非常高效地实现这些工作负载。

采访中,Shyam还通过几个典型案例应用,详细介绍了AMD Alveo™ V80计算加速卡在不同企业的应用情况。

例如,在射电天文天线阵列的传感器处理场景中,需要15TB/s的连续传感器数据(天线),420个AMD Alveo U55C卡工作负载用于传感器、波束成形和连接器的实时数据传输。此场景应用使用 DSP 的工作负载。面对日益复杂的工作负载,计算资源需要在有限的机架空间内快速扩展。使用AMD Alveo™ V80计算加速卡不仅实现了计算能力3倍的提升,还减少了机架空间的使用。

AMD Alveo™ V80 计算加速卡:内存密集型工作负载的最佳选择

据AMD估计,在传感器处理扩展计算能力的应用场景中,过去由21台服务器使用420个AMD Alveo™ U55C卡工作负载完成的计算任务只能使用最新的AMD Alveo™ V80来完成。 140张加速卡和14台服务器就足够了,可以降低总拥有成本最多21%(3年以上),减少加速卡数量最多66%,减少服务器数量最多33台%,并将总拥有成本降低高达 55%。的功耗。

AMD Alveo™ V80 计算加速卡:内存密集型工作负载的最佳选择

在数据压缩场景应用中,10Pb数据存储需要55台服务器、1303个SSD硬盘,在不压缩的情况下年耗电量约为427千瓦时。相同的数据规模,使用AMD Alveo™ V80计算加速卡进行压缩后,仅需要21台服务器、504个SSD驱动器,年功耗约233千瓦时。三年内总拥有成本最多可降低 56%。 。

AMD Alveo™ V80 计算加速卡:内存密集型工作负载的最佳选择

在网络安全应用场景中,新一代安全解决方案需要在传统防火墙的基础上具备更好的功能。 AMD Alveo™ V80计算加速卡可提供包括加密引擎在内的硬化IP,可实现高达800G的嵌入式IPSec,并且HBM还用于缓冲和流表存储以增强安全性能。

AMD Alveo™ V80 计算加速卡:内存密集型工作负载的最佳选择

“AMD Alveo™ V80计算加速卡针对的是传统FPGA开发者,因此除了更高的计算加速性能外,它还为开发者提供了设计套件,并支持定制和优化支持。”在采用结束时,Shyam 表示,AMD 为快速启动项目提供了示例设计,这可以简化 Alveo 硬件设计框架硬件的开发。强大的灵活性简化了系统集成的难度,缩短了产品开发周期,加速了产品的开发和部署。



鱼云专注于提供高性能云服务器和物理服务器租赁服务。我们致力于为企业提供安全、稳定、高效的解决方案,确保数据无忧、业务顺畅。

Copyright ©  2012-2024 系统家园网 版权声明 网站地图