使用三星的5纳米工艺*和HBM3E内存设计人工智能芯片,用于生成式AI(如GPT-3、LLaMA) 这是一个数十亿参数、小批量且内存密集型的工作负载。

集团业务 AI芯片半导体

NPU算力芯片介绍

我们将使用三星的5纳米工艺*和他们的HBM3E内存来设计人工智能芯片,用于生成式AI(如GPT-3、LLaMA),
这是一个数十亿参数、小批量且内存密集型的工作负载。

建议架构

*根据晶圆厂服务情况可能会调整工艺(5纳米或4纳米)

NPU和GPU芯片结构比较(优势)

为了更有效地设计服务器用AI半导体,比起GPU,更应该以NPU特化结构进行设计,今后NPU将成为主流。*Google、Microsoft、Tesla等众多企业正在制造nVidia GPU以外的专用NPU

虽然目前GPU是可以多方面利用的人工智能开发工具,但购买及运营费用较高。
NPU结构比同级GPU处理速度高,功耗比高。
(提案产品与H100相比,运用同级性能时可节省70%以上的费用)
*引领本研究开发的UXF在基于NPU架构的AI半导体产品开发,拥有丰厚的经验。

NPU芯片:快速、高效、经济实惠(优势)

高度优化且灵活的处理器架构,搭配行业领先的HBM技术,在生成式AI工作负载中表现出色,性能(>30%)、
成本效益(>2倍)、功耗效率(>3倍)均优于现有的H100。

NPU芯片应用领域

1.自动驾驶

在自动驾驶汽车中,高性能芯片可以迅速分析传感器收集的数据,做出实时决策,确保行车安全。

2.人工智能和机器学习

人工智能和机器学习算法需要进行大量的数学运算和数据处理,这要求芯片具备强大的算力。随着深度学习等技术的普及,算力已经成为推动AI发展的关键因素。

3.数据中心和超级计算

高算力芯片支持数据中心和超级计算,为高性能计算任务提供强大的计算能力。例如,世界上最快的超级计算机Frontier超算中心采用了高算力芯片,其双精度浮点算力达到了1.1 EOPS。

4.移动端应用

高算力芯片在智能手机、平板电脑和笔记本电脑等设备中的应用越来越广泛。它们可以同时处理多个任务,确保应用程序流畅运行。

5.智能物联网

连接到互联网的设备需要处理大量数据,高算力芯片可以支持智能物联网设备的功能。

(扫码立即联系)