达通数科:国产算力芯片DeepSeek大模型压力测试深度剖析报告

图片

在人工智能(AI)技术飞速发展的今天,国产芯片在AI领域的应用日益广泛,其AI能力也备受关注。近日,中电达通数据科学事业部发布了一份《达通数科:国产算力芯片DeepSeek大模型压力测试深度剖析报告》,为广大AI爱好者揭示了国产芯片在AI能力方面的表现。本文将基于该报告,简略介绍测试过程,并重点呈现主要结论和测试结果数据。

测试背景与目的
  • 本次测试旨在评估国产芯片环境下DeepSeek系列大模型(如DeepSeek-R1-Distill-Qwen-32B、DeepSeek-R1-Distill-Qwen-70B等)在私有化部署场景下的性能表现。

  • 本次算力设备测试涵盖华为Atlas 800I A2(昇腾910B)和阿里AI Stack一体机(PG1)两款主流国产算力设备。

针对不同并发量(50~250)下的吞吐量、延迟、生成速度和稳定性等核心指标进行了对比分析。

华为昇腾910B   VS   阿里寒光PG1 硬件配置对比表
DeepSeek-R1-Distill-Qwen-32B压力测试比对
  • 吞吐量(字符/秒)

阿里算力设备在所有并发量下的吞吐量均高于华为算力设备。例如:

  • 50并发:阿里 2,063.83 > 华为 2,042

  • 250并发:阿里 4,121 > 华为 3,924

结论:阿里算力设备在处理能力上略优于华为算力设备,能在相同并发下输出更多字符。

  • 平均首token延迟(秒)

华为算力设备的首token延迟显著低于阿里算力设备。例如:

  • 50并发:华为 0.29 < 阿里 0.91

  • 250并发:华为 0.93 < 阿里 3.55

结论:华为算力设备在响应首token速度上有明显优势,用户感知的首次响应更快。

  • 平均生成速度(字符/秒)

华为算力设备的平均生成速度始终高于阿里算力设备。例如:

  • 50并发:华为 40.95 > 阿里 30.39

  • 250并发:华为 22.31 > 阿里 12.87

结论:华为算力设备在单请求生成速度上表现更好,生成内容更快。

  • 平均生成长度(字符)

两者生成长度基本一致,均在约955~960字符之间,说明生成内容长度无显著差异。

  • 总测试时长

华为算力设备的总测试时长明显短于阿里算力设备,说明整体处理效率更高。例如:

250并发:华为 61.05秒 < 阿里 75.9秒

综合结论:阿里算力设备在高并发下整体吞吐量略高,适合批量处理大量请求的场景。

华为算力设备在首token延迟、平均生成速度和整体处理效率上表现更优,用户体验更好,适合对响应速度和交互体验要求较高的场景。

总体来看,华为算力设备更均衡,单请求体验和整体效率更佳;阿里算力设备在极高并发下吞吐量有优势,但首token延迟和生成速度不如华为。

本次测试充分展示了国产芯片在AI能力方面的实力与潜力。未来,随着技术的不断进步和市场的持续拓展,国产芯片有望在AI领域发挥更加重要的作用。若进一步获取报告完整版,请联系微信客服或发邮箱market@datacomo.com。