游客发表

DeepSeek R1推理测试:Arc Pro B70吞吐最高2320.76 token/s

发帖时间:2026-07-17 06:53:39

IT之家 7月9日讯科技媒体 Wccftech 于昨日(7月8日)发布最新测试报告,推吞吐显示显卡厂商蓝戟(GUNNIR)对英特尔 Arc Pro B70 GPU 进行的理测 DeepSeek R1 模型推理测试中,其性能表现优于英伟达 RTX 5090D 及 RTX 4090D 显卡。最高

测试环境与配置

本次测试采用 4 卡并行配置,推吞吐重点对比以下三款显卡在 AI 大语言模型(LLM)推理场景下的理测性能:

  • 英特尔 Arc Pro B70(32GB 显存)
  • 英伟达 RTX 5090D(32GB 显存)
  • 英伟达 RTX 4090D(24GB 显存)

测试模型参数:
* 模型名称:DeepSeek R1-Distill Qwen 32B FP16
* 上下文长度:固定输入/输出长度为 128 tokens
* 并发范围:1 至 512 完整并发区间
* 核心指标:Token/s 吞吐量(衡量模型推理输出效率)

性能表现分析

测试数据显示,不同并发规模下各显卡的最高表现存在显著差异:

  1. 低并发阶段(< 32)
  2. RTX 5090D 位居榜首。
  3. RTX 4090D 排名第二。推吞吐
  4. Arc Pro B70 表现强劲,理测性能水平与 RTX 4090D 相当。最高

  5. 中等并发阶段(32 - 64)

  6. Arc Pro B70 性能迅速提升,推吞吐成功追平并超越 RTX 4090D。理测

  7. 高并发阶段(128 - 512)

  8. 并发 128:Arc Pro B70 的最高 Token 吞吐量比 RTX 5090D 高出 8.6%,比 RTX 4090D 高出 34.2%。推吞吐
  9. 并发 256:Arc Pro B70 比 RTX 5090D 高出 7.5%,理测比 RTX 4090D 高出 48.7%。最高
  10. 并发 512:Arc Pro B70 继续保持领先优势,表现与高并发阶段相近。

峰值数据

在 Tokens 吞吐量测试中,英特尔 Arc Pro B70 GPU 展现出卓越的性能,最高速度达到 2320.76 Token/s

    热门排行

    友情链接