Manga OCR 在各个显卡速度测试
MangaTranslate Manga OCR 是我们自主研发的 OCR。用于 漫画翻译器，不是开源项目中的同名模型。我每天都要处理大量识别请求，因此这次比较以每秒处理图片数量为核心指标。
在当前业务负载下，我测得 A10M 单卡每秒处理 3 张图片。此前的显卡对比显示，A10M 的 OCR 速度约为 RTX 4080 SUPER 的一半，因此 4080S 对应约每秒 6 张。与 PaddleOCR 相比，我们的 Manga OCR 在这组任务上的速度约快 1 倍，也就是吞吐量约为其 2 倍。
显卡速度对照表
我在表中标明了数字的来源：A10M 是直接实测，4080S 是根据已有的显卡速度比例换算；其余数字仅按理论 FP16 算力推算，不是 Manga OCR 实测成绩。
| 显卡 | Manga OCR 速度（张/秒） | 数据来源 |
|---|---|---|
| RTX 4080 SUPER | 约 6.0 | 根据 A10M 约为其一半的速度关系换算 |
| RTX 4070 Ti SUPER | 约 5.1 | 理论算力推算，待实测 |
| RTX 5070 Ti | 约 5.0 | 理论算力推算，待实测 |
| RTX 4070 Ti | 约 4.6 | 理论算力推算，待实测 |
| RTX 3090 Ti 标准版 | 约 4.6 | 理论算力推算，待实测 |
| RTX 3090 | 约 4.1 | 理论算力推算，待实测 |
| A10G | 约 3.6 | 理论算力推算，待实测 |
| RTX 3080 20G | 约 3.4 | 按标准 RTX 3080 核心推算，待核实具体显卡 |
| RTX 2080 Ti | 约 3.3 | 理论算力推算，待实测 |
| V100 | 约 3.2～3.6 | PCIe、SXM 版本规格不同，待实测 |
| A10M | 3.0 | 实际测试 |
| RTX 4060 Ti | 约 2.5 | 理论算力推算，待实测 |
| RTX 4060 | 约 1.7 | 理论算力推算，待实测 |
| RTX 3090 Ti 标称 32G、RTX 3090 标称 20G | 暂不填写 | 非标准规格，需先核实具体显卡 |
这张表完整列出了我目前关注的显卡，但只有明确标为实测的数字可以作为 Manga OCR 的测试结论。理论推算采用 4080S 约每秒 6 张作为基准，再按显卡峰值 FP16 算力等比换算；它没有计入图片预处理、模型实际精度、显存访问和并发调度的差异。相关硬件规格可参考 NVIDIA GeForce 显卡对比、A10 规格及 V100 规格。
实际部署中的判断
A10M 每秒 3 张是我目前最明确的单卡实测结果。对于大量独立请求，我可以把任务分配到两张 A10M 上；按单卡结果计算，合计吞吐有机会接近每秒 6 张。但双卡结果还需要实际压测，单个请求的速度也不会因为增加第二张卡而自动翻倍。
我在比较 Manga OCR 与 PaddleOCR 时，同样以当前业务任务的处理速度为准。约 2 倍的吞吐差距是这组任务的结果，具体差距仍会受到模型版本、图片内容和推理配置影响。后续补齐其他显卡的同条件实测后，我会用实测的每秒处理张数替换表中的推算值。