四类验证，对应四种风险
把技术问题转化为可执行、可记录、可复核的测试项。每类 POC 都应使用与客户业务相近的数据和负载，而非只看理论峰值。
模型迁移适配
核对框架、算子、依赖与模型转换，记录必要修改及精度变化。
推理性能压测
按真实并发和输入输出长度测量吞吐、首Token时延与端到端时延。
多卡训练验证
评估并行策略、多卡通信、显存、checkpoint 与长任务稳定性。
信创兼容性验证
检查鲲鹏 ARM、操作系统、中间件、业务依赖和数据访问边界。
四步完成一次
有结论的 POC。
先写验收表，再开资源。测试完成后，结论应能回答：是否适配、达到什么性能、还有哪些限制、生产需要多少资源。
需求预审与验收定义
确认模型、框架、数据、精度、负载、指标、周期和双方分工。
资源匹配与环境初始化
选定单卡、多卡或8卡配置，准备系统、驱动、CANN 与依赖环境。
迁移、测试与问题记录
按统一脚本记录环境版本、输入参数、测试结果和异常，不省略失败样本。
结果复核与生产建议
对照验收指标形成结论，并评估生产配置、数量、区域、周期与扩容路径。
验收指标要贴近业务
以下指标作为测试设计参考，具体口径、数据集、并发模型与目标值由双方在 POC 启动前约定。
| 验证类型 | 建议记录指标 | 测试条件必须写清 | 生产决策用途 |
|---|---|---|---|
| 大模型推理 | 吞吐、首Token时延、P95时延、显存、失败率 | 输入/输出长度、Batch、并发、精度 | 卡数、并发容量与部署方式 |
| OCR / CV / 视频 | 图片/视频路数、FPS、端到端时延、识别指标 | 分辨率、解码方式、预处理、样本构成 | 单路成本与高峰扩容 |
| 微调 / 训练 | Step耗时、吞吐、显存、多卡效率、收敛情况 | 数据集、并行策略、精度、模型版本 | 训练周期与整机数量 |
| 迁移适配 | 不支持的算子、代码修改、精度差异、异常清单 | 框架、CANN、驱动、依赖与模型版本 | 改造工作量与上线风险 |
| 稳定性 | 长任务成功率、错误日志、资源占用、恢复情况 | 测试时长、负载曲线、故障注入边界 | 运维预案与冗余设计 |
对未能直接支持的算子，应记录替代、转换或修改方案，以及由此产生的精度与性能影响。
固定软件版本、模型、数据和脚本，结果才有可比性。
启动前，请准备这六项
模型与代码版本
模型权重、参数规模、框架、依赖和仓库版本。
目标精度与性能
FP16 / BF16 / INT8 等精度，以及吞吐、时延或训练周期目标。
测试数据与负载
有代表性的样本、输入长度、并发和峰值负载。
数据安全边界
脱敏、传输、访问权限、保存周期与删除要求。
验收口径
测试脚本、指标定义、目标值和双方确认人。
后续生产约束
区域、带宽、存储、运维、租期和扩容计划。
按验证目标选择资源
POC 环境应尽量接近未来生产环境。若目标是多卡生产，仅用单卡“跑通”不足以验证多卡通信与长任务表现。
模型迁移、轻量推理、依赖适配和小规模性能基线。
950PR 多卡适配、显存与并行方式评估。
910B / 910C 多卡训练、高并发推理与长任务验证。
POC 常见问题
POC 验证是否免费？
POC 资源、技术支持和周期需按测试范围评估，本网站不默认承诺免费。建议先提交模型、数据、指标和时间计划，再确认正式方案。
POC 一般需要多长时间？
周期取决于模型迁移难度、软件依赖、测试数据准备和验收范围。简单推理验证与多卡长任务训练验证的计划不同，需在启动前约定。
可以用客户自己的数据集吗？
可以按项目约定测试数据与访问方式。建议提前明确数据脱敏、传输、存储、删除和权限边界，涉及敏感数据时应先完成内部合规评估。
POC 通过后是否可以直接扩到生产？
POC 结论可帮助选择生产配置，但仍需确认资源规模、网络、存储、数据安全、运维和合同 SLA。建议将测试环境与目标生产环境差异记录下来。