12 月 12 日消息,开放式机器学习工程联盟 MLCommons 美国加州当地时间昨日宣布推出适用于衡量消费类 PC 的 AI 性能的 MLPerf Client 基准测试的 0.5 版本,这也是该测试的首个公开版本。

MLCommons 发布 PC AI 基准测试 MLPerf Client 首个公开版本 0.5  第1张

MLCommons 表示 MLPerf Client 基准测试的诞生是 AMD、英特尔、微软、英伟达、高通和顶级 PC OEM 等利益相关方的合作成果,各方为该测试贡献了丰富的专业知识和资源。

MLPerf Client 基准测试 0.5 版本基于 Meta 的 Llama 2 7B 开源 LLM,包含四项 AI 任务(内容生成、创意写作、对两份不同长度文本的摘要),目前支持 DirectML ONNX 和 OpenVINO(仅限英特尔 GPU)两种加速路径。

该基准测试初期仅支持 Windows x86-64 设备,可在以下设备上运行:

AMD Radeon RX 7900 系列独立显卡;

最低 8GB 显存的英特尔锐炫独显;

最低 12GB 显存的英伟达 GeForce RTX 40 系独显;

锐龙 AI 9 系列处理器(最低 32GB 内存);

搭载英特尔锐炫核显的酷睿 Ultra 200 系处理器(最低 16GB 内存)。

MLCommons 表示 MLPerf Client 未来将支持 macOS 和 Windows on Arm 设备,同时还将支持额外的硬件加速路径并引入包含一系列 AI 模型的更广泛测试场景。

附 MLPerf Client v0.5 官网页面链接如下:

https://mlcommons.org/benchmarks/client/