AMD的发布日表现,坦率说是一场灾难。MI355X当天只能运行FP8——原生的FP4+FP8混合精度的模型权重根本无法使用——在8K/1K工作量下,每GPU仅产出惨淡的20.4 tok/s,每位用户只有2.4 tok/s 。ROCm软件栈根本没有经过优化,基本只是
AMD的发布日表现,坦率说是一场灾难。MI355X当天只能运行FP8——原生的FP4+FP8混合精度的模型权重根本无法使用——在8K/1K工作量下,每GPU仅产出惨淡的20.4 tok/s,每位用户只有2.4 tok/s 。ROCm软件栈根本没有经过优化,基本只是