七、AI体验：唯一可流畅运行大型大模型的消费级笔记本

1、AI Image Generation Benchmark--Stable Diffusion 1.5（FP16）

当Radeon 8060S使用FP16精度进行AI Image Generation Benchmark测试时，总分为674。

2、AI Text Generation Benchmark

AI Text Generation Benchmark的测试中，Radeon 8060S的PHI 3.5分数为967、MIS7RAL 7B分数为849、LLAMA 3.1分数为762、LLAMA 2分数为941。

3、DeepSeek R1

8BQ4---25.4 tokens/s

32BQ4---9.31 tokens/s。

32B模型的显存占用达到了22GB，目前为止在笔记本上仅有Radeon 8060S可以流畅运行，即便是RTX 4090 Laptop，由于其显存只有16G，强行加载32B模型会出现爆显存的情况，算力断崖式暴跌。

我们还尝试了DeepSeek R1 70BQ4大模型，经过调试后可以成功运行，生成速度为4.06 tokens/s。虽然不算很快，但也可以基本接受，稍微等等也可以正常进行问答等AI操作。后续128GB内存版本的幻X应该能够更流畅运行。