正文内容 评论(0)
八、总结:轻薄本没有显卡一样能部署本地AI大模型 而且还很好用
Intel酷睿Ultra 9 285H处理器基于Arrow Lake架构,拥有6个性能核,8个能效核和2个低功耗能效核,一共16核心,但不支持超线程技术,所以总线程数也是16, 性能核最大睿频频率为5.4GHz,拥有24MB高速缓存。
它内建Intel锐炫140T显卡,包含8个Xe核心,同时还内置NPU,能够提供高达13 TOPS的算力。CPU+GPU+NPU全平台总算力达到99 TOPS,为本地运行大模型提供了很好的支撑。
AI PC并不是预装几个AI软件提供云服务就算AI PC了,如果只是购买云端AI算力服务来使用,那几年前的电脑甚至手机也一样能做到。
AI PC最强大的地方就在于本地算力,购买了全新的AI PC,就拥有了这些算力,能陪着你走遍天涯海角,能在断网等环境下使用本地算力持续运行,这也是本地部署AI大模型的意义。
得益于Intel酷睿Ultra 9 285H处理器的强大性能和极高的能效,让轻薄本也能轻松在本地部署AI大模型,运行14B参数规模的Deepseek-R1大模型也不在话下。
本地部署大模型,也是要根据实际用途来选择合适的模型来部署,现在开源的模型这么多,我们也不能想着直接部署最强的模型就能包打天下,也要根据实际用途选择来选择。
我们为翻译服务选择了Qwen2.5:1.5B模型,看起来规模和Deepseek-R1:1.5B模型规模相当,但在翻译质量上差距十分明显,但如果是编程或者写作之类的需求的话,Deepseek-R1:14B模型才是更好的选择。
Intel现在正在大力推广AI硬件,酷睿家族处理器的AI性能在一次次AI创新应用大赛中被深度发掘,Intel OpenVINO推理框架也越来越收到重视,轻薄本的AI性能也越来越好,即使没有显卡的AI PC,将来也会也会越来越好用。
- 热门文章
- 换一波
- 好物推荐
- 换一波
- 关注我们
-
微博:快科技官方
快科技官方微博 -
今日头条:快科技
带来硬件软件、手机数码最快资讯! -
抖音:kkjcn
科技快讯、手机开箱、产品体验、应用推荐...