正文内容 评论(0)
明年开源全部底层代码!电信发布千亿参数大模型“星辰语义”
快科技11月10日消息,今天,中国电信2023数字科技生态大会暨2023数字科技生态展在广州正式启幕,电信多个高管轮流上阵发布了多项产品、平台及技术更新。
其中,中国电信人工智能科技总经理何忠江正式发布了“星辰语义”千亿参数的大模型。
据介绍,星辰语义大模型是中国电信自研大模型的升级,由此前的百万参数量级升至千亿,并且各项能力均有显著提升。
何忠江表示,星辰语义拥有超12亿风格数据、训练显存降低50%、推理提速4.5倍;中文意象理解生成能力提升30%,语义细粒度生成效果提升25%。
在创意提效方面,星辰语义生产时间较此前生产工具减少92%,设计成本下降了95%。
“总体而言,千亿模型的效果有了非常显著的提升,接下来我们还要通过量化蒸馏的手段,让模型能够低成本商用。”
最后其还表示,中国电信的AI团队也将参与到开源开放的行列中。将于今年年底之前开源百亿模型,明年4月开源千亿模型,所有底层代码都会开源。
同时还将开放超过1T的高质量清洗数据,以及各种基于星辰大模型底座的工具链,满足各类用户的使用需求。