0
分享至
用微信扫码二维码
分享至好友和朋友圈
观点网讯:10月23日,中国信通院人工智能研究所联合中国人工智能产业发展联盟发布《大模型词元服务性能监测报告(2026年)》。报告基于2026年1至8月监测数据,围绕调用成功率、吞吐速度、首词时延、稳定性、价格、上下文窗口等维度展开分析。
词元消耗方面,2026年6月,国内词元日均消耗量约500万亿,是2025年12月的近4倍。
吞吐速度方面,8月国内各模型平均TPS(每秒输出词元数)达78.23,较2025年均值38.25翻倍。
但国外典型模型8月TPS均值为112.82,整体仍优于国内。
时延方面,国内模型平均TTFT(首词时延)8月均值达1.26秒。
免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。
本文源自:观点网
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
/阅读下一篇/
返回网易首页
下载网易新闻客户端
下载网易新闻客户端
