您的位置首页 >资讯 >

智谱部署10万枚国产芯片替代英伟达,AI推理成本骤降80%

快科技8月31日消息,前不久Ox-Alpha牛来大模型引发网络热议,它最终揭开身份就是智谱的GLM-5.3Flash,这是一个不靠NVIDIA显卡而是10万张国产AI芯片支撑的大模型。

智谱今天也发布了上市后的首份半年报,就提到了这批国产AI芯片的信息,称公司目前已经实现10万级国产芯片的规模化低成本推理,单位Token推理成本较年初下降80%。智谱提到,这批国产算力此前已经经过真实流量压测。智谱的API业务毛利率也从去年同期的-0.4%升至24.6%,主要靠调用规模扩大、定价上调和推理成本下降。不过智谱的亏损依然很高,同时研发也在大规模投入,上半年研发支出21.31亿元,同比增长33.6%;经调整净亏损19.64亿元,比去年同期的17.52亿元扩大12.1%。

免责声明:本文由用户上传,与本网站立场无关,如有侵权请联系删除!财经信息仅供读者参考,并不构成投资建议,投资者据此操作,风险自担。

今日大家都在搜的词: