-
日期: 2025-03-23 | 来源: 中时新闻网 | 有0人参与评论 | 专栏: 腾讯 | 字体: 小 中 大
报导说，这是工业界首次将溷合Mamba架构无损应用于超大型推理模型，有效降低了传统Transformer结构的计算复杂度，减少了KV-Cache的记忆体占用，从而显着降低了训练和推理成本。
此外，基于出色的长文捕捉能力，溷元T1能有效解决长文推理中常见的上下文丢失和长距离资讯依赖问题。同时，溷合Mamba架构针对长序列处理进行了专项优化，通过高效的计算方式，在确保长文字资讯捕捉能力的同时大幅降低资源消耗，在相近的启用参数量下，实现了解码速度提升2倍。
目前腾讯溷元T1已经开放体验，同时还上线了API：输入价格为每百万tokens 1元（人民币，下同），输出价格为每百万tokens 4元。- 新闻来源于其它媒体，内容不代表本站立场！
-
原文链接
原文链接:
目前还没有人发表评论, 大家都在期待您的高见