Coinbase:已将 AI 支出削减近 50%,正尝试默认采用开放权重模型
快链头条 2026-06-27 20:52:16
快链头条 消息,Coinbase CEO Brian Armstrong 发文介绍公司在 AI 成本优化方面的最新进展。
Armstrong 表示,随着 AI 使用量和 Token 消耗持续增长,控制成本的关键并非限制员工使用或频繁发送预算提醒,而是优化默认模型选择、任务路由机制以及缓存策略。
他透露,Coinbase 正通过内部 LLM 网关尝试将 GLM 5.2、Kimi 2.7 等开放权重模型作为默认选项,同时仍允许工程师根据具体任务需求选择其他模型。数据显示,公司 91% 的员工从未达到 AI 使用额度上限,因此 Coinbase 并未选择收紧配额,而是通过更低成本的模型方案提升整体效率。
在模型路由方面,Coinbase 会对提示词进行预处理,并结合缓存命中率及不同模型的定价情况,将任务自动分配给最合适的模型。Armstrong 认为,规划和推理等复杂任务可能需要前沿模型支持,但执行类任务未必需要调用成本更高的模型。未来,模型选择过程应更多由 AI 自动完成,而非依赖人工决策。
此外,他指出缓存命中率是影响 AI 成本的重要因素之一。Coinbase 已将缓存感知机制纳入请求流程,以提高历史结果复用率。以 LibreChat 为例,在优化缓存方案后,其缓存命中率已从 5% 提升至 60%。
Armstrong 还表示,公司要求工程师尽量保持上下文精简,包括切换任务时开启新会话、缩小文件上下文范围以及关闭未使用工具等,以减少不必要的 Token 消耗。
据其透露,通过上述措施,Coinbase 已成功将 AI 支出降低近 50%,同时 Token 使用量仍保持增长。
快链头条登载此文本着传递更多信息的缘由,并不代表赞同其观点或证实其描述。
文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
投资有风险,入市须谨慎。本资讯不作为投资理财建议。
7*24小时快讯
DeepSeek开源推理加速框架DeepSpec,上线DSpark让V4模型速度提升最高85%
06-27 22:01(5分钟前)
Bitget 已上线 U 本位 CAP 永续合约
06-27 22:01(5分钟前)
数据:若 ETH 跌破 1,511 美元,主流 CEX 累计多单清算强度将达 6.43 亿美元
06-27 22:00(6分钟前)
欧洲央行施纳贝尔,预计将进一步加息
06-27 21:54(12分钟前)
Bitget已上线U本位CAP永续合约
06-27 21:40(26分钟前)
市场担忧永续合约冲击传统交易所业务,洲际交易所和芝商所均遭「超卖」
06-27 21:39(27分钟前)
赵长鹏:加密市场回调受 AI 资金分流、地缘局势与周期因素共同影响
06-27 21:17(1小时前)
CZ:加密市场下跌由资金流向AI、地缘紧张局势和四年周期等多因素共同导致
06-27 21:08(1小时前)
热门资讯
风险提示
根据银保监会等五部门于 2018 年 8月发布《关于防范以「虚拟货币」「区块链」名义进行非法集资的风险提示》的文件, 请广大公众理性看待区块链,不要盲目相信天花乱坠的承诺,树立正确的货币观念和投资理念,切实提高风险意识;对发现的违法犯罪线索,可积极向有关部门举报反映。