Is a 10x Increase in Token Consumption the Benchmark for Corporate Transformation? Three Industry Leaders Share How to Maximize Cost-Effectiveness
Leiphone
雷锋网
想让大模型替自己卖命,一查Token账单,却有一种“重生之我为大模型公司打工”的错觉。 这样的案例,已经开始在不少企业内部上演。 尽管过去一年里,每百万Token的推理成本大约下降了75%,但成本下降的曲线远远比不过消耗量增长的斜率。 全球最大的大模型API聚合平台OpenRouter统计数据显示,截至2026年3月,其年化Token吞吐量呈现10倍增长。 与此同时,资本市场也用脚投票——Anthropic年化收入在短短三个月里突破300亿美元大关,增幅约为233%…… 面对Token消耗量至少翻了一个数量级的现实,“如何在高效使用Token的同时有效控制成本”的问题随之而来。为此,雷峰网邀请3位来自产业链不同环节的一线大佬共同解读Token膨胀背后的效率账本: 尚明栋:九章云极联合创始人兼COO ,原微软服务器高可用集群文件系统核心开发工程师,曾参与发布Windows 7和Windows 8,是SMB 3.0的主要拟草人之一。 肖嵘:云天励飞副总裁、首席科学家、正高级工程师,历任微软研究院高级研究员、微软必应搜索资深软件工程师、平安产险人工智能部总经理等。 关涛:云器科技联合创始人、
