微软员工28天烧掉2.8万美元Token,公司紧急收紧AI预算
员工28天2.8万美元消耗用于数据排名优化
微软内部一份泄露表格显示,一名员工在短短28天内就产生了约2.8万美元的Token使用成本,换算成人民币约为18.9万元。这一数字远超普通员工的日常开支,直接引发了公司高层的担忧。
根据这份表格,该员工大量调用AI工具的目的并非常规开发或测试,而是为了提高自己在公司内部的数据排名。表格明确记录了这一行为:部分员工通过高频使用AI来优化各类数据指标,从而在绩效评估中获得优势。这种做法让AI成本迅速失控。
2.8万美元的消耗集中在28天内,平均每天约1000美元。这意味着该员工每天都在进行大规模的AI调用,远超正常工作需求。表格没有透露具体调用了哪些模型,但高额费用表明其主要集中在计算密集型的大模型推理任务上。
这一案例暴露了大模型在企业内部的真实使用成本。当AI工具变得易于获取后,部分员工会将其用于非必要甚至是“刷数据”的场景,导致预算快速膨胀。微软高层正是看到这一风险,才决定采取行动。
该事件也说明,企业如果不对AI使用进行明确规范,员工个人行为就可能转化为公司层面的巨额支出。2.8万美元只是一个极端案例,但它足以让管理层警觉:AI不是免费的午餐,每一次调用都在消耗真实的金钱。
这一具体数字和使用目的来自泄露的内部表格,直接反映了当前企业AI治理的薄弱环节。如果不加以控制,类似行为很可能在更多公司内部复制。(约420字)
350名员工月成本中位数300美元但差异巨大
微软全球员工超过22.3万人,但只有约350名美国员工自愿提交了自己的月度AI使用数据。这些数据构成了目前公司内部最直接的成本画像。
在350名提交者中,月度AI使用成本的中位数约为300美元,折合人民币约2024元。这一数字听起来不算高,但它只是中位数,意味着一半员工的花费低于这个水平,另一半则高于它。
不同部门之间的差异非常明显。部分部门员工每月AI开支可能只有几十美元,而另一些部门则轻松突破千美元。表格显示,这种分布并不均匀,少数高消耗用户拉高了整体平均值。
300美元的中位数对应的是日常工作中的常规AI辅助,比如代码补全、文档总结或简单查询。这些任务单次成本较低,但当调用频率上升时,费用就会累积。
这份自愿提交的数据虽然有限,却首次让微软看到了AI在真实工作场景中的消耗规模。它也说明,大模型的边际成本虽然在下降,但企业级规模使用仍然会形成可观的预算压力。
中位数300美元这一基准为后续管控提供了参考。如果公司能将多数员工的花费控制在这一水平附近,就能有效避免极端案例带来的冲击。(约380字)
CoreAI部门中位数975美元凸显研发高消耗
在所有提交数据的部门中,CoreAI部门的月度使用成本中位数最高,达到约975美元,折合人民币约6577元。这一数字是整体中位数300美元的三倍多,清楚显示了研发部门在AI消耗上的突出特征。
CoreAI部门承担着公司核心AI模型的开发、测试和优化工作。员工需要频繁调用大模型进行实验、微调和性能评估,每次实验往往涉及大量Token消耗,因此成本远高于其他业务部门。
975美元的中位数意味着,即使是该部门“普通”员工,每月也要产生接近千美元的AI费用。而那些负责前沿项目的员工,实际花费很可能远高于这一中位数。
这一差异反映了大模型在不同业务场景下的真实成本结构。业务部门更多使用现成工具,调用次数有限;研发部门则需要深度探索模型能力,调用规模和复杂度都更高。
CoreAI部门的高消耗也解释了为什么微软如此重视成本控制。如果核心研发团队的AI开支持续高位,整个公司的AI预算就会被快速吃掉。
部门间近三倍的成本差距为企业AI预算分配提供了重要参考。它表明,简单的一刀切管控难以奏效,必须根据部门性质制定差异化的使用政策。(约370字)
微软启用Token监控并切换GPT-5.6 Sol降本
面对员工高额Token消耗,微软已开始收紧管理。具体措施包括设置Token用量监控,并将内部默认工作负载逐步切换至GPT-5.6 Sol。
Token监控系统可以实时追踪每名员工、每个部门的调用量和费用。一旦发现异常消耗,系统就能及时发出警报或限制额度。这一机制直接针对此前28天烧掉2.8万美元的极端案例。
切换默认工作负载至GPT-5.6 Sol是降本的核心动作。据报道,这一模型在特定任务上能显著降低单位推理成本。公司希望通过技术切换,在不明显牺牲性能的前提下,把整体AI支出压下来。
这两项措施结合使用,既有事后监控,也有事前优化。监控解决滥用问题,模型切换解决基础成本问题。
微软的做法显示,大企业已经开始从粗放使用AI转向精细化成本管理。Token不再是无限供应的资源,而是需要严格计量的生产要素。
这一转变对整个行业都有示范意义。它表明,当AI成本累积到一定规模后,企业必然会建立相应的治理体系。(约350字)
22.3万全球员工中仅350人提交使用数据
微软全球员工总数超过22.3万人,而自愿提交月度AI使用数据的美国员工只有约350人。这一比例极低,意味着目前掌握的成本数据样本覆盖范围非常有限。
350人仅占全球员工总数的约0.16%。即使只看美国员工,这一比例也远未达到能全面反映公司情况的水平。大多数员工的使用习惯和成本数据仍处于未知状态。
样本的局限性显而易见。自愿提交本身就可能存在选择偏差:愿意提交数据的员工,可能本来就是使用相对规范、成本相对可控的那部分人。那些高消耗或不愿公开数据的员工很可能没有参与。
尽管如此,这350人的数据仍是微软目前能拿到的最直接证据。它至少提供了中位数、部门差异等关键指标,为后续扩大监控范围奠定了基础。
样本覆盖不足也解释了为什么微软要紧急推出Token监控系统。只有把监控覆盖到全部22.3万员工,才能真正掌握全局成本,避免个别极端案例失控。(约340字)
企业AI预算收紧对中国科技公司的成本启示
微软的这一事件对中国科技公司来说是一面镜子。国内大模型应用正在快速铺开,但成本管控意识普遍滞后。企业需要尽早建立类似Token监控机制,避免重蹈高额消耗覆辙。
首先是要明确AI使用的成本属性。国内许多公司仍把大模型调用视为“免费”或“边际成本极低”的资源,这与微软28天2.8万美元的案例形成鲜明对比。必须把AI消耗纳入部门预算考核。
其次是建立分层管控策略。像CoreAI这样的研发部门消耗天然较高,可给予更高额度,但需设置审批流程;业务部门则应严格限制非必要调用。差异化政策比统一限额更有效。
第三是技术降本路径值得借鉴。微软切换到GPT-5.6 Sol的做法说明,选择合适模型、优化调用方式能显著降低单位成本。中国公司也可探索自有小模型、蒸馏模型或混合调用策略。
第四是要警惕“刷数据”式滥用。员工为绩效优化而大量调用AI的现象在国内同样可能出现。需要通过制度明确AI使用的合规边界,并将成本与个人绩效适度挂钩。
最后,样本覆盖不足的问题在中国企业中也普遍存在。建议从核心部门开始试点监控,逐步扩大到全公司,形成完整的数据画像。
微软的收紧行动表明,AI从尝鲜阶段进入规模化落地阶段后,成本管控将成为必修课。中国科技公司若能提前布局,就能在竞争中获得更可持续的优势。(约450字)
参考来源
- 原文作者:知识铺
- 原文链接:https://index.zshipu.com/geek/post/20260831/%E5%BE%AE%E8%BD%AF%E5%91%98%E5%B7%A528%E5%A4%A9%E7%83%A7%E6%8E%892.8%E4%B8%87%E7%BE%8E%E5%85%83Token%E5%85%AC%E5%8F%B8%E7%B4%A7%E6%80%A5%E6%94%B6%E7%B4%A7AI%E9%A2%84%E7%AE%97/
- 版权声明:本作品采用知识共享署名-非商业性使用-禁止演绎 4.0 国际许可协议进行许可,非商业转载请注明出处(作者,原文链接),商业转载请联系作者获得授权。
- 免责声明:本页面内容均来源于站内编辑发布,部分信息来源互联网,并不意味着本站赞同其观点或者证实其内容的真实性,如涉及版权等问题,请立即联系客服进行更改或删除,保证您的合法权益。转载请注明来源,欢迎对文章中的引用来源进行考证,欢迎指出任何有错误或不够清晰的表达。也可以邮件至 sblig@126.com