规模化 AI:真正的挑战是管理价值,而非削减成本

AI 改变了技术的经济学

传统的企业技术通常通过相对可预测的方式采购:许可证、订阅、基础设施承诺和实施项目。成本通常可以根据员工人数、系统容量或约定的工作范围来估算。

AI 并不适合这种模式。

它的成本取决于实际消耗量,并会随着所使用的模型、处理的信息量、响应的长度、工作流程的设计,以及自动化代理调用其他系统或模型的次数而变化。

因此,两个看似相似的任务,成本可能大相径庭。

当 AI 嵌入业务流程时,这一点尤为重要。一次交互可能会触发一连串的搜索、模型调用、验证和重试。看起来只是一个简单的用户请求,在幕后却可能演变成资源消耗惊人的工作流程。

与此同时,AI 的使用权限不再由技术部门独家掌控。员工只需很少的技术知识,就可以订阅新工具、构建自己的助手并创建自动化流程。这种便利性是创新的强大源泉,但也可能造成采购分散、能力重复,以及无人能够全面掌握的消耗。

这就是为什么传统的年度预算已经不够用了。AI 需要主动的需求管理。

从让消耗可视化开始

如果一个组织不知道 AI 被用在哪里,就无法有效地管理它。

首要任务应当是建立跨部门、应用、供应商和云平台的 AI 消耗统一视图。这个视图不能只停留在发票层面。领导者应当能够看到哪个业务流程在使用 AI、由谁负责、成本是多少,以及产生了什么结果。

模型调用次数或处理量等技术指标对工程师有用,但不足以支撑业务决策。更有意义的衡量指标可能包括:

• 每解决一次客户咨询的成本
• 每审阅一份文档的成本
• 每确认一个销售机会的成本
• 每次软件发布的成本
• 每处理一项理赔、案件或交易的成本
• 由 AI 驱动的工作流程所创造的收入、产能或风险降低

这改变了讨论的方式。领导者不必再问组织是否使用了过多的 AI,而是可以问某一项 AI 应用是否创造了足够的价值。

可视性也带来问责。当消耗与明确的产品、流程或业务单元关联起来时,AI 就不再是一笔说不清的中央技术开支,而成为有负责人、有预期回报的业务投资。

为任务匹配合适的智能水平

组织不会让最资深的人员去做每一项工作,同样也不应该为每个请求都动用最强大(通常也最昂贵)的 AI 模型。

许多常规任务,包括分类、信息提取、基础摘要和结构化起草,完全可以由更小或更便宜的模型有效完成。而能力更强的模型则可以留给真正需要深度推理、更高准确性或专业表现的工作。

目标并不是在任何情况下都选择最便宜的模型,而是选择能够可靠满足所需标准的最经济方案。

这一决策所考虑的不应只有价格。质量、速度、隐私、韧性和风险都很重要。在某些情况下,高端模型完全物有所值;在另一些情况下,较小的托管模型、内部运营的模型,甚至在设备上本地运行的模型可能更为合适。

关键能力在于灵活性:能够将不同的工作负载导向不同的模型,并随着技术、定价和需求的变化调整这些决策。

先改进工作流程,再优化模型

模型的选择备受关注,但低效的工作流程设计可能是更大的浪费来源。

AI 系统可能会反复处理不需要的信息,保留过长的对话历史,或生成远比任务所需详尽的响应。自动化代理可能陷入无效循环、重复失败的操作,或在一条简单规则就足够的情况下调用昂贵的服务。

这些问题很少能仅靠采购来解决,它们需要周到的工程和流程设计。

组织应当检视自己是否能够:

• 只发送与任务相关的信息
• 复用已经生成的结果
• 定义清晰的响应格式和适当的长度限制
• 为自动重试和工具使用设定边界
• 将简单请求交给更简单的模型处理
• 只升级处理真正复杂的案例
• 在引入 AI 之前,先重新设计糟糕的流程

最后一点十分重要。将低效的流程自动化,并不一定会让它变得高效,反而可能只是让低效以更快的速度、更大的规模运转。

将治理融入使用体验

政策和培训仍将很重要,但它们无法承担管理企业 AI 的全部重任。

我们不能合理地期望大多数员工理解每个模型、提示词或自动化工作流程的经济学,也不应该要求他们每次使用 AI 服务时都去查阅政策文件。

因此,良好的治理应当内置于技术本身之中。

组织的 AI 环境应当能够应用经批准的访问规则、识别异常消耗、执行合理的限额,并将请求导向最合适的服务。当额外的成本或风险确有必要时,应有清晰的审批或升级渠道。

这使得负责任的消耗成为用户的自然选择。它还让治理发生在活动发生的当下,此时它仍能影响结果,而不是在数周后收到发票时才介入。

同样的原则也适用于指导。在某人创建 AI 工作流程时提供的情境化建议,很可能比几个月前完成的一次性培训课程更有用。

将 AI 经济学视为一项长期能力

管理 AI 需求不应变成一次仅由技术团队主导的临时性成本削减行动。

它需要技术、财务、采购、风险和业务领导层之间的持续协作。这些职能需要共同预测需求、监控消耗、评估供应商,并将支出与可衡量的成果联系起来。

这一能力还必须认识到市场将不断变化。今天表现最好的模型,明天未必仍是性价比最高的。新的供应商、商业结构和部署选项会不断涌现。

因此,长期依赖单一模型或提供商,可能会同时带来财务风险和运营风险。组织应当保留迁移工作负载、重新评估采购决策,以及组合外购、自研和托管能力的灵活性。

“购买还是自建”这一老问题已经显得过于狭隘。更好的问题是:如何为每种工作负载组合并持续调整出合适的服务、模型和运营方式的搭配。

成本控制应当支持雄心

有一种危险是,AI 支出的增长可能让组织在技术刚开始产生有意义的成果时变得过于谨慎。

那将是一个错误。

严格的财务管理并不是创新的敌人,恰恰是它让持续创新成为可能。当组织能够识别浪费时,就可以将资源重新投向潜力最大的工作流程;当它了解一项成果的成本时,就可以就在哪里扩大规模做出明智的选择;当治理被嵌入环境之中时,员工就可以在清晰而务实的边界内进行创新。

在 AI 上取得成功的组织,不一定是花钱最多的,也不是削减最狠的,而是那些了解 AI 在哪里创造独特价值并能据此引导消耗的组织。

因此,企业 AI 的下一阶段,将更少地取决于能否获得模型,而更多地取决于管理的规范性。

问题不再只是“我们使用了多少 AI?”而是“我们用它取得了什么成果,这样的成果值得这笔投资吗?”