人工智能调用成本正大幅下降,然而企业人工智能开支仍在持续攀升。
这一核心悖论,正是麦肯锡高级合伙人唐吉·卡特林(Tanguy Catlin)与拉里·哈马莱宁(Lari Hämäläinen)近日在麦肯锡线上直播活动“提升代理式人工智能的经济效益”中探讨的议题。本场活动还重磅发布了公司《2026年人工智能现状》调研报告。
兼任麦肯锡数字业务负责人的哈马莱宁表示:“达到一定能力水平的人工智能服务成本正大幅下降。”
例如2023年推出的GPT-4,8K上下文API定价为每百万输出词元60美元。他解释称,如今,在主流基准测试中性能与GPT-4大致相当的模型,运行成本已降至当年的零头,但企业的人工智能投入仍在持续增加。
原因在于:单位智能产出的成本虽在暴跌,但企业对人工智能算力的消耗量呈爆发式增长。
哈马莱宁指出,虽然模型单位产出成本持续下降,但企业要求人工智能完成的推理任务与工作量大幅增加,尤其是借助智能体完成。与此同时,部分人工智能供应商也从效率提升中获益——实现利润率提升。
以软件开发为例,AI智能体能够反复检查、修改、重写整个代码库,其生成的代码量远超普通开发人员的常规工作量。
代理式人工智能的成本逻辑
哈马莱宁表示,企业才刚开始理解代理式人工智能的成本逻辑。传统软件执行单次任务的成本相对可预测,但智能体可通过不同路径达成同一目标,成本波动极大,同一任务不同运行的成本最高相差30倍。
成本大多消耗在生成最终结果前的推理与反复优化环节。系统设计尤为关键:哈马莱宁指出,选择单智能体还是多智能体架构,将极大地影响任务执行成本。
人工智能成本管理如今更侧重于从系统设计源头避免词元浪费。
他表示,管理者不应以单词元成本来衡量智能体表现,而应从任务维度进行整体评估:执行一项任务需投入多少成本、智能体的成功率如何、以及人工复核结果需耗费多少时间。
他指出,经验法则是:当核验智能体输出内容的时间,远低于人工从头完成这项任务的时间时,智能体才有落地价值。他补充道,如果人工完成一项任务需要一小时,而核验智能体结果只需六分钟,那么只要智能体的任务成功率高于10%,它就能创造价值。
他表示,更大的挑战在于重新设计配套工作流程,以充分利用智能体释放出的产能。
麦肯锡全球研究院董事卡特兰表示:“事实上,成本管控不存在单一抓手。”他梳理了企业管控人工智能支出的三大方面:
第一,企业需掌握开支明细,定位消耗资源的应用场景、业务部门、智能体、模型与人员;
第二,企业需优化工作流程:根据任务复杂度匹配适配模型,将请求分发至适配模型,缓存可复用上下文,减少不必要的工具调用与智能体循环;
第三,企业需强化采购管理:清理闲置授权、管理配额、与供应商协商合同条款,避免过度依赖单一模型或供应商。
但卡特兰提醒道,管控成本并不等同于一刀切。企业应确定人工智能投入回报最高的领域,并推进有的放矢的优化。(财富中文网)
译者:中慧言-王芳