首页 > 科技 > 正文
Qzone
微博
微信

Token开销成为“黑洞”,企业狂赌AI生产力值得吗?

科技 极客网 2026-06-03 14:06

 

极客网·极客观察6月3日 ChatGPT横空出世后,硅谷玩起了老套路,它们以极低的价格疯狂扩张,不计成本。这一时期被称为“补贴智能”时代。

初创企业孵化器 Delphi Labs 的凯文·西姆巴克(Kevin Simback)称:“现在风向开始变了。”作为大型AI公司,你不能继续亏钱,要谋求如何赚钱了。正因如此,OpenAI和Anthropic都在寻求上市。

与此同时,AI各要素的价格都在上涨,AI智能体(AI agents)也是推手之一。智能体不限于聊天,它要求真正“做事”。运行智能体的成本更高,完成一项任务时,可能要启动几十个智能体。

58e9cef54690f19ef2bcad9dfab4e7d6fc87a1d510f7b8c5e1933db7d7201632.png

AI支出勐增,生产力未见提升

运行的费用是按token(词元)计算的。相比聊天,智能体消耗的词元多出几十倍,结果导致成本勐增。

科技咨询公司 Omniux 的马克·巴顿(Mark Barton)表示:“在开发者圈子内,使用AI编程的成本呈指数级增长,所有成本开始飙升。”

J.Gold Associates的分析师杰克·戈德(Jack Gold)表示:“在某些情况下,人们发现仅仅一两个月,词元的成本就超过了员工成本,仅仅是因为他们用得太多了。”

今年早些时候,Meta鼓励员工多使用词元,并将使用量作为衡量生产力的标准,但现在Meta已经改变了看法。Meta首席技术官安德鲁·博斯沃思(Andrew Bosworth)说:“没有人应该为了使用AI工具而使用它。”

Uber的首席运营官更是直言,AI支出并未表现为生产力的明显提升。

为了降低成本,企业要么转向免费开源模型,要么引入针对特定行业的小模型,因为它们更专业。还有一些企业将AI任务拆解为小步骤,将各部分交给便宜的模型去完成。

Envorso咨询公司的阿德里安·巴尔福(Adrian Balfour)表示:“大型一体化模型每百万个词元收费15美元,但如果使用迷你模型,价格可以降到5美分左右。”

面对小模型的冲击,巨头会不会被淘汰?Gabelli Funds 投资组合经理约翰·贝尔托尼(John Beltony)认为:“前沿用户总是愿意为最好的技术买单,这是一个不断做大的蛋糕。”

 

单位经济效益正在崩溃

今年二季度,当许多企业看到AI账单后陷入了深思。一些人公开质疑:“面对巨额账单,自主智能体是否真的物有所值?”以前我们问的可能是“AI能否创造需求”,现在变成了“AI能否填补供应缺口”,再进一步,有人开始问:“等一下,我们的钱花到哪里去了?”

一位《财富》500强企业的高管坦言,在AI词元开销上,企业就像赌徒一样挥霍无度。一位AI顾问称,一个月内,有客户在Claude花了5亿美元。什么概念?5亿美元相当于所有美国人一个月的洗发水消费额。

一家企业一个月烧掉5亿美元词元费,知道是什么概念吗?一位网友感叹道:“5架私人飞机,2艘超级游艇,整整一座岛屿,全没了。全都蒸发成了一个个 token(词元)。真为那个不得不发出这份账单的人默哀。”

亚马逊员工曾创建一个榜单追踪AI词元使用量,现在该榜单已经关闭。虽然亚马逊宣称从未给员工设定使用目标,但有匿名员工透露:“使用AI工具的压力实在太大了。”

认知科学家加里·马库斯(Gary Marcus)警告称:“如果有更多公司像Uber、微软一样对AI的生产力表示失望,泡沫就会破裂。”

根据 SemiAnalysis的数据,智能体任务在生成答案之前就会消耗96000个词元,比一本小说的字数还要多。Ramp首席经济学家阿拉·哈扎里安(Ara Khazarian)表示:“普通企业在AI词元上的支出是2025年1月的13倍。”

聪明的科技企业似乎陷入了误区,它们认为AI使用量越大,生产力便越高。工程分析公司Faros AI发现,在高度采用AI的情况下,“代码返工率”(即删除的代码行数与新增代码行数之比)增加了800%。

虽然AI革命如火如荼,但从目前的数据看,自动化智能仍然是昂贵的。企业只能说服质疑者:“从长远看,在智能体AI上花大钱将是合理的。”挑战在于找出劳动力成本与AI成本之间的正确比例,现在大家还在寻找正确答案。

质疑者宣称:“AI的单位经济效益是崩溃的,消费者并没有为词元支付全额费用,行业靠风险投资补贴来支撑,当价格上涨时,AI需求会崩溃。”

 

技术还是人力,需要做出选择

企业级AI公司Glean的CEO阿尔温德·贾恩(Arvind Jain)告诉媒体,最近一段时间,各企业的首要话题是AI预算严重超标。他说:“企业告诉我们,AI预算在一个月或两个月内就花光了,而这些原本是全年的预算。”

主要问题在于,AI成本并没有像买家预期的那样下降,相反还在上涨。

前沿实验室每发布一个新模型,词元的价格往往是上代产品的两倍,所以当前模式是无法持续的。

一个现实的问题摆在首席财务官(CFO)的桌面上,技术成本已经与人力成本持平,到底选择技术还是人员?在历史上,技术成本只占企业运营总成本的很小一部分,但现在却变了。不断膨胀的AI预算抑制了人员编制的增长。

在过去大约一年里,企业的态度也在改变。最开始时,董事会要求企业在AI方面有所作为;随后,企业开始“token-maxxing(疯狂刷token)”,不惜一切代价使用AI;现在进入第三阶段,领导团队重新评估企业对高端模型的需求。

Factory AI的CEO马坦·格林伯格(Matan Grinberg)质疑称:“针对每一项单一任务,真的都需要使用Opus级别的智能吗?根本不需要啊。”

不可否认,AI技术是有效的,但它还不能自我造血(赚回成本)。大约95%的企业坚持使用昂贵模型且毫无节制,导致成本上升,这是失衡的重要原因之一。怎么办?可以将简单任务分配给廉价模型。

格林伯格说:“Opus 4.7与Opus 4.8的区别就像两位教授的区别,一个有13年教龄,一个15年,对外行来说,分不出二者的差异。”

如果AI需求是持续存在的,且买家对成本毫不在乎,那硅谷的逻辑就行得通。但来自企业的内部声明证明,它们对价格非常敏感。(小刀)

【以上内容转自“极客网”,不代表本网站观点。如需转载请取得极客网许可,如有侵权请联系删除。】

 

延伸阅读:

 

责任编辑: fjq4191

责任编辑: fjq4191
人家也是有底线的啦~
广告
Copyright © 2018 TOM.COM Corporation, All Rights Reserved 新飞网版权所有