
Qzone
微博
微信
极客网·极客观察6月3日 ChatGPT横空出世后,硅谷玩起了老套路,它们以极低的价格疯狂扩张,不计成本。这一时期被称为“补贴智能”时代。
初创企业孵化器 Delphi Labs 的凯文·西姆巴克(Kevin Simback)称:“现在风向开始变了。”作为大型AI公司,你不能继续亏钱,要谋求如何赚钱了。正因如此,OpenAI和Anthropic都在寻求上市。
与此同时,AI各要素的价格都在上涨,AI智能体(AI agents)也是推手之一。智能体不限于聊天,它要求真正“做事”。运行智能体的成本更高,完成一项任务时,可能要启动几十个智能体。
AI支出勐增,生产力未见提升
运行的费用是按token(词元)计算的。相比聊天,智能体消耗的词元多出几十倍,结果导致成本勐增。
科技咨询公司 Omniux 的马克·巴顿(Mark Barton)表示:“在开发者圈子内,使用AI编程的成本呈指数级增长,所有成本开始飙升。”
J.Gold Associates的分析师杰克·戈德(Jack Gold)表示:“在某些情况下,人们发现仅仅一两个月,词元的成本就超过了员工成本,仅仅是因为他们用得太多了。”
今年早些时候,Meta鼓励员工多使用词元,并将使用量作为衡量生产力的标准,但现在Meta已经改变了看法。Meta首席技术官安德鲁·博斯沃思(Andrew Bosworth)说:“没有人应该为了使用AI工具而使用它。”
Uber的首席运营官更是直言,AI支出并未表现为生产力的明显提升。
为了降低成本,企业要么转向免费开源模型,要么引入针对特定行业的小模型,因为它们更专业。还有一些企业将AI任务拆解为小步骤,将各部分交给便宜的模型去完成。
Envorso咨询公司的阿德里安·巴尔福(Adrian Balfour)表示:“大型一体化模型每百万个词元收费15美元,但如果使用迷你模型,价格可以降到5美分左右。”
面对小模型的冲击,巨头会不会被淘汰?Gabelli Funds 投资组合经理约翰·贝尔托尼(John Beltony)认为:“前沿用户总是愿意为最好的技术买单,这是一个不断做大的蛋糕。”
单位经济效益正在崩溃
今年二季度,当许多企业看到AI账单后陷入了深思。一些人公开质疑:“面对巨额账单,自主智能体是否真的物有所值?”以前我们问的可能是“AI能否创造需求”,现在变成了“AI能否填补供应缺口”,再进一步,有人开始问:“等一下,我们的钱花到哪里去了?”
一位《财富》500强企业的高管坦言,在AI词元开销上,企业就像赌徒一样挥霍无度。一位AI顾问称,一个月内,有客户在Claude花了5亿美元。什么概念?5亿美元相当于所有美国人一个月的洗发水消费额。
一家企业一个月烧掉5亿美元词元费,知道是什么概念吗?一位网友感叹道:“5架私人飞机,2艘超级游艇,整整一座岛屿,全没了。全都蒸发成了一个个 token(词元)。真为那个不得不发出这份账单的人默哀。”
亚马逊员工曾创建一个榜单追踪AI词元使用量,现在该榜单已经关闭。虽然亚马逊宣称从未给员工设定使用目标,但有匿名员工透露:“使用AI工具的压力实在太大了。”
认知科学家加里·马库斯(Gary Marcus)警告称:“如果有更多公司像Uber、微软一样对AI的生产力表示失望,泡沫就会破裂。”
根据 SemiAnalysis的数据,智能体任务在生成答案之前就会消耗96000个词元,比一本小说的字数还要多。Ramp首席经济学家阿拉·哈扎里安(Ara Khazarian)表示:“普通企业在AI词元上的支出是2025年1月的13倍。”
聪明的科技企业似乎陷入了误区,它们认为AI使用量越大,生产力便越高。工程分析公司Faros AI发现,在高度采用AI的情况下,“代码返工率”(即删除的代码行数与新增代码行数之比)增加了800%。
虽然AI革命如火如荼,但从目前的数据看,自动化智能仍然是昂贵的。企业只能说服质疑者:“从长远看,在智能体AI上花大钱将是合理的。”挑战在于找出劳动力成本与AI成本之间的正确比例,现在大家还在寻找正确答案。
质疑者宣称:“AI的单位经济效益是崩溃的,消费者并没有为词元支付全额费用,行业靠风险投资补贴来支撑,当价格上涨时,AI需求会崩溃。”
技术还是人力,需要做出选择
企业级AI公司Glean的CEO阿尔温德·贾恩(Arvind Jain)告诉媒体,最近一段时间,各企业的首要话题是AI预算严重超标。他说:“企业告诉我们,AI预算在一个月或两个月内就花光了,而这些原本是全年的预算。”
主要问题在于,AI成本并没有像买家预期的那样下降,相反还在上涨。
前沿实验室每发布一个新模型,词元的价格往往是上代产品的两倍,所以当前模式是无法持续的。
一个现实的问题摆在首席财务官(CFO)的桌面上,技术成本已经与人力成本持平,到底选择技术还是人员?在历史上,技术成本只占企业运营总成本的很小一部分,但现在却变了。不断膨胀的AI预算抑制了人员编制的增长。
在过去大约一年里,企业的态度也在改变。最开始时,董事会要求企业在AI方面有所作为;随后,企业开始“token-maxxing(疯狂刷token)”,不惜一切代价使用AI;现在进入第三阶段,领导团队重新评估企业对高端模型的需求。
Factory AI的CEO马坦·格林伯格(Matan Grinberg)质疑称:“针对每一项单一任务,真的都需要使用Opus级别的智能吗?根本不需要啊。”
不可否认,AI技术是有效的,但它还不能自我造血(赚回成本)。大约95%的企业坚持使用昂贵模型且毫无节制,导致成本上升,这是失衡的重要原因之一。怎么办?可以将简单任务分配给廉价模型。
格林伯格说:“Opus 4.7与Opus 4.8的区别就像两位教授的区别,一个有13年教龄,一个15年,对外行来说,分不出二者的差异。”
如果AI需求是持续存在的,且买家对成本毫不在乎,那硅谷的逻辑就行得通。但来自企业的内部声明证明,它们对价格非常敏感。(小刀)
【以上内容转自“极客网”,不代表本网站观点。如需转载请取得极客网许可,如有侵权请联系删除。】
延伸阅读: