Qzone
微博
微信
极客网·极客观察7月17日人工智能到底给我们带来了什么？如果是不断上升的生活成本，你还愿意为它叫好吗？
铺天盖地的大语言模型，消耗大量资源，科技公司斥巨资买下70%的内存，两年前，一块350美元的硬盘现在要800美元，实惠笔记本甚至有可能消失。
我们经历过计算机技术突飞猛进的时代，即便是那时，电力消耗也没有增长如此迅猛。人们冷静下来，开始质问：“生成式AI”值得吗？
早几年前，当大语言模型刚爆发时，人们就在问：“如果AI只是写诗作画，而我却在工厂打螺丝？那这样的AI有什么意义？”几年过去，这一问题仍然没有解决。不可否认，AI的成就是惊人的，但这并不意味着它会越来越实用。
当大企业在AI上砸下重金，却发现并不值得，泡沫可能就会破裂。
《哈佛商业评论》写道：“在采用生成式 AI 的公司中，一个令人困惑的矛盾正在上演：虽然员工大多都在拥抱这项技术，但很少有人看到它创造真正的价值。”《哈佛商业评论》总结道，许多被创造出来的东西实际上是“工作垃圾（workslop）”。
如果创造的“工作垃圾”不要成本，那还好，但现实却是成本高得惊人。
参数越大资源消耗越多
2020年时大模型的参数只有1750亿个，到了今天已经增至1万亿个。实际上，大语言模型本不应该成为卖点，但业界却鼓吹说参数越多、模型越大，越是优秀。行业形成一种迷信，似乎只要将模型做得足够大，一切问题就能迎刃而解。
OpenAI首席执行官奥特曼曾写道：“或许只需要10吉瓦的算力，人工智能就能找到癌症治愈办法。”
在现实世界的软件中，规模越大，收益会降低，但人工智能的表现很差劲，再增加一些参数，提升并不明显。从经济和工程的角度看，生成式人工智能或许是最糟糕的技术。
当前人工智能的高估值无疑是一个泡沫，公司的盈利遥遥无期，主要是技术成本高昂、效率低下导致的。
从技术角度看，大语言模型的扩展呈二次方增长，稍懂常识的人都知道，这种扩张方式十分糟糕。传统上，人工智能应该模拟人类思维过程来解决问题，当前的人工智能并不描述人类思维规律，而是向计算机提供无数示例，让它模仿。
人工智能记不住事实，缺乏常识，与生物大脑毫无相似之处。人工智能专家扬·勒丘恩（Yann LeCun）最近对《纽约时报》表示：“大语言模型并非通向超级智能的正确路径，连人类水平的智能都做不到。”
我们必须承认，人工智能根本没有意识。当前的计算机已经遇到瓶颈，坚信大语言模型终将催生出“心智”，这可能只是一种奢望。
高风险行业不敢用
生成式 AI 的设计初衷是“通用”，而非“可问责”。有许多环境是受到严格监管的，在这些环境中部署生成式AI时会出现各种问题，使用者面临法律、监管、财务和声誉等多种风险。
在受监管领域，通用大语言模型的风险源自于其构建方式。从根本上说，LLMs 的训练目标就是在海量文本语料库中进行预测，挑选下一个最可能出现的词。如果语言流畅，就会得到激励，从而生成一个看起来正确的答案，它可能违背事实。在后期训练阶段可能会纠正，让答案看起来符合事实，但这种纠偏并无保证。
事实是否准确、是否可以追溯、是否可复现，这些都没有保证。正因为存在结构缺陷，生成式AI天生漏洞重重。在法庭或监管审计中，一个无法追溯来源、无法按需复现的答案不会得到支持。
在通用环境中，轻微幻觉只是小麻烦，但在法律和合规领域如果出现错误，会引发索赔和法律纠纷。严酷的现实告诉我们，生成式模型对证据、风险和合规环境是“盲目”的。如果在现实中大规模推广生成式AI，引发的后果难以承受。
随着合规负担日益加重、数据量爆炸式增长，企业领导者不能只是问：“AI 能帮我们更快完成这件事吗？”为了保护组织免受声誉损害和监管制裁，他们更应该问：“在现实业务中，我们的 AI 能否满足证据、监管和运营要求？”
很明显，目前的生成式工具无法达标，抛弃单纯的对话式套壳应用，转向为特定场景打造、安全、可审计的系统架构是必然选择。
AI垃圾内容泛滥
在企业内部，每天都会有提案、报告、合同、邮件，产生的数据已经超出我们的治理能力。当我们大规模使用AI时，内容生成的速度不断加快，但质量和治理能力却没有随之提升。
泛滥的内容似乎属于每个人，但又不属于任何人。当员工离职，他留下的内容成为“孤儿”，重复的内容不断累积，高价值内容却被淹没。
请问：谁负责治理系统内的内容？现实是：无人负责。
生成式AI不知道哪些内容是新的，哪些是权威的。它只知道埋头推理，根据自己能访问的内容疯狂推理。过时的内容会误导AI，未治理的内容会被AI当成有效信息。
这还只是企业内的内容，如果是社交媒体呢？想想会是怎样的结果。
现在的社交媒体，“AI垃圾内容（AI slop）”已经呈现出泛滥之势。有统计显示，每天用在线AI图像生成工具生成的图片高达3400万张，还在呈指数级增长。社交媒体信息流、新闻推送、网站、浏览器搜索，到处都充斥着垃圾内容。
俄亥俄大学赞斯维尔分校（Ohio University Zanesville）小学教育助理教授Jennifer Garrette Lisy称：“AI垃圾内容可以在瞬间生成，然后立即分享到数十个社交媒体网站上。以前，Pinterest是好地方，你可以寻找园艺或家居装修灵感。现在，Pinterest内容约57%是AI内容。”
AI与数字修辞学助理教授Paul Shovlin博士认为，平台希望保持用户的注意力，增强参与度，希望所有人紧紧盯着屏幕，所以海量内容是必不可少的。垃圾内容会激怒人们，抓住他们的注意力，进而推动社交媒体的互动量，所以社交媒体会倾向于鼓励这种内容。
俄亥俄大学计算机科学助理教授Chad Mourning则说：“在注意力经济中，平台需要内容，而垃圾内容可以提供这一点，但它们也需要具有吸引力的内容。在A平台，如果我必须划掉四个视频才能找到有趣的内容；在B平台上，它却能直接推送我想要的东西，我肯定会选择B放弃A。”只有用户体验变差，企业才会回应。
社交媒体想要的是眼球和点击量，如果人们对AI垃圾内容的泛滥感到反感，平台就会想办法限制其传播范围。至于如何管理这些内容，是大家都需要思考的问题。（小刀）
【以上内容转自“极客网”，不代表本网站观点。如需转载请取得极客网许可，如有侵权请联系删除。】
延伸阅读：
TOM2026-07-17 15:1507-17 15:15
点击下方菜单栏 “ 
” 选择 “分享”， 把好文章分享出去!
为推荐给更多人
分享写下你的想法>
