云霞资讯网

翻到一篇 2022 年 12 月 20 日「彭博商业周刊」发布的评论文章,抨击

翻到一篇 2022 年 12 月 20 日「彭博商业周刊」发布的评论文章,抨击 OpenAI 不过是硅谷又一次愚蠢的炒作。

作为全球顶级的商业期刊,它当时觉得 OpenAI 的上限就是个愚蠢的文本处理机器,并嘲笑了那些看好它的人士,搬运下这篇文章的核心原文:

获得马斯克早期注资、后又拿下微软 10 亿美元投资的 OpenAI,接连推出了几款轰动全网的产品。

这些模型先是抓取全网的图文数据,再利用机器学习算法响应用户指令,生成一张全新的图片(如 Dall-E)或一段崭新的文本(如 ChatGPT)。

但请注意,这里的“新”绝不等于“原创”。OpenAI 的工具本质上不过是在搞东拼西凑的大杂烩,就像一个学生从几个网站上东抄一段西借一句,再翻出同义词词典改换几个词,好让洗稿痕迹显得不那么扎眼。

OpenAI 拼凑出来的东西确实好玩,偶有让人拍案叫绝的时刻,特别是当你指令它将风马牛不相及的概念强行拼在一起时。

你可以让 Dall-E 画一只漂在泳池里抿鸡尾酒的猫,或是让 ChatGPT 以“复式记账法”为题,写一首十九行维拉内拉体复韵诗。

不过,生成的内容极少能完全对路:我试了不下十几次,才拿到一张勉强能看的泳池猫咪,至于那首会计打油诗,连这种诗体最基本的格律都没能守住。

但必须承认,尝鲜带来的猎奇感确实让人乐在其中。

过去几周,社交网络被这类生成内容彻底刷屏。短短数天内,上百万人涌入 ChatGPT。

舆论场开始躁动,有人迫不及待地将它比作当年的初代 iPhone,对 OpenAI 增长前景的想象更是一路狂飙。

据科技媒体 The Information 报道,尽管 OpenAI 当时的真实营收被测算仅有区区“数千万美元出头”,其估值却已被推高到了近 200 亿美元。

OpenAI 虚高的估值与人们实际愿意掏出的真金白银之间,横亘着一道巨大的鸿沟,但哪怕兜里还没挣到钱,也丝毫没有阻挡未来学家们高呼商业拐点的到来。

硅谷著名自由意志主义投资人 Balaji Srinivasan 在 Twitter 上亢奋地描绘着 AI 个性化定制电影的图景,断言“20 世纪大众媒体这一历史毒瘤将就此画上句号”。

令人意外的是,媒体圈自身竟也大范围附和了这种极端论调:Vox 疾呼“在各维度全面超越人类”的机器已经降临。

《纽约时报》的 Kevin Roose 更是抛出疑问:ChatGPT 是否预示着“白领脑力劳动的全面终结,以及一场大失业海啸的先声”?

但事实的真相是:ChatGPT 吐出的内容,与当年 Demand Media 炮制的廉价网文并无二致,退一步讲,它就像一个偷懒的高中生赶工凑出来的水论文。通篇文理尚可通顺,底子里却空洞浅薄,满是车轱辘话。

刚上手时你很难不被它那副逼真的人类腔调唬住,但一旦多聊一阵,你就会看穿底牌。

正如《大西洋月刊》撰稿人 Ian Bogost 所评述的那样,ChatGPT 生成的东西“谈不上有多强的说服力,本质上是极其高超的扯淡”。

一言以蔽之:“它远比你想象的要蠢。”

聊天机器人如同深谙废话艺术的侃爷:形式严谨,毫无灵魂。它们根本不理解世界,吞下去的训练数据本身就充斥着偏见与谬误。

因此,它们会毫不害臊地吐出歧视性言论,或者信口雌黄地复读假消息,它们还会冷不防把两件风马牛不相及的事强行捏合,制造出 AI 行业俗称的“幻觉”。

连 OpenAI 首席执行官奥特曼自己都坦承这一硬伤,他在 Twitter 上直接泼冷水:“现在任何紧要的事,依赖它都是大错特错。”

正因如此,手握同类模型 LaMDA 的谷歌至今按兵不动,始终不敢拿它轻率替换传统搜索引擎。

据 CNBC 报道,在谷歌上周的全员大会上,AI 部门主管 Jeff Dean 直言不讳地警告了聊天机器人的信口雌黄:“它完全可能张口就来,告诉你‘大象是世上产卵最大的动物’之类的话。”

彭博社记者 Dina Bass 也指出,程序员问答社区 Stack Overflow 封杀 ChatGPT 同样出于这个顾虑。

问题的死穴在于伪真实:给出的答案看似逻辑自洽,底下全是错漏,而且还能以工业级速度源源不断地批量喷吐。

一项输出看似头头是道实则漏洞百出、甚至连盈利影子都没见着的服务,凭什么让整个科技界如痴如狂?

如果你对此感到匪夷所思,那说明你还没看懂硅谷过去二十年的底层逻辑。以工业化规模倾销廉价、平庸的内容,同时对所有潜在危害置若罔闻,这套商业把戏,硅谷的风险投资人们早就兜售过无数次了。

早期的 Demand Media 如此,后来整整一代社交媒体巨头亦是如此。

事实上,除了用于洗稿抄袭,ChatGPT 目前唯一显露出颠覆性潜力的落地场景,恐怕只有社交媒体上的虚假信息战。

在绝大多数正经商业语境下,满嘴胡话毫无价值,但如果你打算在 Facebook 上批量铺设假冒壮阳药广告,或是想在信息战中跟俄罗斯水军一较高下,它堪称趁手利器。

人工智能学者、纽约大学荣休教授 Gary Marcus 直言,ChatGPT 这类机器人本质上就是信息战里的全自动武器,就这样在毫无防范的情况下被贸然投向现实世界。

Marcus 在近期的文章中预警,造谣网络必将盯上 ChatGPT,“以人类史无前例的规模冲击社交网络,批量炮制虚假网站”。

不可否认,ChatGPT 确有其用,只是天花板远比想象中要低。如果你的业务需求就是批量生产那些本就不是写给人看的八股文章,它确实堪称好帮手。(OpenAI 目前最大的企业客户之一 Jasper,主打业务就是帮客户自动生成 SEO 营销软文。)

退一步讲,在面对更复杂的创意工作时,你也可以把它当成一个粗糙的跳板:要么用它拉出一份等待精修的格式样信,要么把它当成头脑风暴的原始草稿。

照此看来,OpenAI 真正捣鼓出来的,或许不过是下一代的文本处理工具,绝非《2001 太空漫游》里那台算无遗策的超级电脑 HAL 9000。

眼前这些硬伤,显然拦不住未来学家们继续给 AI 聊天机器人编织宏大的狂想。

但我们必须时刻保持清醒:一段惊艳全场的技术 Demo,和一门能够颠覆世界的商业模式,从来都不该混为一谈。