果然出现了,AI的副作用来了!作为普通人应该提高意识了!

一坨杠精 1个月前 (03-02) 阅读数 2 #社会

我们继续讲故事吧,有个星球叫利维坦,上面有个国家叫瓦坎达,江湖绰号东大!

东大今年一开年,就开始不断的在AI上发力,以那个dxxpsxxk为代表的人工智能,加上一大票玩AI的,被吵得热火朝天,吹得天花乱坠。

其实这不稀奇,东大这边,一直这样,有个什么热点,就开始拼命的吹,然后一大群蹭流量的闻着味就来了。运动式的形式,几十年如一日嘛,很正常。不过现在副作用凸显了!

前天,写了一篇文章,就讨论过相关的问题!

主要讲了两个问题:一个是大家对于AI幻觉带来的次生灾害,AI因为训练机制的设置问题,也可能跟他们的语料有关,存在迎合或者讨好提问者,从而一本正经瞎编乱造的内容。长此以往,这玩意很可能颠覆整个知识体系,虽然提高了很多人的认知下限,却也锁死了更多人的认知上限。

还有一个就是信息污染,因为AI在编小作文的时候,肯定是又快又好的,所以被很多灰产就用来编爆文,已经看到好几篇AI自己写的10万+爆文了,让人非常爽非常震惊的,如果不细细推敲的话,一般人根本辨别不出来。比如下面这个讲深圳婚恋江湖的:

长此以往,大家很可能持续生活在被虚假信息包围的内容生态里,这可比社媒的信息茧房更恐怖,因为真实成了稀缺品。

那么有些干灰产的,以及想利用这个搞认知的塔,还有一些嘎流量在自M体,就要用这个镰刀随便噶大家了!

本来以为这已经很惊悚了,没想到这些人的胆子也太大了:因为现在开始编造涉zheng涉jun的yao言了。这几天广为传播的一则就是这个,这个东西很快就被作者删除了,但是截图已经传疯了,很多人都看过:

这事吧本身的确是真的,但是传播的那些细节,全是AI瞎编的,为什么传播的这么广,这也正是AI瞎编细节和金句过于精彩离奇:

看这些AI编的细节,连微博的CEO都被震惊了。

在东大这边在社媒混久了就知道:这是明显的不能再明显的红线了,谁也不会去踩。然而现在有人为了流量就去踩了,当然他害怕了,自己删除了,但可能后边还没完,毕竟这个东西是高压线,很可能还有后续追责。

那么为什么用AI造假的人胆子这么大呢?不要命了?也就一万的阅读,也就几十块流量费不到,为了这点钱,给送自己一副银手铐?也是秀!

对于有过网络训练或者互联网使用习惯的人,以及从事这个的人,当然知道其中关系,但如果是那些农村妇女或者大妈,活着低智认知人群呢?

前些年头条风靡的时候,有专门的MCN,去葱省农村找妇女和大妈,用洗稿软件批量制造信息垃圾,一篇文五毛钱成本都不到。

后来被曝光了,行业被噶了!而到了现在,不过是这种形式的方案,他们的工作流程基本是模板化的:在网上找热点,发现热点,直接把人名和基础关键词丢给DXXpSxxk,给生成一篇文章,要有细节和金句,故事情节越离奇越好,标题越吸睛越好。

一分钟文章就好了,然后网上疯传。例如这个这就是个AI洗稿团队,专门洗10万+爆文。

标题和开头都一点也不改,下面就是AI各种编,格式都是小黑点序号,一看就是AI信息。到了现在这种情况已经非常普遍了,各大内容平台的算法分发,也不断加剧了AI洗稿、AI造yao和AI小作文的传播。

离大谱啊。想一个场景:以后看内容主要都是低成本农村大妈,通过廉价的AI编造的垃圾,关键可能还让人看得津津有味。

如果不加强监管,AI可能带来的不是认知提升,而是降智。希望有关部门重视起来,希望大厂做好兜底,还有用户也要有质疑的精神。

今天的东大需要的不是更多炫酷的AI产品,而是要让技术进步,真正惠及普通人,创造更多有效的需求和行业以及岗位。

平克们沉迷"机器人替代人"的效率狂欢,真等毕业了三天饿九顿就清醒了,真正需要的是,快递小哥的收入增长赶上无人机飞行速度,服务员女工月薪买得起AI的产品。

再卑微点讲,不要被dXXpsXXk之流,淘汰仅剩的一点经验价值。

真心希望AI可以发展慢一点,在整个体系没有变之前,等等那些“低效”的打工人。

当然我们说那么多都没用,所以一声叹息,无奈的去卷吧,也去拥抱AI吧!

tips:本文为文学创作,纯属虚构,如有雷同,实属不幸!

发表评论:

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。

一坨杠精

一坨杠精

少林寺驻武当山办事处大神父杠精