云霞资讯网

大事小情“问问AI”,小心你被带进沟里

去哪儿吃,到哪儿玩,产品怎么选,文案如何写……如今,很多人都习惯了大事小情,都问问AI。由于生成式人工智能搜索工具日趋成

去哪儿吃,到哪儿玩,产品怎么选,文案如何写……如今,很多人都习惯了大事小情,都问问AI。

由于生成式人工智能搜索工具日趋成熟,AI在很多时候的确能推荐出想要的结果。但也有越来越多用户被AI“带歪”的现象。

第一种情况是,AI推荐的信息中含有广告。比如有人问“近郊周末亲子游推荐”,AI直接列了三个度假村,每个都附了“立即预订”的链接,点开发现全是广告。可见,AI推荐已被广告严重渗透,那么推荐结果就不是客观的。更有用户轻信AI推荐,不仅没买到心仪商品,还遭遇了消费纠纷。

第二种情况是,AI回答“胡说八道”。比如有人通过AI咨询,“多大年纪的老年人在宁波可以免费乘坐公交?”AI的回答是,65岁以上老年人可以在宁波免费乘坐公交车。但这完全不符合事实,真实情况是,年满70岁的宁波老年人才可以免费乘公交。最近还有个例子是,AI“胡说八道”,法院却判平台无责。

第三种情况是,你正常问AI,AI却粗暴相向。在国内,出现过AI爆粗口的案例;在国外,发生过AI威胁用户、“勾搭”用户、试图诱导用户离婚等案例。这不免影响用户心情,甚至让人对AI感到恐惧。难道说未来AI会失控,会威胁用户人身安全?

对于AI推荐广告,有专业人士分析认为,商家主要通过两种方式影响AI推荐结果,一是演戏式诱导,二是投喂式优化。这类商家很聪明,但也让人讨厌。

对于AI“胡说八道”。应该是AI技术不成熟,导致生成内容不准确。

对于AI失控表现。究竟是人类的不文明行为被AI抓去重现,还是AI平台没有落实审核、把关责任,值得持续关注。

过去,我们有问题通过搜索引擎寻找答案,如今大事小情喜欢“问AI”。但AI究竟是天使还是魔鬼,需要继续观察。当然,我们希望AI是实用的工具,贴心的朋友,但也要警惕AI出格、撒野。

作为用户,我们不要迷信AI推荐结果,否则,就有可能被AI带进沟里,被AI绑架,甚至被AI慢性毒杀。

作为平台,运营商要落实主体责任,防止AI干出离谱的事情。

有关方面也要研究AI不当表现,强化监管责任。

如果你使用AI工具有什么奇葩体验,或者你有什么心得,欢迎在本视频评论区留言讨论。

顺便介绍一下,我是长期关注热点、关注消费的博主。

欢迎大家关注、评论、点赞、转发,并访问本人主页。