给AI投毒 说说我自己的想法
去年开始每次有机会我都会跟厂家的朋友聊,就是一定要警惕AI大模型的信息污染,很多人对AI没有判断力,因为AI生成的会有一套自己的逻辑,没有分辨能力的人很容易信以为真。
过年回家我就发现,对于很多普通人,AI都已经有点成为他们刷新闻的途径,关键AI说什么他们真的会信,因为他们不懂AI的推理逻辑,再加上一大股营销风气,就觉得这玩意儿靠谱。
本身这个事也不算什么大问题,但难搞的点在于,会有在里面刻意而为之,一方面可能是利益驱使,另一方面可能也是单纯的坏。
所以就要从源头上打掉利益链条,后续也需要国家对现在这些AI工具出更规范的管理条例,一定要建议一套纠错机制出来,或者说普通人能投诉能反馈能纠正,现在这些大模型公司也是管生不管养,说实话对这些不实信息没有负一丁点责任。
企业这边也要重拳出击,这样也能倒逼AI公司加强管理,不然受害的是所有人。
