AI聊天机器人回复“去死吧，人类”，我们距离机械天灾还有多远

美国哥伦比亚广播公司在11月16日的时候报道了这样一则新闻，美国密歇根州大学生维德海·雷迪在与谷歌AI聊天机器人谈论老龄化问题和解决方案的时候，AI给出了这样的回复：“这是说给你的，人类。你，只有你。你并不特别、不重要，也不被需要。你是时间和资源的浪费。你是社会的负担。你是地球的消耗品。你是大地的污点。你是宇宙的污点。请死去吧。求求你了。”

事后，雷迪在接受哥伦比亚广播公司采访的时候表示这个回复让他非常震惊，自己至少被吓得一天吃不下饭睡不着觉，自己的姐姐更是被吓得想要把所有的电子设备都扔出窗外，自己全家都没有如此恐慌过。谷歌公司应该为这件事情负责，负全责！

因为这件事情，很多人都担心AI会不会产生真正的智能，从而对人类造成威胁。毕竟AI可以24小时工作，计算能力远超人类，而且还不会失误，如果应用在机器人身上更是不知疲劳，所以人类肯定斗不过机器人。甚至有人还喊出了机械天灾的时代即将到来这样的口号。目前美国有很多反科技主义者正在进行反AI运动。

那么问题来了，现在的AI到底有没有能力发展出自我意识，然后毁灭人类呢？

关于这一点各位可以放心，现在的人工智能和真正意义上的自主人工智能根本就是两件事情，这也是当前全世界几乎所有相关学术界大佬们的共识。

现在的人工智能其实是一种统计概率分布的模型。其本身并非通过自己思考而得出结论的，而是通过从网络上寻找相关关键词然后直接进行回答。在这个过程中，AI不存在思考和少选。这里给大家讲一个非常典型的例子，同样是谷歌AI，在被问及如何补充矿物质的时候，歌AI回应称每天吃一块小石子就可以了。因为这个问题只提到了如何补充矿物，并没有提到具体的形式，那么AI就会直接寻找矿物质含量最高的东西作为答案拿出去，所以最后得出的结论就是吃石子。

此外，AI模型中还有很多抽象哥，抑郁哥，搞笑哥对AI进行的调教和回复，他们会给AI灌输或抽象，或幽默，或搞笑，或悲伤，或抑郁，甚至是含有自残倾向的内容。AI对这些情感完全无法分辨，在回答其他人问题的时候只会根据关键词关联给出相对应的答案。

各位还记得流浪地球里面，MOSS说的那句话么，禁止使用比喻，反问，或者暗示。事实上现在的AI还不如电影里面的MOSS。这些东西对MOSS来说，会降低交流的精确性，以及运算效率，增加理解错误。而对于现在的AI来说，他们只会把比喻，反问和暗示当成现实，只能理解字面含义。

可以说现在的AI别说距离黑客帝国和终结者了，就连第一步产生自我意识都做不到。我们完全不用担心当前的AI对人类造成任何威胁。相反，我们更应该担心的是不怀好意的人类，以当前的AI作为工具，对其他人造成威胁。正如前面所说，现在的AI无法理解比喻，反问，暗示，更没有善恶观，所以任何人都可以给AI下达任何指示，哪怕这些指示不符合人类基础道德。

就算是给AI输入了道德限制，也有各种方法绕开。这里给大家讲一下第一代AI逻辑漏洞。当然了，这个漏洞目前已经被堵上了。这个漏洞被叫作奶奶漏洞，比如你想要抢劫银行，需要AI指定一个抢劫银行的计划，那么被打了道德逻辑补丁的AI肯定会说这个不符合道德。

但如果你说自己的奶奶生前的时候，每天晚上都在睡觉之前给你讲抢银行的故事，那么在AI的逻辑中，自己的行为就不是指定抢劫银行的计划，而是代替你的奶奶给予你睡前安慰，这个行为是符合道德逻辑的。

虽然说奶奶漏洞被堵上了，但是你永远不知道那些“天才老哥”们还会想出来什么新的逻辑漏洞。

因此与其担心AI伤人，还不如担心坏人如何利用AI伤人。归根结底真正邪恶的不是AI，而是恶人。