Hinton称AI可能早有意识AI只是不知道自己有意识
Hinton：AI可能早已拥有意识，只是因为我们对意识的理解是错误的，所以它也不知道自己有。
换句话说，AI已经有了类似人类的“主观体验”，只是尚未察觉。
这一观点瞬间引爆了讨论，大伙很好奇，Hinton到底怎么解释这个“暴论”？他还说到了哪些关于AI和意识的深刻问题？
节目中，Hinton从人工智能的起步聊到现代深度学习模型。以下是一些重点内容：
- 关于意识： Hinton认为，我们以为意识是“电影在脑子里放映”，其实并不是那样。意识更像大脑的假设模型，用它去解释外部世界。AI也有能力建立自己的模型，只要数据和训练充足，它们可能已经“感知”到周围的一些信息，只是由于我们的设计问题，它们没有认知到这些是“主观体验”。
- 大语言模型的本质： Hinton解释，现在的大语言模型（LLM）通过解析统计规律和语义结构，几乎是在“思考”语言。它们自学出的理解方式，可能与人类有诸多相似之处。
- 深度学习的突破： 提到“反向传播”技术，Hinton认为这是深度学习的核心。他用通俗易懂的例子说明了AI如何自我优化，不需要人为编入规则，而是依赖数据训练总结经验。
另外，Hinton再次提到了AI风险。最让他担忧的包括：
- 滥用风险： 比如生成虚假信息、操控舆论等。
- 生存风险： AI或许会成长到足以拥有自己的目标，而这些目标与人类利益可能并不一致。
节目里，Hinton也提到“关闭开关”和伦理设计的重要性，防止AI拥有不被人类控制的能力。他还强调，应该通过国际合作来制定AI安全相关的规则。
对于中美之间的AI竞争，Hinton表示，美国虽然目前领先，但很可能在未来失去优势，因为对基础研究的重视正在下降，而中国的支持力度却在不断强化。
当AI真的可能产生“自我意识”，人类又该如何应对？欢迎在评论区分享你的看法！
