云霞资讯网

专家:应该防止AI“胡作非为” 专家提出要防止AI“胡作非为”,这真的太有必要了

专家:应该防止AI“胡作非为” 专家提出要防止AI“胡作非为”,这真的太有必要了。以前我们担心AI“胡说八道”,生成不可信内容,现在更要担心它“胡作非为”,出现行为失控。就像开车用导航,怕它瞎指路,开智驾系统,怕它瞎开车,这可都是现实的网络安全挑战。 要防止AI技术被恶意使用,得多方协同。技术上,麻省理工开发“总不确定性指标”识别AI幻觉;法律上,要严惩“数据投毒”等恶意行为。只有这样,才能让AI在安全的轨道上发展,避免它“胡作非为”给我们带来麻烦。