AIPress.com.cn报道
2月24日消息,加拿大政府正就一起校园枪击案向OpenAI追问其安全应对机制。
加拿大人工智能部长EvanSolomon表示,已召见OpenAI高级安全团队赴渥太华会面,讨论公司在发现潜在暴力风险时的“升级与通报警方标准”。此前有媒体披露,一名随后实施校园枪击的嫌疑人,其ChatGPT账户在案发前数月已被内部标记并封禁,但未向执法机构报告。
案件发生于2月10日,不列颠哥伦比亚省TumblerRidge一所中学发生枪击事件,警方称18岁嫌疑人造成8人死亡,其中包括5名儿童。嫌疑人为JesseVanRootselaar。根据TheWallStreetJournal报道,该账户在案发前7个月已被OpenAI内部封禁,部分员工曾将其写作内容解读为“可能存在现实暴力风险的迹象”,并建议向加拿大警方通报。
OpenAI发言人向媒体表示,当时账户活动未达到公司向执法机构报告的内部标准,因此未进行外部通报。公司称,在枪手身份公开后,已立即主动联系警方,并正与RoyalCanadianMountedPolice(RCMP)合作支持调查。
Solomon表示,政府希望了解OpenAI在何种阈值下会升级风险、何时选择报警,以及具体安全流程如何运作。“我们需要清楚他们的安全协议,以及升级与报警的判断标准。”他对记者说。
除人工智能事务部门外,加拿大司法部长SeanFraser、公共安全部长GaryAnandasangaree以及文化部长MarcMiller亦参与相关调查。
此次事件也可能再次触发加拿大关于AI与网络有害内容监管的政策讨论。Solomon未透露政府是否会因本案推动更严格的聊天机器人监管,但表示“所有选项都在考虑之列,以确保加拿大人的安全”。
加拿大自由党政府多年来承诺推出在线有害内容法案,但在如何在保护儿童与维护言论自由之间取得平衡方面进展有限。此前两版法案在时任总理JustinTrudeau任内均未能通过议会。(AI普瑞斯编译)