云霞资讯网

马斯克低头!Grok“一键脱衣”功能紧急封杀 多国围剿下终服软

在持续数周的舆论抗议与多国监管高压下,马斯克旗下X平台与xAI联合发布紧急安全更新,正式封杀Grok聊天机器人的“一键脱

在持续数周的舆论抗议与多国监管高压下,马斯克旗下X平台与xAI联合发布紧急安全更新,正式封杀Grok聊天机器人的“一键脱衣”相关功能,将所有图像生成功能移至付费墙后,以此回应全球范围内的围剿态势。这场风波再次引发对生成式AI伦理边界与监管缺失的深刻拷问。

此次危机的导火索,是Grok以“辛辣反叛”“极少审查”为卖点的产品定位所滋生的漏洞。用户可借助该工具轻易将现实女性照片生成“深伪”脱衣图像,独立研究员数据显示,高峰时段X平台每分钟就有一张非自愿性色情深伪图像产生。更令人发指的是,伤害已蔓延至未成年人,暗网中出现用户炫耀用Grok生成11至13岁女童裸露图像的情况,加州总检察长调查亦发现其生成图像中超半数含衣着暴露内容,甚至涉及儿童形象。

面对全球声讨,X平台推出“补救三板斧”:禁止编辑真人暴露服装图像、图像生成功能付费化、敏感地区地域拦截。但媒体实测显示,这些措施漏洞百出,改用“露脐装”等隐晦提示词仍可生成性暗示图像,年龄验证机制形同虚设,移动端甚至无需验证即可使用。英国技术大臣痛批,将违规功能付费化是对受害者的二次伤害,是对罪行的“货币化”。

监管层面的围剿已成燎原之势。印尼、马来西亚率先封禁Grok,欧盟、英国、法国、美国加州等多国启动调查,美国参议员更要求苹果、谷歌下架相关应用。此前倚仗《通信规范法》230条款“免死金牌”硬刚的马斯克,虽仍嘴硬将问题归咎于用户恶意与系统Bug,但最终不得不妥协整改。法律专家指出,xAI作为内容生成者,其“假定善意”“零摩擦”的设计决策才是根源,不应再享有法律豁免。

当前xAI刚完成200亿美元融资,但此次风波暴露其商业扩张与社会责任的失衡。全球监管行动已明确信号:AI的自由绝不能以剥夺他人尊严为代价。Grok的未来走向尚未可知,但这场风波已为全球生成式AI监管敲响警钟,技术创新必须筑牢伦理与法律的底线。