6月13日,微博管理员发文称,微博积极响应中央网信办“清朗·整治AI技术滥用”专项行动要求,切实履行平台主体责任,今日对各类AI技术滥用违规行为的阶段治理情况进行公示。
微博方面称,全面清理平台内违规AI教程及商品信息,重点整治传授伪造换脸视频、换声音频的教程内容,下架违规售卖的“语音合成器”“换脸工具”等商品,并严厉打击相关营销、炒作行为;从严打击滥用AI生成谣言、伪造新闻等违规行为;优化发布流程,提升技术识别能力,建立畅通用户反馈渠道,多措并举完善AI生成内容标识体系。
官方表示,通过策略识别、人工巡查及用户举报等多渠道审核,已累计处置违规AI生成内容4800余条。
典型违规案例如下:
案例一:用户@ai技术讲解员、@23号3月妩媚芋泥在炒股因发布“最强免费AI声音克隆工具,3分钟教会你用AI克隆任何声音!超详细免费AI克隆教程找我领取。”等违规内容,传授利用违规AI产品伪造换脸视频、换声音频等教程信息,站方已予以关闭账号处置。
案例二:用户@rope直播、@AI工具人_001因发布“AI换脸V6.0来啦,解压即用的免费换脸工具,需要的可以私信。”等违规内容,售卖违规“语音合成器”“换脸工具”等商品信息,营销、炒作、推广违规AI产品信息,站方已予以关闭账号处置。
微博方面称,后续将持续加大对各类涉“AI生成”相关违规行为的打击力度,同时以此次专项整治工作为契机,全面构建AI内容安全治理体系,在技术研发、内容审核、用户教育等环节持续投入,秉持“科技向善”的理念,推动人工智能技术在合规前提下健康有序发展,为构建清朗网络空间贡献力量。
同时微博还呼吁广大用户,在遵守平台规则的前提下进行AI创作,抵制AI账号非法交易、AI技术滥用及虚假信息传播等违规行为,并积极对AI生成内容进行标注声明(声明路径:微博发布页面—右下角“公开”—选择分享范围—内容声明—内容由AI生成)。