扬子AI智能体Newseek迎来上线“大考”，南大周志华教授也来提问了！

春风习习暖江淮！又到一年一度的全国两会时间。2月28日，紫牛新闻AI智能体Newseek种下一颗两会“智慧种子”。在接下来的两会时间中，Newseek将不断学习两会“灌溉”知识， 帮助这棵“智慧树”快快长大。

得知扬子晚报两会AI智能体Newseek的动态后，全国政协委员、南京大学周志华教授用自己近期关心的话题做了个“测试”。“如果让我提问Newseek，那我的问题是，在往届全国两会中，代表委员们是否提出过关于人工智能生成内容监管立法的相关提案？”周志华表示，作为信息收集和整合的辅助，AI确实是个好帮手，但要小心误信、不能滥用。

全国政协委员、南京大学周志华教授 戎毅晔 摄

人工智能要小心误信、不能滥用

“现在看到的听到的，都不见得是真的。”周志华告诉记者，伴随着人工智能的飞速发展，大模型的普遍应用，现实的法律挑战随之而来。

周志华表示，当下人工智能生成的内容，一方面可以在很多领域发挥作用，如短视频、电影、文学等领域，但另一方面，如果出现滥用和误信，会造成很多危害。周志华介绍，人工智能生成内容的技术成本低、门槛低，易被犯罪分子利用。同时，由于大众对于人工智能生成内容的认识不足，对深度造假的内容易误信而造成损失。“现在大家对于电诈等行为已经有比较多的了解，但对于人工智能生成内容，一般人的警惕性还不够。” “前不久我们了解到一个案例，一家公司的工作人员收到短信通知让他参加视频会议，在会议上领导当面让他尽快汇出一笔款项，会后他照做了。后来才发现他被骗了，因为这个会议、包括会议上的领导，都是犯罪分子利用人工智能生成出来的。”

目前，人工智能生成内容的立法和监管还比较欠缺，“对于借助人工智能生成内容来从事不法行为进行牟利、损害他人的名誉、损害知识产权等，在依法打击惩处方面还缺少充分的法律支撑，所以，我们期待加快推动人工智能生成内容方面的立法和监管”。

周志华建议，对于人工智能生成内容应要求明确标注，让受众有明确的知情权，这样能给普通人增强保护。

作为辅助，智能体是个“好帮手”

人工智能生成内容的发展，合理的“度”在哪里？“当前的人工智能技术，我总结了8个字：允许出错，作为辅助。”周志华表示，在一般任务上，人工智能作为助手已经可以提供许多帮助，但“在一些对可靠性要求非常高、不允许出错的场合，一定要意识到不能完全依靠它，一定要靠人来做最后的判断。”

值得肯定的是，各种大模型和智能体的出现，逐渐成为了人们的助手。周志华举例，借助AI可以收集资料，“人工智能作为助手，用得恰当，可以带来很多帮助。”

周志华教授关心的热点话题，扬子AI智能体Newseek是怎样回答的？记者摘录了部分答案，这样的信息收集结果，符合您对于两会智能体的期待么——

在过往的全国两会中，代表委员们多次提出关于人工智能立法的相关建议，涉及立法框架完善、技术治理、伦理规范及国际合作等多个方面。以下是主要建议的梳理：

1. 推进人工智能专门立法

立法框架与核心价值观：全国政协委员吕红兵提出，应通过制定行政法规提升人工智能立法层级，将社会主义核心价值观贯穿于技术开发、应用和监管全流程，明确各主体责任边界。

专项立法必要性：全国政协委员陈力连续两年建议推动人工智能专门性立法，构建总体性、保障性和功能性的法律体系，并通过司法解释或修正案解决现有争议，例如知识产权、隐私保护等问题。

2. 加强法律适用与治理

现有法律延伸适用：全国人大常委会法工委研究室处长王洪宇建议优先灵活适用《网络安全法》《数据安全法》等现有法律，通过司法解释应对AI技术带来的法律挑战（如大模型训练中的版权问题），并在地方试点授权立法。

打击AI生成虚假信息：新疆政协委员海尼扎提·托呼提提出细化法律条款，明确AI生成内容的标识、审核及责任划分，加大对传播不实信息的惩处力度，并要求平台建立专项审核团队。

3. 伦理规范与风险防范

技术治理与伦理标准：科技部在回应政协提案时强调需完善伦理规范和安全标准体系，通过立法促进技术“包容审慎”发展，同时推动数据安全共享和关键技术研发。

防范AI失控风险：国际治理专家邓肯·卡斯-贝格斯在人工智能行动峰会中国边会上呼吁加强国际合作，设计全球治理机制以应对AI技术可能超越人类控制的潜在风险。

4. 争议与审慎态度

立法时机争议：实务界对专门立法存在分歧。例如，律师袁立志认为当前AI技术和产业尚处早期阶段，仓促立法易产生偏差，建议以试点和行业标准先行。

行业态度分化：调查显示，仅三成律师和法务人员支持尽快出台专门立法，更多倾向于通过现有法律框架逐步完善。

5. 国际合作与经验借鉴

陈力等委员建议借鉴欧盟《人工智能法》等国际经验，推动国内外技术标准互认，并在保障国家安全的前提下深化国际合作，共建AI治理共同体。

扬子晚报/紫牛新闻记者 杨甜子

校对 李海慧