国家网信办出手 规范生成式人工智能服务

4月11日，据网信中国微信公众号，国家互联网信息办公室发布关于《生成式人工智能服务管理办法（征求意见稿）》（简称“《管理办法》”）公开征求意见的通知。《管理办法》明确提出，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。

防止生成虚假信息

《管理办法》明确，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（简称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

《管理办法》指出，利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。

利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

此外，《管理办法》明确，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。用户发现生成内容不符合《管理办法》要求时，有权向网信部门或者有关主管部门举报。

进一步规范行业发展

业内人士普遍认为，《管理办法》的出台，标志着我国人工智能进入规范化发展新阶段。从业企业将更加有的放矢、有章可循，做事更加规范，规模进一步壮大。此外，数据和人工智能是相辅相成的，人工智能的迭代需要数据作为基石，数据的价值需要人工智能的充分挖掘。伴随着人工智能产业的快速发展，数据产业链将再次迎来巨大发展机遇。

当前，百度、华为、腾讯、阿里、京东、360等互联网企业都开始布局生成式人工智能业务，而且部分企业已经推出相应产品。

中南财经政法大学数字经济研究院高级研究员金天认为，在越来越多的企业布局生成式人工智能业务之际，管理部门迅速启动相关领域政策法规制定工作，将更好促进生成式人工智能技术健康发展和规范应用。生成式人工智能技术富有巨大的商业化潜力，有望成为数据与内容生产的强大引擎，特别是促使内容生成朝向品质更高、成本更低、更有效率的方向发展。

金天还表示，生成式人工智能是当前发展最快、最具影响力的技术之一，有望在2-5年内进入“生产成熟期”。围绕这一科技竞争的新领域、新赛道，做好布局、补齐短板和塑造优势，日益成为促动传统产业升级和谋求中国经济高质量发展的题中之义。在此方面，只有立足国内需求、激发创新活力，理顺基础研究投入、技术成果转化及相关配套协同机制，才能为抢抓战略机遇、服务实体经济提供不竭动力。

来源：中国证券报·中证网作者：董添

温馨提示：最新动态随时看，请关注金投网APP。