北京推出AI服务新规 明确要求为国家安全和社会公共利益服务

中国在上海举办世界人工智能大会。(2023年7月6日)

中国国家网信办等七部门周四(7月13日)公布了《生成式人工智能服务管理暂行办法》,明确要求人工智能的发展和应用必须与维护国家安全和社会公共利益相联系。

这个旨在维持当局对信息的控制同时鼓励中国人工智能产业发展的法规将在8月15日开始实施。

聊天机器人问世以来迅速受到全世界的欢迎,人们可以通过这个工具生成独具一格的文字、图像和音乐。华盛顿邮报指出,这对于实行言论控制的中国当局来说,构成了了一个巨大的挑战。

暂行办法称要对生成式人工智能服务实行“分类分级监管”,这项服务提供者“应当采取有效措施防范未成年人用户过度依赖或者沉迷”其中。文件强调要“维护国家安全和社会公共利益”。

文件的意思是,北京将技术创新限制在企业和实验室,但在公共服务方面实施严格的管理。

在北京的中国国家互联网信息办公室大楼 (2021年7月8日)

今年四月,北京发出了一份草案规定,要求机器人生成的内容应该“体现社会主义核心价值观”,并且不能含有任何“颠覆国家政权、推翻社会主义制度、煽动分裂或破坏国家统一”的内容,并“防止生成虚假信息”。

草案规定要求人工智能公司对其使用的数据的准确性负责。分析人士曾批评这种规定实际上根本无法做到。

路透社说,暂行办法显然是对四月草案的规定进行了软化,这一变化可能是出于监管部门希望争取科技企业为推动经济复苏作出更多贡献的原因。中国经济在疫后复苏的表现令人失望,上半年的主要经济数据显示,出口、投资、消费等关键领域全面出于低迷状态。阿里巴巴、腾讯、百度、字节跳动等大型民营科技巨头经历了长达两年的整肃,业务和财务状况都出现了大幅度恶化。

路透社说,暂行办法虽然比四月草案更为宽容一些,但依然强调科技企业在发展人工智能技术的同时也承担着保护国家安全的责任。

华邮引用专家的话说,这给数十家急于为中国公众开发 ChatGPT 等工具的公司来说带来了沉重的合规负担。

腾讯、字节跳动、微博等中国大型科技企业目前都必须按照北京的内容审查规定承担着对本公司平台内容的庞大的监视工作。暂行办法将进一步加重它们的工作量。

华邮引用美国乔治城大学安全与新兴技术中心战略事务主任海伦·托纳(Helen Toner)的话说,新的规定要求企业对自己的产品引发的任何麻烦负责。

“这一组新的责任规定相当重要,一些较小的公司如果没有建立现有的合规与审查机制,它们就很难落实这些责任,”托纳说。

托纳稍早对媒体表示,如果要求开发人工智能模型的科技企业几乎要对生成的所有内容承担责任,企业方面就会不愿向外界公开其模型,“因为他们可能要对他们无法控制的问题负责。”