扫一扫
加微信
发布时间：2024-01-24 来源：安装场景
与人“对话”、翻唱歌曲、编写剧本、撰写合同，生成式人工智能（AIGC）不断刷新人类认知，照进真实的生活……
生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及有关技术。发展一路“狂飙”的同时，生成式AI应用也伴生了真假难辨、换脸诈骗等诸多乱象。
近日，为促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》（以下简称《办法》），自2023年8月15日起施行。
中央网信办、国家网信办总工程师孙蔚敏7月18日在厦门举办的“2023年中国网络文明大会”算法治理论坛上表示，出台《办法》，坚持发展与安全并重，既鼓励创新，又依法治理，坚持包容审慎、分级分类的思路，以安全促发展，以发展保安全。
如何用好法治之“舵”、创新之“桨”，更好地释放生成式AI创新活力，指引AI产业发展行稳致远？对此，人民网记者采访了相关行业专家。
与今年4月发布的《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》）相比，《办法》在规制对象上作出了调整。
《办法》第二条明确提出了“不适用”场景，即“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。”
“此提法可以讲是一个重大突破。”传播内容认知全国重点实验室研究员郭俊波指出，这说明《办法》的目的是兼顾生成式人工智能的发展与安全，为生成式人工智能的研究与发展留足空间。
他同时指出，与《征求意见稿》相比，《办法》依据的法律还增加了《中华人民共和国科学技术进步法》，更加突出了其目的是促进生成式人工智能健康发展和规范应用。
北京大成律师事务所高级合伙人肖飒也坦言，《办法》提出“不适用”场景 ，让规制对象目标更明确、针对性更强，体现出我国对生成式人工智能在研究与应用方面的支持和鼓励。
此外，《办法》在处罚措施方面也较为“柔和”。《办法》第二十一条提出，提供者违反本办法规定的，由有关主管部门依照《中华人民共和国网络安全法》等法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。
“第二十一条采用的是逐渐加重的处罚措施，允许服务提供者不断完善修正，而不是简单的‘一棍子打死’。”郭俊波认为，生成式人工智能的应用范围极广，充分“松绑”将有助于推动人工智能领域各组织机构快速进行技术革新，并探索技术在各应用场景下的磨合与演进，进而促进生成式人工智能产业繁荣发展。
前段时间，我国某地警方公布，有诈骗分子运用人工智能技术，通过换脸视频与受害者进行视频通话，十多分钟内诈骗受害者数百万元。随着人工智能与日常生活场景结合越来越密切，在此基础上产生的隐私泄露、造谣诈骗等问题也不断凸显。对此，《办法》将保护使用者的个人信息安全摆在了重要位置。
《办法》第九条提出，生成式人工智能服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。“这就将生成式人工智能服务提供者明确纳入了网络平台责任的规制范围内，让违规违法者无灰色地带可躲。”肖飒说。
同时，《办法》第十一条要求服务提供者不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。《办法》第十四条提出，提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施并采取模型优化训练等措施进行整改。
而针对目前生成式人工智能内容难以被分辨，甚至出现技术被滥用、误用等问题，《办法》明确服务提供者应当按照《互联网信息服务深度合成管理规定》对相关生成内容进行标识。
郭俊波提醒，“标识的作用在于警示和提醒用户，该内容是由AI生成的，但不能保证内容的真实性。”肖飒则表示，“目前来看，标识人工生成、深度合成的内容，是成本最低且有望从根本杜绝上述相关问题的方法。”
伴随全球生成式人工智能技术迭代，更“聪明”的大模型必将渗透进更多的产业领域和生活场景。当前，如何进一步抓住产业变革机遇，推动行业发展行稳致远，备受各界关注。
国家网信办有关负责人表示，《办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。
“当前我国生成式人工智能技术处于追赶阶段，不发展是最大的不安全。”郭俊波指出，《办法》提出“对生成式人工智能服务实行包容审慎和分类分级监管”，将加速国内生成式人工智能技术落地。以国内庞大的用户数量为依托，国内生成式人工智能有望迅速积累真实数据，带动对技术的迭代与优化，促进人工智能的创新和发展。
值得注意的是，在促进产业高质量发展方面，《办法》具体提出，“鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。”同时，《办法》还提出“推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。”
“这体现出国家对生成式人工智能发展持看好的态度。”在肖飒看来，数据壁垒以及庞大的公共数据闲置，是妨碍生成式人工智能发展的两个关键性问题。《办法》实施后，将有望大幅扩充人工智能训练数据库，极大促进我们国家的人工智能应用的深度与广度。
郭俊波坦言，大模型时代，训练一个动辄上千亿参数的模型需要海量算力资源，加之长期以来中文领域开放的高质量数据集在数量上落后于英文，限制了以中文为语料的人工智能技术水平的逐步提升。《办法》的出台，有助于推动算力、数据等人工智能底层基础资源的开放共享、提量增质。
“预计下一步，监管部门还将会针对某些特定领域，如医疗、金融等，根据行业法规，对其领域的生成式人工智能做出相应规范。”郭俊波说。（实习生韩昕宁对本文亦有贡献）
人民日报社概况关于人民网报社招聘招聘英才广告服务合作加盟供稿服务数据服务网站声明网站律师信息保护联系我们
人 民 网 股 份 有 限 公 司 版 权 所 有 ，未 经 书 面 授 权 禁 止 使 用
