近期，ChatGPT大火，以ChatGPT为代表的人工智能生成内容技术将变革文本、视频图像等内容的生产方式。AI可以按使用者的个人需求创作生成内容，并且生成的内容人工已经很难辨别真实性。随之而来的利用AI进行信息造假、网络水军、内容侵权等方面的安全风险不容忽视，将会侵犯个人隐私，危害社会稳定，甚至威胁国家安全。
为此，迫切需要针对这类生成文本的智能检测识别技术和产品，提升监管部门对内容安全治理的能力。
日前，为规范深度合成服务，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》）。《规定》通过系统性、创新性制度设计，首次回应了对深度合成服务的管理要求，为互联网信息服务深度合成的规范发展提供了基本遵循和合法依据。(点击此处了解《规定》详情)
4月11日，为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》（以下简称：《意见稿》）【文件请点击资料下载】。生成式人工智能服务的提供者将迎来更加严格的监管。
《意见稿》指出：国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
同时《意见稿》拟规定，提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。
阻止AI滥用，防止AI作恶，在充分发挥政府监管职能的同时，也需科技企业发挥技术能力，用“魔法”打败“魔法”。
作为国内电子数据取证行业龙头和公共安全大数据领先企业、网络空间安全与社会治理领域国家队，美亚柏科2017年成立AI研发中心，深度开展人工智能技术研究。为了应对利用人工智能技术可能带来的安全问题，2019年针对深度合成技术又特别成立专项研究团队(下称“专项团队”)。
专项团队通过对深度合成和生成式AI技术的深入研究以及在人工智能安全方向的经验积累，自主研发深度伪造视频图像检测鉴定的核心引擎，打造出一系列视频图像检测鉴定的一体化智能装备“AI-3300慧眼视频图像鉴真工作站”等。
与此同时，公司基于在电子数据取证和公共安全大数据多年的行业积累，已研究推出针对人工智能（如ChatGPT）生成文本内容的检测工具，中文生成文本检测的准确率超过90%。
未来，美亚柏科将继续聚焦生成式人工智能和AI生成内容的检测识别技术，踔厉奋发，持续发力，按照《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理办法》的管理要求，针对深度合成文本、视频、图像的检测鉴定技术、生成式人工智能技术、人工智能安全取证技术等方面的应用需求，不断打磨推出更为安全、可信、可靠的人工智能技术产品，为维护和保障人工智能的健康发展和规范应用贡献力量！
该文观点仅代表作者，本站仅提供信息存储空间服务，转载请注明出处。若需了解详细的安防行业方案，或有其它建议反馈，欢迎联系我们。
