平安城市超大数据量的存储技术与方案

面对超大数据量的存储,只有采用高性能、高可靠性的云存储技术才能满足平安城市项目对视频数据多样化的应用需求。

  应用背景


    随着平安城市的不断建设,前端点位数量不断增加以及高清、超高清前端摄像机和公安智能化实战应用在平安城市建设中的广泛应用,视频的存储空间需求越来越大,历史视频需要海量存储空间,智能化实战应用的结构化、非结构化数据也需要大量存储空间。然而,面对海量的存储数据,如何选择最优的存储架构,如何高效的存储、共享、访问、调取所需要的数据,如何将海量历史视频经过结构化和非结构化处理后提取出有价值的信息,更好的服务于平安城市建设,更好的响应国家视频惠民政策,不同的安防厂商有不同的见


  平安城市存储现状与需求


  平安城市视频监控系统的建设实现所有图像资源的集中管理,最大限度实现跨地区、跨部门视频监控资源共享和互联互通互控。目前全国公安机关共安装监控摄像机近300万台,社会安装监控摄像机约2000万台,监控点的高清比例约为50%。如果1080P视频图像按照4M码率、24小时不间断存储30天计算,1000路1080P视频图像的存储容量就已经达到了1个PB,1万路的1080P视频图像的存储容量已经超过了10PB,平安城市建设已经全面进入存储P时代。同时,按照中央深化社会体制改革的整体部署,公安部会同国家发改委、中央综治办等部门研究起草并联合印发了《关于加强公共安全视频监控建设联网应用工作的若干意见》,提出2020年实现“全域覆盖、全网共享、全时应用、全程可控”的总体目标。按照全域覆盖的要求,一个中等规模的县级城市摄像机数量可能达到5000路以上,全省视频联网路数在10万路以上,按照1080P视频图像4M码率、24小时不间断存储30天计算,存储容量将超过100PB,面对如此海量视频存储数据的价值信息提取,势必对存储系统的容量、扩展性、性价比、性能、管理性、稳定性等提出更高的要求。


  面对PB级的海量视频存储需求,传统的NVR或IPSAN存储模式在容量和性能上存在一定瓶颈。其系统的吞吐能力无法满足高并发视频存储、回放的需求,且无法适应业务变化对云存储系统能力的需求。通过采购更多、更高端的硬件设备来提高存储能力的方式,会使部署成本急剧增长,系统复杂性提升,运维压力也随之提高。因此,建设大规模存储系统也是平安城市视频存储的刚需。


  然而传统的存储设备主要通过RAID方式实现单个存储节点内部的可靠性,数据保护能力有限。当存储节点断电或宕机时,会出现存储业务中断,导致录像丢失等情况,无法保障存储数据的安全性。另外,传统的存储方式无法将整个存储资源进行统一管理,而是将每个设备的空间独立分配及管理,这会使部分设备出现碎片化的容量空间,且新增设备无法整合此类存储空间,造成空间浪费,使空间利用率下降。某些存储设备损坏时,仅通过人工巡检查漏补缺,也增加了运维难度和运维成本。


  随着平安城市的持续建设,在摄像机数量不断增长,用户需求对高清要求激增的情况下,视频数据量呈爆炸式增长,这就更加催生了具备海量存储和高速读写性能的云存储系统应用,以应对PB级的视频存储需求。


  东方网力视频云存储


  云存储是在云计算(cloudcomputing)概念上延伸和发展出来的一个新的概念,是指通过集群应用、虚拟化、网格技术或分布式文件系统等技术,将网络中大量、各种不同类型的存储设备通过应用软件集合起来协同工作,共同对外提供数据存储和业务访问功能的一个系统。


  东方网力视频云存储结合平安城市业务系统规模大小不一、业务模式集中和分散相结合等特点,以视频、图片文件存储和管理为核心,采用面向大规模数据密集型应用的、可伸缩的分布式文件系统,存储视频图片数据,有效提高快速并发读写能力、存储空间弹性扩展能力和系统可靠性,满足安防视频监控的新要求,解决城市级海量视频数据存储、检索问题,并能够结合平安城市业务提供灵活的部署方式。存储的内容分为结构化数据和非结构化数据,结构化数据采用分布式数据存储;而非结构化数据(例如视频、图片、文本、特征等)存储在分布式文件系统中。


  东方网力视频云存储系统可分为硬件层、软件层、业务层以及应用层四个层级。


  硬件层提供存储设备,存储视频、图片等文件。它包括网络和物理节点及节点内的硬盘、网卡、内存等。


  软件层为硬件层服务,实现硬件的虚拟化。管理各个硬件存储设备、实现硬件的可扩展性和稳定性。软件层主要是分布式文件系统和多种增值特性,提供分布式存储、故障自动恢复、性能负载均衡、元数据服务等服务,对整个系统进行统一管理。


  业务层主要提供实时视频存储ROFS系统和视图数据存储PFS两种存储技术,主要作用是将实时视频、历史视频以及图片按照不同的存储策略存储在不同的存储卷中。业务层将整个存储池分为视频监控、大文件、小文件3个卷,分别存储实时视频、历史视频、图片和文本文件,它们在逻辑上和物理上相互隔离。针对不同的文件采用不同的技术处理,使云存储系统更加适应平安城市视频监控大数据量存储的应用。


  应用层为公安业务应用、政府业务应用、其他行业业务应用等,云存储系统可对各类业务应用提供大容量的数据存储,可以将业务平台的实时视频、历史视频、图片、文本信息等通过云存储保存,进行统一的存储。


  全对称架构


  目前的云存储系统从架构上区分有两类,即全对称云存储架构和非全对称云存储架构两种。非对称架构指云存储系统中,除了存储服务器外,还需单独的机头服务器或元数据服务器。东方网力视频云存储采用全对称架构,所有节点的硬件、软件、功能完全一样,即其元数据和录像数据分布在集群中的不同存储节点中,无需单独的机头服务器或元数据服务器。在该架构下所有的存储设备位置一样,经过云存储软件系统将存储服务器进行整合,一同发挥效应。


  动态负载均衡


  现有的网络中往往会存在因带宽、吞吐量导致的存储性能异常的问题,负载均衡就是在这种网络结构上,来加强数据处理能力、提高灵活性和可用性。东方网力视频云存储的动态负载均衡表现在两方面:一方面是写时均衡:系统周期性地从各个节点收集负载情况,当增加一路录像或集群中有节点宕机时,集群会自动选择负载相对较低的节点写入数据;另一方面是再次均衡:当集群中某些节点的负载达到紧张值,可将其存储业务平滑过渡到其他负载较小且未达到紧张值的节点上,且业务不中断。


  虚拟化管理


  东方网力视频云存储系统是将多个存储服务器的磁盘空间和内存资源聚集成一个单一的虚拟存储资源池,对上层用户和应用屏蔽了底层的物理硬件。简化了与业务系统的接口,保证了系统使用的简易性。同时,存储的扩展仅限存储内部,而不会影响到系统与业务系统的接口,也保证了存储空间内数据的高共享能力。


  视频流直存


  东方网力视频云存储系统接收联网平台下发的录像计划(包括开流时间、关流时间、录像通道信息及存储ID)后,将前端摄像机的视频流直接写入存储设备,无需借助第三方设备,可实现7*24小时不间断的视频流直存。


  特有的流式存储系统


  随着公安业务的多样化和视频数据的爆炸式增长,对视频数据的并发读写性能及安全性都提出了很高的要求。东方网力视频云存储采用特有的流式存储系统,该文件存储系统主要用于存储视频流数据,以时间作为索引进行查询操作,可实现多路视频流的高性能存储与回放。它是根据视频存储的读写特点,针对视频存储数据的安全性、可靠性设计的存储系统。


  该存储系统单节点的(读加写)性能可达500Mb/s,50个节点以内的集群的读写性能随节点数量的增加呈线性增长;数据进行格式化时,时间不超过100毫秒,无需长时间等待;并且提供稳定可靠的redis服务,定期将元数据写入磁盘,当服务异常终止之后,可用磁盘中的元数据进行恢复,保证录像数据不丢失。


  在线扩容


  随着平安城市视频监控行业存储需求的增加,视频文件的总容量将达到PB级,此时,项目就面临着扩容问题。传统的存储方式设备的存储容量有限,在扩容时需要给上层业务服务器重新分配空间,严重影响上层视频共享业务的连续性,且存储性能、安全性、可靠性、经济性都会随着系统的扩展而大大降低。东方网力视频云存储系统支持横向扩展(Scale-Out),通过增加存储服务器数量和磁盘数量,实现系统容量、性能的扩展,是单集群的存储容量达到PB级。


  系统提供了大容量存储系统集中管理的手段,扩容仅仅是管理员对新加设备的节点挂接,对整个系统的运行没有影响,在快速融合新增设备的同时保证业务不中断,也避免了设备扩充带来的管理麻烦。在线扩容是在不需要停止在线业务的情况下,增加或删除存储节点,使系统的存储容量动态增加或缩小。由于东方网力视频云存储系统是一个整体,只对外提供整体的存储空间,因此节点的增减对业务层仅表现为存储容量的增加和删除,不会影响上层业务。


  结语


  面对超大数据量的存储,只有采用高性能、高可靠性的云存储技术才能满足平安城市项目对视频数据多样化的应用需求。各大安防软件平台厂商只有不断提高技术水平,不断对产品创新,高质量、高效率地满足用户需求,才能在未来平安城市项目竞争中崭露头角。

平安城市超大数据量的存储技术与方案

该文观点仅代表作者,本站仅提供信息存储空间服务,转载请注明出处。若需了解详细的安防行业方案,或有其它建议反馈,欢迎联系我们

(0)
小安小安

相关推荐

  • UIT电信级监控存储解决方案

    导读:电信级视频监控业务是以运营商宽带网络为基础,目的在于为用户提供图像、声音和各种报警信号的一种新型电信增值业务,其业务重点是通过一个应用广泛的远程网络监控中心服务平台,以集中式分区化运营方式为用户提供便捷、经济、有效的远程监控整体解决方案,通过运营级视频监控业务,用户可以不受时间、地点限制对监控目标进行实时监控、管理、观看,实现跨地域的统一监控、统一存储、统一管理和资源共享。

    2025年10月30日
  • 国密级智慧城市安全视频解决方案

    随着视频技术发展,视频信息系统的网络化趋势明显。现有视频信息系统中,视频信息大多以明文方式存储和传输,存在较大的安全风险,尤其对公共安全、金融等行业而言,信息数据的保密性要求更为迫切。保障数据存储特别是网络传输的安全尤为重要,需要实现内部分级管控,建立完善的授权管理体系才能确保安全。

    2025年10月30日 方案
  • 地铁CCTV监控解决方案

    导读:随着经济高速发展,人员、交通工具数量急剧增加,公共交通问题日益严重。在进入21世纪后,因交通建设的发展滞后于车辆增长的速度及经济发展对城市公共交通体系提出了更高的要求,一个小小的突发事件就会引发严重的交通事故。全国主要大中型城市纷纷选择轨道交通建设来缓解日益增长的公共交通压力,提高城市的核心竞争力。轨道交通在城市交通中承当日益重要的作用,由于轨道交通人流密集、人员复杂、活动物体多等因素,需要一套应急指挥监控系统来保障其安全、稳定运行。视频监控系统可以起到事先进行判断分析、事后取证的作用,已经成为协助公共安全部门打击犯罪、维持社会安定的重要手段。随着各城市的轨道交通线路规划渐成网状,CCTV监控系统如何满足网状部署的需求也逐渐提到日程上来,成为地铁业主建设考虑的重要需求之一。

    2025年10月30日
  • 平安工程解决方案

    导读:近年来,随着视频监控系统在城市治安中应用的日益普及和深化,原有的建设和管理模式也日益暴露出问题。因此,建设省级治安监控图像的联网共享平台,实现各地市图像的互联互通已经迫在眉睫。为辅助公安部门,借助科技手段,加强治安防范技战法,同时面对各地平安城市建设中,不同厂商、不同平台的难以互通互控的异构化现状,推出了平安工程监控联网平台解决方案。

    2025年10月30日
  • 视频图像信息数据库解决方案

    随着视频在案事件侦破以及各类公安业务中发挥的作用越来越大,传统视频监控的局限以及对应用的制约也越来越明显。

    2025年10月30日
  • 平安乡镇应用解决方案

    随着社会的不断发展,创造和谐的生活环境,提高各地区公安派出所案件侦破率,满足乡镇的治安环境监控及主要道路监控的安防需求,在有限的警力资源状况下,提高出警效率,保一方平安,依靠技术手段为乡镇派出所技防支持。

    2025年10月29日 方案