数据编织,是否会成为大数据的新风口?

数据编织是一种新的设计理念,它是数据管理、数据收集理念的变化,与数据仓库、数据湖等技术并不是替代的关系,既可以运用现有的数据中枢、数据湖和数据仓库的技术和技能,也可以在未来加入新的方法和工具。

【安防在线 www.anfang.cn】怎么实现“数据找人而不是人找数据”的梦想?“数据编织”(DataFabric)悄然登场。2018年“DataFabric”首次出现在Gartner的十大数据与分析技术趋势中,以后每年它都会出现在其中。10年前大数据概念在国外兴起后,不到3年就被中国用户广泛接受,而今天大多数中国厂商则是按兵不动,这又是为何呢?

“数据编织”悄然登场

DataFabric的中文名字到底怎么翻译,IBM公司与Gartner有了分歧。IBM大中华区科技事业部云计算与认知软件部数据与人工智能信息架构产品总监王积杰将其称为“数据经纬”,而Gartner高级研究总监孙鑫认为“数据编织”更为合适,因为他认为数据编织更凸显“动态”。

数据编织,是否会成为大数据的新风口?

在DataFabric出来之前,数据结构的设计都主要部署成静态基础设施,而在未来将需要采用更动态的数据网格方法全面重新设计。

孙鑫在接受记者采访时表示,DataFabric不是一个产品而是一种设计理念,是利用AI、机器学习和数据科学的功能,访问数据或支持数据动态整合,以发现可用数据之间独特的、与业务相关的关系。

而IBM对DataFabric的看法,与Gartner专家提到的“动态”“数据网格”和AI赋能并无冲突。IBM中国研发中心首席技术官赵军伟解释:“经纬作为名词,本意为织物的直线与横线,引申为连接万物的规律,《左传・昭公二十五年》中写道――‘礼,上下之纪,天地之经纬也。’作为地理概念,经纬度可以定位地球上任何一个位置,而‘数据经纬’则可以在纷繁复杂的企业数据目录里定位任意一个数据源。经纬用作动词,是规划治理的意思,《周书・静帝纪》中提到的‘经天纬地’就是治理天下的意思。”

“我们可以把DataFabric想象成一张虚拟的网,这张网并不能理解为一种点对点连接,而是一种虚拟连接,每个节点都可以是不同的数据系统,不同系统上的数据在网上都可以迅速被定位和找到。DataFabric的主要功能是把正确的数据,在正确的时间里,给到正确的人。通过DataFabric,对的人可以从对的地点,在对的时间里,获取对的数据。”王积杰对记者说。

现在的数据连接的架构设计还主要是“人找数据”,而DataFabric设计核心是“数据找人”,在合适的时间、将合适的数据推送给需要的人。

为什么DataFabric将会成为一种趋势,为什么越来越多的企业将在未来采用这样的方式进行部署?王积杰谈及了数据利用结构模式的变化。传统IT时代,无论是早年的“数据仓库”还是近几年的“数据湖”和“大数据”时代,其实数据利用都是集中式的架构,把数据收集到一起,让企业的数据分析师、BI(商业智能)分析师对数据进行分析。但在云计算时代,用户业务部署在多云的环境下,要想将分布在不同云上的数据集中在一起成本很高,也很费劲,于是采用去中心化、分布式的数据网络架构就成为了必然选择。

DataFabric可以同时给业务和技术团队带来明确的价值,王积杰表示,从业务层面来看,由于企业能更容易地获得高质量的数据,从而能更快和更精确地获得企业数据洞察。从技术层面来说,由于数据复制的次数和数量较少,从而减少了数据集成的工作,方便维护数据质量和标准,也减少了硬件架构和存储的开销。由于减少了数据复制和大大优化了数据流程,加快并简化了数据处理过程,从而通过实施自动化的整体数据策略,减少了数据访问管理的工作。

Gartner认为,随着数据的日益复杂以及数字化业务的加速发展,DataFabric已成为支持组装式数据分析及其各种组件的基础架构。由于在技术设计上能够使用/重复使用及组合不同的数据集成方式,DataFabric可缩短30%的集成设计时间、30%的部署时间和70%的维护时间。IBM7月发布的CloudPakforData4.0的软件组合增加了智能化的DataFabric功能,其中AutoSQL(结构化查询语言),可以通过AI来自动访问、整合和管理数据,可以帮助客户以8倍的速度、不到一半的成本,获得分布式查询的答案。

如何“编织”数据?

要实现“数据找人而不是人找数据”,DataFabric究竟如何“编织”?

王积杰认为,DataFabric至少需要四个维度的能力。一是能够在数据之间建立虚拟链接,简化数据访问的模式,从而减少数据复制的数量。二是需要建立一个企业数据目录,并需要利用AI技术,自动化地实现基于语义和知识的分析,理解数据及其业务含义,并建立知识图谱,从而使数据目录变得智能化和自动化。能够让需要数据的用户,随时了解到需要的数据在哪里、数据质量如何等。三是建立自动化数据平台,允许用户通过自服务的方式,访问并获取数据。四是通过提供整体的自动化策略,确保数据安全,增加数据的隐私和权限保护,并提高数据质量。

数据编织是一种新的设计理念,它是数据管理、数据收集理念的变化,与数据仓库、数据湖等技术并不是替代的关系,既可以运用现有的数据中枢、数据湖和数据仓库的技术和技能,也可以在未来加入新的方法和工具。

孙鑫谈到了实现DataFabric的一些关键技术,比如增强型数据目录,要想实现数据找人,而不是人找数据,需要增强的数据目录,它要涵盖用户使用数据的频度与机制,了解数据与业务的关系,还包括知识图谱,通过知识图谱找到数据与业务之间的关系,找到元数据利用的整合策略,也包括推荐引擎以及在数据准备阶段的低代码等工具,低代码工具的作用在于降低数据使用的门槛,加速数据产品化。

从DataFabric推动的难点来看,“一是理念层面的难题,中国的用户还没有意识到,数据利用和使用的方式已经发生改变,传统的集中收集再利用的方式已经不能满足需要。二是目前很多企业对于元数据不够重视。三是从人的角度看,需要提升企业数据工程师对知识图谱、图语言、图建模等数据工具的能力培养。四是数据编织的实现并不是找到一个厂商就能够完成,它是一个旅程,需要分几步走。”孙鑫认为,从用户的角度看,率先采用DataFabric的是金融电信行业以及数据应用场景比较复杂的用户。

在这一点上,王积杰表达了与孙鑫一致的观点――这是一个方向,但并不能一蹴而就,用户需要分步实施,关键是要意识到趋势,在后续的项目实施中,按照DataFabric的理念来构建。

国内厂商为何按兵不动?

尽管Gartner、Forrester等分析机构在几年前就提出DataFabric是数据利用与分析领域的革命性变革,是未来方向,但记者联系国内大数据相关领域企业进行采访时发现,对此了解或进行布局的企业并不多,甚至找不到。

这与国内大数据厂商的分布有关。“国内有很多做数据库的企业,也有很多做BI(商业智能)的企业,但做数据整合的企业很少。而事实上,在国外做数据编织的往往是数据整合、数据虚拟化的厂商,这就很好理解为什么国内的大数据厂商迟迟未入场DataFabric,因为这类企业就不多。”孙鑫告诉记者说。

大厂商没有入场很好理解,因为在DataFabric的理念下,往往需要采用点和边的新方式去描述数据关系,需要知识图谱、图数据库等,这往往是新锐公司在做的领域,而大厂商往往有自己的数据整合工具,他们都希望在自己的平台上进行整合,但是这样的局面一定会在之后的几年发生变化。

“DataFabric这个概念在国际上已经热起来了,但目前国内的IT用户知道的人还不多。10年前大数据的概念在国外兴起后,不到三年就被中国用户广泛接受,未来这个DataFabric概念,中国将需要多久接受并加以应用呢?等待时间给出答案。”王积杰说。(记者李佳师)

该文观点仅代表作者,本站仅提供信息存储空间服务,转载请注明出处。若需了解详细的安防行业方案,或有其它建议反馈,欢迎联系我们

(0)

相关推荐

  • 走出算法困境 究竟难在哪里?

    从疫情防控中的行程追踪到智能出行中的路况计算,从符合口味的资讯内容到满足个性喜好的商品推荐……大数据时代,须臾不可离的算法已广泛渗透到社会各个层面,成为人的“技术伴侣”。我们需要算法的存在,享受它所带来的便利;同时又要对其带来的控制和其他风险有足够的识别与反抗能力。

    2026年6月15日
  • 《山海情》中 怼领导 被举报 数一数马得福的能力有多少?

    尤为重要的是,同质化系统产品层出不穷的这个时代,新旧篇章更迭,各色人物来去,智慧城市运营更需要来自底层、能融合、会协作、跨领域,穿起整个系统各个环节的“基座”型系统平台。

    2026年6月15日
  • 商用人脸识别能否按下暂停键

    市民为防止人脸识别戴头盔逛售楼处,“人脸识别第一案”法院判决杭州野生动物世界删除原告办理指纹年卡时提交的包括照片在内的面部特征信息,天津立法禁止市场信用信息提供单位采集生物识别信息……近来,一连串的新闻再次把人脸识别推上了风口浪尖。

    2026年6月15日
  • 刷脸时代 拿什么保护公民生物信息?

    与国际社会相比,目前,我国对于公民生物信息等个人信息保护的相关法律法规散见于民法总则、网络安全法、消费者权益保护法以及最高法、最高检、国务院颁布的相关司法解释和规定中,内容上也都只是对个人信息收集、使用、加工、传输等进行了一些原则性规定。

    2026年6月15日
  • 中央推进“智慧教育”新发展 这跟安防有什么关系吗

    近两年随着物联网、云计算、移动通信、大数据等新一代信息技术的发展为智慧教育提供了技术条件,可以实现各种教育管理与教学过程数据的全面采集、存储与分析,并通过可视化技术进行直观的呈现。在这个过程中,安防企业基于自身在视频可视化技术、大数据、云计算等领域积累的技术产品经验,致力于推动智慧教育的行业发展,打造升级智慧教室、智慧校园、智慧基地的安全管控和智能化体验。

    2026年6月15日
  • AI芯片需求猛增 半导体三巨头谁将称霸?

    以人工智能为核心的智能化浪潮席卷全球,发展速度超乎想象,全社会都在积极拥抱,企业正在加速利用AI等技术自我变革。在工业领域,掀起新工业革命;在AI技术驱动下,惠普金融将得以实现;在以IOT+AI融合下,人们追求更美好的智慧家庭生活成为现实,也为整个智能家居行业注入变革。以数据化、智慧化推进各行各业变革,半导体芯片厂商则率先抢下这一波红利,以及在芯片厂商推动下,也将加速物联网和人工智能落地与创新。

    2026年6月15日