高性能计算和大数据将深入融合化解挑战

虽然大数据技术与大数据应用得到了快速的扩展,但是仍旧存在着很多问题,其中比较突出的是“4V”挑战(容量、类型、速度、价值)。目前,大数据的容量可达到PB级,这些大容量数据的存储、处理会对用户的计算系统产生极大负担,建立在普通计算能力基础上的系统往往无法满足大数据的需求,更无法为用户获取价值以实现领先于他人的优势。

“高性能计算完美契合了大数据在运算能力、高性能存储等方面需求,而大数据则给高性能计算提供了新型商业市场,有助于推动高性能计算拓展新的市场蓝海,两者在产业生态链上的紧密衔接可以很好的推进信息资源组织模式的深入变革与发展。”曙光副总裁邵宗有在近日接受媒体采访时表示道。


高性能计算化解大数据应用挑战


虽然大数据技术与大数据应用得到了快速的扩展,但是仍旧存在着很多问题,其中比较突出的是“4V”挑战(容量、类型、速度、价值)。目前,大数据的容量可达到PB级,这些大容量数据的存储、处理会对用户的计算系统产生极大负担,建立在普通计算能力基础上的系统往往无法满足大数据的需求,更无法为用户获取价值以实现领先于他人的优势。


邵宗有表示:“在应对大数据挑战的过程中,高性能计算可以起到重要作用。从数据的存储与处理的角度来说,采用高性能计算系统不仅可以大幅降低大容量存储的成本,而且其处理数据、传输数据、恢复数据的速度会远远超过普通的计算系统。在过去完整恢复一块硬盘的速度可能需要48个小时,但融合了曙光高性能计算技术的存储产品,能将时间控制在十几分钟,显著降低了大规模集群存储系统中用户运维的压力,提高了系统效率。”


此外,高性能计算还可以为大数据应用中的数据同化问题提供解决思路。在大数据采集系统中,可能各个采集设备采集的数据在格式与类型上都是不一样的,将这些不同的数据进行统一会消耗大量的计算资源。而高性能计算在数据同化方面已经取得重要进展,其同化的速度和精确性已经能保持在一个很高的水平,其发展成果“嫁接”到大数据中会产生巨大的价值,并推动实现数据的组织和管理,基础架构,决策支持和自动化界面和分析。


高性能计算和大数据将深入融合推动实际应用


对于任何一种技术概念,应用都是其体现最终价值的落脚点。目前,大数据正在处于从概念到应用的过渡时期,大数据应用在产业成熟度、用户接受度、系统易用性等方面都存在着很多障碍。大数据应用怎样部署?大数据存储的数据怎样产生价值?如何将大数据分析后产生的结论应用到企业运营的决策之中?由于缺乏大规模应用的成熟案例与产业集群,金融用户等行业用户迟迟无法下定部署大数据的决心。


邵宗有指出:“相对于大数据来说,高性能计算在很多行业用户中都得到了较早的部署与应用,其部署可以在软硬件一体化平台、数据存储等方面为大数据应用打下良好的基础。特别是高性能计算和大数据在内在逻辑上是相通的,在平台扩展、应用落地等方面具有互补优势,这就满足了高性能计算和大数据进行融合的充分性条件。”


为了推进高性能计算与大数据的融合发展,改善大数据应用环境,目前曙光已经发布“平台一体,智汇应用”的行业大数据战略,并通过软硬件结合的一体化平台作为支撑。其中,硬件XData大数据一体机采用成熟的高性能计算机和高性能存储系统作为基础,在软件上则整合了高性能操作系统与Hadoop软件。解决方案全面集合曙光在高性能计算、高性能存储等方面的资源优势,可为行业企业构建有竞争力的大数据整体解决方案和服务,达到平台能力及应用的灵活扩充和增长,提供真正的统一数据分析能力。

高性能计算和大数据将深入融合化解挑战

该文观点仅代表作者,本站仅提供信息存储空间服务,转载请注明出处。若需了解详细的安防行业方案,或有其它建议反馈,欢迎联系我们

(0)
小安小安

相关推荐

  • 华为:洞见商业新机,云原生数据库GaussDB让企业决策更科学

    华为云GaussDB(for Redis)为数位科技打造了一个稳定可靠、高效安全、卓越性能的大数据引擎,KV存储降本80%,助力实体企业数字化转型之路走的更加稳健。

    2026年1月2日
  • 从医疗到超算希捷Exos CORVAULT赋能各行业海量数据存储需求

    和如今大多数行业一样,医疗行业也正处于数字化转型的高速发展期。随着医疗技术进步和存储需求提升,医学影像数据量飞速增长,数据安全、备份、数据保护等工作得到了医疗机构与医疗信息化从业者的密切关注。与此同时,医学影像的移动化应用成为常态,基于医学影像的人工智能辅助诊断也在逐渐兴起。如何用更佳的方式存储数据,如何搭建高速度、高容量、高可靠性的存储方案,适应不断涌现的数据使用需求,是医疗机构的核心关注点。

    2026年1月1日 资讯
  • 提高数据存储能力 筑牢数字经济基石

    近期,中央全面深化改革委员会第二十六次会议审议通过《关于构建数据基础制度更好发挥数据要素作用的意见》(以下简称《意见》),对数据确权、流通、交易、安全等方面做出部署。

    2025年12月31日
  • 以大数据产业为抓手共话未来发展 青岛加快数字建设

    随着大数据、云计算、人工智能等新一代信息技术的应用,数字城市建设成为各个城市面向未来布局发展的共识。

    2025年12月30日
  • 数据基础制度建设 严守安全底线

    日前,中央全面深化改革委员会审议通过了《关于构建数据基础制度更好发挥数据要素作用的意见》(下称《意见》),明确提出“把安全贯穿数据治理全过程”。业内专家表示,数据安全已经上升到了国家战略层面,成为构建数据基础制度的核心要义之一。

    2025年12月28日
  • 数字空间,下一个时代的新基建

    而5G、VR/AR、AI等新基建的出现,让人们能够更高效、更聪明地去进行比特移动交互。由于在虚拟世界进行比特交互移动的代价更小,甚至在某些合适的情况下,能够通过移动比特实现交互而解决的事情,就不再需要去操作现实世界里的原子移动。

    2025年12月27日