短短三四年,湖仓一体便从新兴概念跃升为大数据领域十大关键词之一。
作者|陈杨
【资料图】
编辑|栗子
从燧人氏结绳记事到甲骨文的出土再到蔡伦造纸,种种历史大事件告诉我们,在记录、存储、使用等数据相关的一系列操作上,中国有着深厚的经验和积淀。
由于前两次工业革命落后太多,导致在信息化时代国人即便奋力追赶,在数据的存储、调用上,仍要向Oracle、IBM等国际巨头看齐。
好在,数据在彼时没有像今天这般重要。
如今,数字化转型如火如荼,国家层面已将数据上升到第五类生产要素并出台“数据二十条”。数据的重要性日益凸显。
在此过程中,国人在数据方面的基因已觉醒,开始积极探索应用国产基础软件,助力身处数字化变革中的企业,实现数据价值的最大化。国产大数据基础软件,正在企业数字化转型中扮演着越来越重要的角色……
毋庸置疑,随着移动互联网的普及和超高渗透率,我们已迎来了一个数据大爆炸的时代:结构化数据、半结构化数据以及非结构化数据的层出不穷,丰富了数据的应用场景,更增加了企业的存储、管理难度。
另一方面,在“云大物移智”等数字化技术推动下,全球正掀起第四次工业革命,一次基于数据、基于AI的革命。
数据摇身一变,从静静待在HDD、SSD等介质里的被存储对象,变成了宝贵的资产。国家借助数据要素发展数字经济;企业借助数据,从流程驱动走向数据驱动,成为数智企业。
从被存储对象到资产,数据的蜕变离不开技术的赋能。 事实上,技术也一直赋能着数据,只不过在不同阶段以不同的方式赋能:
PC互联网年代,数据还是结构化数据的天下,企业更多借助结构化数据进行分析。为满足企业敏捷的数据分析需求,基于联机分析处理 (OLAP) 的数据仓库 (Data Warehouse) 概念开始出现并迅速发展。
移动互联网时代,在社交、视频等平台带动下,XML文档、图片、音视频等半结构化、非结构化数据呈指数级增长,数据湖 (Data Lake) 和数据仓库并肩作战,成为企业处理数据的另一项重要工具。
二者之所以“并肩作战”而非替代,是因为数据湖虽然具备更好的开放性与灵活性,但其在OLAP方面的性能不足、数据的一致性和ACID能力缺失,使得其无法替代数据仓库。
这对深处数字化变革中的企业而言,无疑是个棘手的问题:数据仓库与数据湖的并存,带来的是数据的割裂、高额的开发成本、维护成本。
那么,面向当下以及未来,有没有一种更好的方式,能够帮助企业更快地实现数据驱动?
答案呼之欲出:湖仓一体 (Data Lakehouse) 。
这个由Databricks在2019年提出的技术, 很好地将数据仓库的高性能、管理能力与数据湖的开放性和灵活性融合,实现了海量异构数据的统一存储、计算、开发、管理和服务,从而帮助企业解决数据孤岛、数据冗余,系统维护等问题 。
极具优势的湖仓一体技术,在短短三四年里便从一个新兴概念成为大数据领域的重要发展趋势,Databricks也凭此成为估值300多亿美元的超级独角兽。
众多行业报告从前景、规模等市场层面阐述了湖仓一体的未来: 信通院将湖仓一体列为《2023大数据十大关键词》;
IDC 调研显示,有 %的企业了解湖仓一体架构,有 85%的企业正在部署或考虑评估升级湖仓一体架构。 IDC在《中国人工智能与大数据技术图谱,2022》中,将湖仓一体列为递增型代表技术,其将在中长期持续提高、优化业务交付体验,作为支撑智能产业发展的统一数据底座;
爱分析日前发布的《2022年中国湖仓一体平台市场研究报告》显示, 2022年中国湖仓一体平台软件市场规模亿元;预计到2025年,这一数字有望达到亿元,2022-2025三年复合增长率高达86% 。
2.走出更适合中国企业的湖仓一体之路
横向对比国内外湖仓一体市场,尽管才刚刚兴起,但中国企业已经和国外巨头走出一条截然不同的路。
以Databricks为代表的国外湖仓一体巨头 ,更注重湖仓一体架构的搭建和AI能力的引入。而数据的治理、应用等,则交给生态合作伙伴, 以生态的方式为客户提供全生命周期的数据服务。 这在Salesforce、Workday等其他领域国外巨头服务客户时也常常能看到。
国内湖仓一体厂商更倾向于“端到端”服务,即通过平台的方式,为客户提供从数据的接入、开发、治理到数据资产的管理、运营全生命周期服务。 事实上,这种平台化的方式,不仅在湖仓一体领域运用,在中国其他企业应用软件领域也广泛适用。
这种平台化的方式,也的确更适合中国企业的数字化转型。 相比欧美,中国企业的数字化能力参差不齐、场景更丰富且个性化需求多,外加国内服务商的产品或者工具开放性有限,所以平台化更能够帮助中国企业一步到位。
《2022年中国湖仓一体平台市场研究报告》也表明,在国内,中国本土湖仓一体厂商更受市场欢迎。数据显示, 2022年中国湖仓一体平台软件市场规模达 亿元。其中,科杰科技市场份额占比 %,位居第一, 其次为华为云和星环科技,占比分别为%和%。
3.中国湖仓一体领导者的修炼手册
短短三四十年间,中国科技伴随中国经济的腾飞而发生着翻天覆地的变化:从PC互联网时代的追赶到移动互联网时代的并肩再到数字化时代的领先。
将视野重新拉回湖仓一体,面对这个由国外巨头率先进军的领域,国内厂商又是如何在三四年内做到在中国湖仓一体市场中一枝独秀的呢?
我们不妨透过科杰科技,这家中国湖仓一体市占率第一的厂商视角,找寻这个问题的答案。
毫无疑问,湖仓一体作为一款面向数智企业打造的数字化解决方案, 技术的先进性应是基本条件 。
科杰科技打造的湖仓一体数据智能平台KeenData Lakehouse,运用了存算分离、ACID事务性、批流一体、Data Fabric (数据编织) 、Data Virtualization (数据虚拟化) 、Active Metadata Management、Data Mesh 、DataOps等业内最先进的技术。
诸如Data Fabric、Active Metadata Management、Data Mesh 等理念,目前在国内还处于起步阶段,科杰科技却已经将其引入产品中。
除此之外,在实现湖仓一体上,科杰科技在技术架构上选择了更先进的湖仓融合方式,产品KeenData Lakehouse提供的多架构统一纳管能力,帮助企业无需迁移数据仓库和数据湖的历史数据,最低成本地实现数据架构与引擎统一,降低架构复杂性的分析与成本,同时大幅度提升数据开发的效率。
在近期IDC发布的《湖仓一体数据平台技术能力评估报告》中, KeenData Lakehouse凭借着领先的技术实力在报告中获得推荐,成为行业备受推崇的湖仓一体大数据平台之一,入选Gartner《2023 年中国数据、分析和人工智能技术成熟度曲线报告》可组合D&A标杆厂商。
产品完备性是其制胜的关键。 数据从被存储对象到资产化的过程,是一场异常复杂、长流程的蜕变,唯有连续、无断点才能达成企业数据驱动的目标。科杰科技在技术的先进基础之上,进一步打造了功能完善的数据产品。
KeenData Lakehouse湖仓一体数据智能平台是一个数据底座产品矩阵,由十二个部分构成,分别涉及主数据的管理、数据标准、数据质量、数据指标、数据开发管理、实时计算、数据同步、数据科学以及数据标签、数据服务和数据资产等数据全生命周期服务, 覆盖数据多架构统一纳管、工程化能力、治理与工程能力相融合、集中式管制和分散式赋能等能力,全体系的大数据基础软件产品为大型组织的数据驱动建设内生的数据能力提供了基础。
科杰科技湖仓一体数据智能平台KeenData Lakehouse技术架构图(图片来源:爱分析)
无论是信息化还是数字化解决方案,其根本用途在于赋能业务增长、促进组织变革,所以如果产品仅仅停留在技术先进、功能完善层面,远远达不到企业数字化转型的目标。
成熟的方法论以及丰富专业的落地实践, 恰恰是科杰科技的又一杀手锏。 科杰科技在其基础软件平台KeenData Lakehouse内融合其独有的大型企业复杂场景下数字化转型的最佳实践理念,这是承载中大型企业构建内生数据能力的心脏。
科杰科技与每一个客户深度合作,共同推进数字化转型。 据悉,科杰科技已帮助中国石化、中国一汽、中国联通、国家电网、中金公司等行业头部企业完成数据底座体系化建设,覆盖政府、能源、金融、零售、工业等多个行业。
持续的贸易战为行业的发展提供了助力,将国产化提到更高的高度。 科杰科技湖仓一体数据智能平台KeenData Lakehouse,通过自主研发创新,替代国外开源的数据库和大数据产品。 在修炼内功的同时,科杰科技也不断与国内信创企业完成产品兼容性适配认证,目前已在基础软件、基础硬件等信创生态体系上构建了全栈全场景的解决方案。
4.坚实的数据底座,加速AI大模型产业化
今年年初,以ChatGPT为代表的AIGC在全球范围内掀起AI大模型浪潮。半年过去,AI大模型浪潮不仅没有退去,反而愈演愈烈,除了互联网大厂、云服务商、AI公司等各类玩家纷纷跟进,另一明显趋势便是AI大模型开始向B端渗透。
谈及AI大模型,我们除了要看到其在最上层的应用场景,同样需要看到其千亿级的参数、超强的算力以及高质量、大规模、多样化的数据。而AI大模型的To B,除了要在这些基础之上,更要加入对高并发、高可靠性的支持,以及对行业、对业务场景的理解。
这对天生To B、天生与数据打交道的众多湖仓一体厂商而言无疑是个机会, 于科杰科技更是一个进一步扩大领先优势的机遇。原因在于,科杰科技打造的KeenData Lakehouse湖仓一体数据智能平台,完全涵盖AI大模型对中间件基础软件要求的必备能力。
后续,科杰科技一方面将持续以数据底座的姿态,为AI大模型的落地提供数据基础设施和数据能力的支撑,另一方面将把KeenData Lakehouse与服务各行业的Know-How深度耦合,在AI大模型落地基础上加速产业化。
在数智化、国产化双重大背景下,AI大模型唯有基于国产基础软件打造的数字底座实现产业化,从而提升个人以及企业的生产效率乃至社会的运转效率,才能发挥其真正的价值,避免再次被“卡脖子”。中国也才能在AI驱动的第四次工业革命中、在数字经济的竞赛中拔得头筹,这是以科杰科技为代表的国内大数据基础软件供应商以及全体科技工作者的责任。
(封面图来源:拍信创意)
标签:
-
国产基础软件再创新赛道,湖仓一体成就百亿市场|甲子光年
短短三四年,湖仓一体便从新兴概念跃升为大数据领域十大关键词之一。作
-
东威科技(688700.SH)接受调研时表示,第三
东威科技(688700 SH)接受调研时表示,第三代光伏镀铜设备,因客户对工
-
直线滚筒输送机厂家供应(直线滚子导轨)
来为大家解答以上问题,直线滚筒输送机厂家供应,直线滚子导轨很多人还
-
8月2日兴全新视野定期开放混合型发起式净值下跌0.18%
8月2日,截至收盘,兴全新视野定期开放混合型发起式(001511)较前一交
-
丰田2023财年第一季度成绩单出炉:季度净利润首次超过1万亿日元
丰田2023财年第一季度成绩单出炉:季度净利润首次超过1万亿日元
-
广州:支持民间投资参与重大项目建设
《若干措施》共提出20条措施,其中,第1条到第7条,围绕“加大对民营经
-
应急管理部:8月份我国南北多地洪涝灾害风险较高
新华社北京8月2日电(记者周圆、王聿昊)记者8月2日从应急管理部获悉,
-
airpods2怎么调节音量大小 airpods2怎么调节音量
0471房产来为大家解答以上的问题。airpods2怎么调节音量大小,airpods2
-
上海二轮土拍下半场收官:绿城运气逆转连中三元成赢家 地块分化加剧
上海二轮土拍下半场收官!今日吸金98 37亿,双日总揽金238 16亿。今日出
-
海口过冬房价多少钱一平方,蓝城一号房价要爆跌
蓝城一号房价要爆跌,海口过冬房价多少钱一平方,蓝城一号房价及配套分
-
中国国家男子足球队原主教练李铁被提起公诉
中国国家男子足球队原主教练李铁涉嫌受贿、行贿、单位行贿、非国家工作
-
天津东丽:员工拒绝调岗遭辞退,能否获得赔偿?
用人单位因生产经营需要合理调整劳动者的工作岗位属正常现象,但如果员
-
万朗磁塑:累计回购约245万股 占比2.86%
万朗磁塑(SH603150,收盘价:元)8月2日晚间发布公告称,截至2023年7
-
最新世界500强出炉:142家中国公司上榜 宁德时代首次上榜
8月2日,最新的《财富》世界500强排行榜发布。今年《财富》世界500强排
-
白玉手镯增强运势
白玉手镯被认为在风水学中有着增强运势的功效。白玉被视为一种吉祥之物
-
2020年全区性社会组织现场评估专家到协会进行2A级评估
2020年8月17日上午,2020年全区性社会组织评估专家组对协会所申报的2A
-
汇顶科技(603160.SH):开发的新型生物识别解决方案,已顺利流片,进入性能调优阶段,正与客户合作加快商用进程
格隆汇8月2日丨有投资者向汇顶科技(603160)(603160 SH)提问,“公司23
-
襄州:留抵退税快 企业信心足
襄州:留抵退税快企业信心足---襄州区税务局伙牌税务分局工作人员在上
-
广西壮族自治区梧州市2023-08-02 11:52发布雷电黄色预警
一、广西壮族自治区梧州市天气预报苍梧县气象台2023年8月2日11时48分发
-
红日药业:8月1日融资买入2489.98万元,融资融券余额6.36亿元
8月1日,红日药业(300026)融资买入2489 98万元,融资偿还1026 64万元
-
市场监管总局面向社会征集计量数据建设应用基地
日前,市场监管总局面向社会和有关单位征集在深化计量数据资源整合、归
-
墨玉青花籽料鉴定
墨玉青花籽料是一种常见的宝石原料,它是由墨玉矿石经过加工而成的。墨
-
乔治谈库里,利拉德好消息!欧文有一愿望,卡莱尔看好东契奇MVP
乔治谈库里,利拉德好消息!欧文有一愿望,卡莱尔看好东契奇MVP,利拉德
-
海北州:民生福祉持续改善 幸福指数稳步提升
1Bd中国藏族网通1Bd中国藏族网通城乡差距不断缩小,农牧民收入不断增加
-
新闻特写|烈日下的调车人
【新闻特写】工人日报-中工网记者马学礼通讯员闫军“大家仔细检查现车
-
天海防务08月01日被深股通减持271.42万股
08月01日,天海防务被深股通减持万股,已连续3日被深股通减持,共计万
-
广誉远08月01日获沪股通增持4.38万股
08月01日,广誉远获沪股通增持4 38万股,最新持股量为329 48万股,占公
-
到2030年带动全球GDP额外增长20%!木头姐:这才是有史以来最具生产力的创新
ARK认为,假设自动驾驶汽车在美国拯救约3至3 5万人的生命,在全球拯救
-
淘宝保存的图片为什么显示图片错误(现在在淘宝搜无人机怎么没有显示)
1、展开全部2、非常抱歉地通知您,根据相关部门规定,即日起至2015年9
-
薄质(关于薄质简述)
,你们好,今天0471房产来聊聊一篇质,质简述的文章,网友们对这件事情