实时数仓SelectDB 发展史

实时数据仓库资讯
2024/11/01
SelectDB

在当今数据驱动的时代,实时数据处理与分析已成为企业提升核心竞争力的关键因素。在这场数据革命中,SelectDB作为实时数仓领域的佼佼者,以其卓越的性能和广泛的应用场景,赢得了众多企业的青睐。本文将详细介绍SelectDB的发展历程,探讨其技术优势和未来展望,旨在帮助读者深入了解这款引领数据仓库发展的创新产品。

实时数仓SelectDB 发展史.jpg

一、起源:百度自研的实时数仓平台Palo

SelectDB的故事可以追溯到2013年,当时百度内部研发了一款实时数仓平台——Palo。Palo采用了列存和MPP(Massively Parallel Processing)查询引擎,最初应用于百度统计和广告报表分析场景。凭借其出色的性能和稳定性,Palo迅速在百度内部得到推广,并在四年内覆盖了百度所有的业务线,成为百度统一的实时数仓。

Palo的成功不仅在于其卓越的技术表现,更在于它满足了百度对于实时数据分析的迫切需求。在数据驱动决策的背景下,实时数仓能够为企业提供快速、准确的业务洞察,帮助企业在激烈的市场竞争中占据先机。

二、开源:Apache Doris的诞生

2018年,百度决定将Palo开源,并将其贡献给Apache基金会,成为Apache孵化器项目,更名为Apache Doris。这一举措不仅标志着百度在大数据处理领域的深厚积累,也展示了其对开源社区的积极贡献。

Apache Doris凭借其高性能、易用性和灵活性,迅速在开源社区中崭露头角。数百家企业开始在生产系统中应用Doris,包括美团、京东、小米、字节跳动、华为、腾讯等知名企业。Doris在大数据处理领域的广泛应用,进一步证明了其技术实力和市场需求。

三、商业化:飞轮科技的成立与SelectDB的推出

2022年1月,Doris团队创建了飞轮科技(SelectDB),致力于将Doris打造成一款现代化的实时数据仓库产品,并提供商业化服务和支持。飞轮科技的成立,标志着Doris从开源项目向商业化产品的转变,也为其未来的发展奠定了坚实的基础。

SelectDB的推出,不仅继承了Doris的卓越性能,还加入了更多企业级特性和功能。它支持多种数据导入方式,包括批量导入和增量导入,满足了不同场景下的数据需求。同时,SelectDB提供了一体化的管理界面,方便用户进行数据的管理和查询操作,极大地降低了使用门槛。

四、里程碑:Apache Doris的快速发展与版本迭代

自开源以来,Apache Doris经历了多个版本的迭代和升级,每一次都带来了显著的性能提升和功能增强。

  • 2022年6月,Apache Doris成功孵化毕业,成为Apache顶级项目(TLP),这是对其技术实力和社区贡献的充分肯定。
  • 2022年7月,Apache Doris 1.1版本发布,该版本支持全面向量化引擎,性能提升3-5倍,并引入了内存统计和限制机制,大幅提升了系统的稳定性。
  • 2022年12月,Apache Doris 1.12版本发布,该版本在算子优化、宽表性能、新主键模型、嵌套数据类型等方面取得了显著进展,成为Clickbench全球性能第一的实时数仓。
  • 2023年7月,Apache Doris 2.0版本发布,该版本引入了全新的查询优化器和pipeline执行引擎,复杂查询性能提升近10倍。同时,它还支持了完善的Lakehouse和高并发数据服务,满足了更多应用场景的需求。

五、技术特点:实时极速、融合统一、弹性架构、开放生态

SelectDB之所以能够在实时数仓领域脱颖而出,离不开其四大核心特性:实时极速、融合统一、弹性架构和开放生态。

  • 实时极速:SelectDB通过服务融合、多模统一、实时批量统一等技术,实现了秒级数据实时和极速查询能力。在TPC-H等基准测试中,其性能远超传统数据湖查询系统,为用户提供了极致的数据分析体验。
  • 融合统一:SelectDB支持结构化、非结构化、半结构化多种数据类型的统一分析,并通过负载管理实现实时和批量的统一。这使得用户可以在一个平台上处理多种类型的数据,极大地简化了数据分析流程。
  • 弹性架构:SelectDB通过计算隔离、存储分层和存储计算分离等技术,实现了云上产品所需的极致资源弹性。用户可以根据业务需求灵活调整计算资源和存储资源,降低了成本并提高了资源利用率。
  • 开放生态:SelectDB基于开源Doris,保证了与之存储格式和接口兼容。用户可以自由迁移数据,并直接使用MySQL客户端、驱动和BI工具进行数据分析和查询。此外,SelectDB还提供了高性能的Restful开放API,支持Python机器学习工具等外部系统无缝访问。

六、应用场景:实时报表、交互分析、用户行为分析、日志分析

SelectDB的广泛应用场景是其成功的关键之一。它不仅可以应用于实时报表和决策支持场景,还可以满足交互式探索分析、用户行为分析和画像分析、日志管理分析等多种需求。

  • 实时报表与决策:SelectDB可以为企业提供实时的BI报表和风控决策支持,帮助企业快速了解业务情况并做出决策。
  • 交互式探索分析:面向TB级别的大数据,SelectDB可以比Spark、Hive、Presto等系统提供更快的查询加速能力,满足数据分析师的Ad-hoc探索式分析需求。
  • 用户行为分析和画像分析:基于用户行为构建用户数据平台,进行用户留存、拉新分析和用户画像构建,以更好地服务用户、加速业务增长。
  • 日志管理分析:作为更高性能、更具成本效益的大规模日志存储和分析解决方案,SelectDB可以比Elasticsearch提供5倍以上的性能提升。

七、未来展望:持续创新,引领实时数仓发展

展望未来,SelectDB将继续秉承创新理念,不断优化产品性能,拓展应用场景,为用户提供更加优质的数据分析服务。随着大数据技术的不断发展和应用场景的不断拓展,SelectDB有望在实时数仓领域继续保持领先地位,并引领整个行业的发展方向。

同时,SelectDB也将积极拥抱开源社区,与更多企业和开发者共同推动实时数仓技术的进步和发展。通过开放合作、共享资源,SelectDB将助力更多企业实现数据驱动的业务增长和创新发展。

结语

实时数仓SelectDB的发展历程是一段充满创新和挑战的旅程。从百度自研的Palo到开源项目Apache Doris,再到飞轮科技推出的SelectDB,每一步都凝聚着团队的智慧和汗水。未来,随着大数据技术的不断演进和应用场景的不断拓展,SelectDB将继续保持其领先地位,并引领实时数仓技术的发展方向。让我们共同期待SelectDB在未来的辉煌表现!