存储压缩
Easysearch 压缩功能的显著提升：从 8.7GB 到 1.4GB
Easysearch • liaosy 发表了文章 • 0 个评论 • 2146 次浏览 • 2023-10-09 17:11
引言
在海量数据的存储和处理中，索引膨胀率是一个不可忽视的关键指标。它直接影响了存储成本和查询性能。近期，Easysearch 在这方面取得了显著的进展，其压缩功能的效果远超过了之前的版本。本文将详细介绍这一进展。
Easysearch 各版本压缩性能对比
根据之前文章的数据，Easysearch v1.1 在处理相同数据时，其索引大小比 Elasticsearch v6.4.3 降低了 50%。但这还不是全部，最新的测试数据更是令人惊艳。
显著的压缩效果：实验数据解析
通过对比不同版本的存储大小，我们更直观地了解到 Easysearch 在压缩方面的优势：
- Easysearch 的原始版本，未开启压缩：存储大小为 8.7 GB。
- Easysearch v2 版本：经过第二版压缩后，存储大小显著减少到 2.7 GB。
- Easysearch v3 版本：第三版压缩后，存储大小进一步减少到 1.4 GB。
关键观察
Easysearch 之前提供的压缩版相比原始版本减少了约 69%的存储空间。
Easysearch v3 版则更为显著，相比原始版本减少了约 84%的存储空间。
第三版本压缩的秘密武器：数字类型字段的复用
第三版本压缩能达到如此高的效率，主要是因为在之前第二版对文档原文中 keyword 类型字段复用的基础上，增加了对数字类型字段的复用。这一策略进一步优化了存储结构，显著提高了压缩效率。
压缩策略：多元化选择
Easysearch 提供了多种压缩策略，包括 default、best_compression、ZSTD 和 index.source_reuse。其中，ZSTD 和 index.source_reuse 是新引入的压缩策略，能进一步降低索引膨胀率。
带来的好处
降低存储成本：显著降低的存储大小意味着在硬件和维护方面的成本将大幅度减少。 提高系统扩展性：更小的数据尺寸意味着在相同的硬件配置下，系统能够处理更多的数据。 数据备份和传输：由于索引文件更小，数据备份和传输的速度也将提升，同时减少带宽需求。
总结
Easysearch 在压缩效果上有显著提升，不仅降低了存储成本，还提高了查询性能和系统扩展性。这使得 Easysearch 在大数据环境下成为一种非常具有吸引力的搜索和存储解决方案
关于 Easysearch
INFINI Easysearch 是一个分布式的近实时搜索与分析引擎，核心引擎基于开源的 Apache Lucene。Easysearch 的目标是提供一个轻量级的 Elasticsearch 可替代版本，并继续完善和支持更多的企业级功能。 与 Elasticsearch 相比，Easysearch 更关注在搜索业务场景的优化和继续保持其产品的简洁与易用性。
官网文档：https://www.infinilabs.com/docs/latest/easysearch
下载地址：https://www.infinilabs.com/download
Easysearch 压缩功能的显著提升：从 8.7GB 到 1.4GB
Easysearch • liaosy 发表了文章 • 0 个评论 • 2146 次浏览 • 2023-10-09 17:11
引言
在海量数据的存储和处理中，索引膨胀率是一个不可忽视的关键指标。它直接影响了存储成本和查询性能。近期，Easysearch 在这方面取得了显著的进展，其压缩功能的效果远超过了之前的版本。本文将详细介绍这一进展。
Easysearch 各版本压缩性能对比
根据之前文章的数据，Easysearch v1.1 在处理相同数据时，其索引大小比 Elasticsearch v6.4.3 降低了 50%。但这还不是全部，最新的测试数据更是令人惊艳。
显著的压缩效果：实验数据解析
通过对比不同版本的存储大小，我们更直观地了解到 Easysearch 在压缩方面的优势：
- Easysearch 的原始版本，未开启压缩：存储大小为 8.7 GB。
- Easysearch v2 版本：经过第二版压缩后，存储大小显著减少到 2.7 GB。
- Easysearch v3 版本：第三版压缩后，存储大小进一步减少到 1.4 GB。
关键观察
Easysearch 之前提供的压缩版相比原始版本减少了约 69%的存储空间。
Easysearch v3 版则更为显著，相比原始版本减少了约 84%的存储空间。
第三版本压缩的秘密武器：数字类型字段的复用
第三版本压缩能达到如此高的效率，主要是因为在之前第二版对文档原文中 keyword 类型字段复用的基础上，增加了对数字类型字段的复用。这一策略进一步优化了存储结构，显著提高了压缩效率。
压缩策略：多元化选择
Easysearch 提供了多种压缩策略，包括 default、best_compression、ZSTD 和 index.source_reuse。其中，ZSTD 和 index.source_reuse 是新引入的压缩策略，能进一步降低索引膨胀率。
带来的好处
降低存储成本：显著降低的存储大小意味着在硬件和维护方面的成本将大幅度减少。 提高系统扩展性：更小的数据尺寸意味着在相同的硬件配置下，系统能够处理更多的数据。 数据备份和传输：由于索引文件更小，数据备份和传输的速度也将提升，同时减少带宽需求。
总结
Easysearch 在压缩效果上有显著提升，不仅降低了存储成本，还提高了查询性能和系统扩展性。这使得 Easysearch 在大数据环境下成为一种非常具有吸引力的搜索和存储解决方案
关于 Easysearch
INFINI Easysearch 是一个分布式的近实时搜索与分析引擎，核心引擎基于开源的 Apache Lucene。Easysearch 的目标是提供一个轻量级的 Elasticsearch 可替代版本，并继续完善和支持更多的企业级功能。 与 Elasticsearch 相比，Easysearch 更关注在搜索业务场景的优化和继续保持其产品的简洁与易用性。
官网文档：https://www.infinilabs.com/docs/latest/easysearch
下载地址：https://www.infinilabs.com/download
