搜索客，搜索人自己的社区

社区日报第1713期 (2023-10-09)

社区日报 • yuebancanghai 发表了文章 • 0 个评论 • 1488 次浏览 • 2023-10-09 10:55 • 来自相关话题

ES 关于 remote_cluster 的一记小坑

Elasticsearch • yangmf2040 发表了文章 • 0 个评论 • 2168 次浏览 • 2023-10-08 15:04 • 来自相关话题

最近有小伙伴找到我们说 Kibana 上添加不了 Remote Cluster，填完信息点 Save 直接跳回原界面了。具体页面，就和没添加前一样。

![](https://infinilabs.com/img/blo ... /a.gif)

我们和小伙伴虽然隔着网线但还是进行了深入、详细的交流，梳理出来了如下信息：

两个集群：集群 A 和集群 B ，版本都是 7.10.0 ；
1. 集群 A 没区分节点角色；
2. 集群 B 设置了独立的 master 节点、coordinator 节点和 data 节点，其中 data 节点还带 remote_cluster_client 角色；
在集群 A 的 Kibana 可以添加集群 B 为远程集群；
在集群 B 添加集群 A 就不行，Kibana 跳回之前的页面；
网络组确认已经放开策略，网络测试也正常；

翻看了 ES 和 Kibana 的日志， ES 日志中有连接失败的错误信息， Kibana 日志中无对应输出。

yaml [2023-09-13T11:38:41,055][INFO ][o.e.c.s.ClusterSettings ] [710-1] updating [cluster.remote.test.mode] from [SNIFF] to [sniff] [2023-09-13T11:38:41,055][INFO ][o.e.c.s.ClusterSettings ] [710-1] updating [cluster.remote.test.seeds] from [[]] to [["127.0.0.1:7102"]] [2023-09-13T11:38:41,056][INFO ][o.e.c.s.ClusterSettings ] [710-1] updating [cluster.remote.test.mode] from [SNIFF] to [sniff] [2023-09-13T11:38:41,056][INFO ][o.e.c.s.ClusterSettings ] [710-1] updating [cluster.remote.test.seeds] from [[]] to [["127.0.0.1:7102"]] [2023-09-13T11:38:41,057][INFO ][o.e.c.s.ClusterSettings ] [710-1] updating [cluster.remote.test.mode] from [SNIFF] to [sniff] [2023-09-13T11:38:41,057][INFO ][o.e.c.s.ClusterSettings ] [710-1] updating [cluster.remote.test.seeds] from [[]] to [["127.0.0.1:7102"]] [2023-09-13T11:38:41,093][INFO ][o.e.c.s.ClusterSettings ] [710-1] updating [cluster.remote.test.mode] from [SNIFF] to [sniff] [2023-09-13T11:38:41,094][INFO ][o.e.c.s.ClusterSettings ] [710-1] updating [cluster.remote.test.seeds] from [[]] to [["127.0.0.1:7102"]] [2023-09-13T11:38:41,094][INFO ][o.e.c.s.ClusterSettings ] [710-1] updating [cluster.remote.test.mode] from [SNIFF] to [sniff] [2023-09-13T11:38:41,094][INFO ][o.e.c.s.ClusterSettings ] [710-1] updating [cluster.remote.test.seeds] from [[]] to [["127.0.0.1:7102"]] [2023-09-13T11:38:41,095][INFO ][o.e.c.s.ClusterSettings ] [710-1] updating [cluster.remote.test.mode] from [SNIFF] to [sniff] [2023-09-13T11:38:41,096][INFO ][o.e.c.s.ClusterSettings ] [710-1] updating [cluster.remote.test.seeds] from [[]] to [["127.0.0.1:7102"]] [2023-09-13T11:38:51,099][WARN ][o.e.t.RemoteClusterService] [710-1] failed to connect to new remote cluster test within 10s [2023-09-13T11:39:11,101][WARN ][o.e.t.SniffConnectionStrategy] [710-1] fetching nodes from external cluster [test] failed org.elasticsearch.transport.ConnectTransportException: [][127.0.0.1:7102] handshake_timeout[30s] at org.elasticsearch.transport.TransportHandshaker.lambda$sendHandshake$1(TransportHandshaker.java:73) ~[elasticsearch-7.10.2.jar:7.10.2] at org.elasticsearch.common.util.concurrent.ThreadContext$ContextPreservingRunnable.run(ThreadContext.java:684) ~[elasticsearch-7.10.2.jar:7.10.2] at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1130) [?:?] at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:630) [?:?] at java.lang.Thread.run(Thread.java:832) [?:?] 

已经测试过网络是通的，开始尝试把集群 B 的角色配置统统去掉再尝试。
嘿，添加成功了。
接下来为了找出问题，开始一步一步给每个节点再加回原来的角色。而且如果节点原来没有 remote_cluster_client 角色，这次也一并加上。
操作过程
- 先从 data 节点开始，恢复角色，尝试添加远程集群，失败。
- 接着 coordinate 节点，恢复角色且新增 remote_cluster_client 角色，尝试添加远程集群，失败。
- 最后 master 节点，恢复角色且新增 remote_cluster_client 角色，尝试添加远程集群，成功。
 
 最终直到所有节点都有 remote_cluster_client 角色后，才成功添加远程集群。
 结论： ES 集群添加远程集群所有节点都必须拥有 remote_cluster_client 角色。
 事情到这里，似乎没什么问题。但当我们对这个结论进行检验时，又有了新发现。
 上面的场景忽视了一个因素 -- Kibana 。于是我们搭建了一个两个节点的集群，其中节点 A 是全角色节点，节点 B 只是 data 节点。让 Kibana 分别连接两个节点进行测试。
 验证结果
- 当 Kibana 连接节点 A 时，可以正常添加。
- Kibana 连接节点 B 时，添加失败，跳回界面。
 
 结论：ES 集群添加远程集群时，Kibana 连接的 ES 节点必须拥有 remote_cluster_client 角色。
 很显然，这个结论更合理。
 
 原因分析
 我们是通过 Kibana 界面操作去添加远程集群的， Kibana 连接的节点就被当作 remote_client 。该节点要向远程集群发起连接并执行相关调用。但这一切有个前提，该节点必须有 remote_cluster_client 角色才能向远程集群发起连接。
 ![](https://infinilabs.com/img/blo ... /b.png)
 引申
 我们的 CCS 操作也必须发送到一个具有 remote_cluster_client 角色的节点，才能成功执行。
 ![](https://infinilabs.com/img/blo ... /1.png)
 ![](https://infinilabs.com/img/blo ... /2.png)
 ![](https://infinilabs.com/img/blo ... /3.png)
 
 参考连接
 [https://www.elastic.co/guide/e ... .html](https://www.elastic.co/guide/e ... e.html)

社区日报第1712期 (2023-09-28）

社区日报 • Se7en 发表了文章 • 0 个评论 • 1959 次浏览 • 2023-09-28 17:14 • 来自相关话题

社区日报第1711期 (2023-09-27）

社区日报 • kin122 发表了文章 • 0 个评论 • 1776 次浏览 • 2023-09-27 10:41 • 来自相关话题

社区日报第1710期 (2023-09-26）

社区日报 • God_lockin 发表了文章 • 0 个评论 • 1870 次浏览 • 2023-09-26 17:25 • 来自相关话题

通过 Helm Chart 部署 Easysearch

经验分享 • liaosy 发表了文章 • 0 个评论 • 2138 次浏览 • 2023-09-25 14:39 • 来自相关话题

Easysearch 可以通过 Helm 快速部署了，快来看看吧！

Easysearch 的 Chart 仓库地址在这里 [https://helm.infinilabs.com](https://helm.infinilabs.com/)。

使用 Helm 部署 Easysearch 有两个前提条件：

[cert-manager](https://cert-manager.io/docs/installation/)
[local-path](https://github.com/rancher/local-path-provisioner)

我们先按照 Chart 仓库的说明来快速部署一下。

bash ~ helm repo add infinilabs <a href="https://helm.infinilabs.com" rel="nofollow" target="_blank">https://helm.infinilabs.com</a> ~ cat << EOF | kubectl apply -n test -f - apiVersion: cert-manager.io/v1 kind: Issuer metadata: name: easysearch-ca-issuer spec: selfSigned: {} --- apiVersion: cert-manager.io/v1 kind: Certificate metadata: name: easysearch-ca-certificate spec: commonName: easysearch-ca-certificate duration: 87600h0m0s isCA: true issuerRef: kind: Issuer name: easysearch-ca-issuer privateKey: algorithm: ECDSA size: 256 renewBefore: 2160h0m0s secretName: easysearch-ca-secret EOF ~ helm install easysearch infinilabs/easysearch -n test 

执行上面的两个命令之后，查看一下部署情况

bash ~ kubectl get pod -n test NAME READY STATUS RESTARTS AGE easysearch-0 1/1 Running 0 38s ~ kubectl get svc -n test NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE easysearch-svc-headless ClusterIP None <none> 9200/TCP,9300/TCP 67s ~ kubectl exec -n test easysearch-0 -it -- curl -ku'admin:admin' <a href="https://localhost:9200" rel="nofollow" target="_blank">https://localhost:9200</a> Defaulted container "easysearch" out of: easysearch, init-config (init) { "name" : "easysearch-0", "cluster_name" : "infinilabs", "cluster_uuid" : "JwhwwWHMQKy8l6_US7rB1A", "version" : { "distribution" : "easysearch", "number" : "1.5.0", "distributor" : "INFINI Labs", "build_hash" : "5b5b117bc43e6793e7bb0cd8bd83567a5ef35be0", "build_date" : "2023-09-07T14:55:21.232870Z", "build_snapshot" : false, "lucene_version" : "8.11.2", "minimum_wire_lucene_version" : "7.7.0", "minimum_lucene_index_compatibility_version" : "7.7.0" }, "tagline" : "You Know, For Easy Search!" } 

通过上面的验证，我们可以看到 Easysearch 已经部署完成，是不是很方便。

按照 Chart 仓库的指导说明部署的是一个单节点集群，那如果要部署多节点的要怎么办呢？下面让我们来研究一下 Easysearch Chart 包的源码 [https://github.com/infinilabs/ ... earch](https://github.com/infinilabs/ ... search)。

熟悉 Chart 包结构的小伙伴都清楚，Chart 包的变量配置一般都是在 values.yaml 文件中配置的。

我们先来看一下默认的 [values.yaml](https://github.com/infinilabs/ ... s.yaml) 文件内容（这里只截选了一些可能需要变更的配置，完整内容请查阅源码）：
pod 副本数以及使用资源的配置

yaml replicaCount: 1 resources: limits: cpu: 1000m memory: 2Gi requests: cpu: 1000m memory: 2Gi 
使用存储类型以及容量的配置

yaml storageClassName: local-path dataVolumeStorage: 100Gi 
集群名、主节点列表以及节点角色配置

yaml clusterName: infinilabs masterHosts: '"easysearch-0"' discoverySeedHosts: '"easysearch-0.easysearch-svc-headless"' nodeRoles: '"master","data","ingest","remote_cluster_client"' 

根据研究源码的结果，多节点集群的部署只需要我们调整部署的 pod 副本数、集群名、主节点列表以及节点角色这几个配置。下面让我们来实践一下：

1、集群规划

集群名：es-test

规模：3 主节点 + 3 数据节点 + 2 协调节点

2、Chart 的版本名

主节点：es-test-master

数据节点：es-test-data

协调节点：es-test-coordinate

3、根据节点角色创建不同的 values.yaml 文件
es-test-master.yaml

yaml replicaCount: 3 clusterName: es-test masterHosts: '"es-test-master-easysearch-0","es-test-master-easysearch-1","es-test-master-easysearch-2"' discoverySeedHosts: '"es-test-master-easysearch-0.es-test-master-easysearch-svc-headless","es-test-master-easysearch-1.es-test-master-easysearch-svc-headless","es-test-master-easysearch-2.es-test-master-easysearch-svc-headless"' nodeRoles: '"master","ingest","remote_cluster_client"' 
es-test-data.yaml

yaml replicaCount: 3 clusterName: es-test masterHosts: '"es-test-master-easysearch-0","es-test-master-easysearch-1","es-test-master-easysearch-2"' discoverySeedHosts: '"es-test-master-easysearch-0.es-test-master-easysearch-svc-headless","es-test-master-easysearch-1.es-test-master-easysearch-svc-headless","es-test-master-easysearch-2.es-test-master-easysearch-svc-headless"' nodeRoles: '"data","ingest","remote_cluster_client"' 
es-test-coordinate.yaml

yaml replicaCount: 2 clusterName: es-test masterHosts: '"es-test-master-easysearch-0","es-test-master-easysearch-1","es-test-master-easysearch-2"' discoverySeedHosts: '"es-test-master-easysearch-0.es-test-master-easysearch-svc-headless","es-test-master-easysearch-1.es-test-master-easysearch-svc-headless","es-test-master-easysearch-2.es-test-master-easysearch-svc-headless"' nodeRoles: "" 

4、使用各节点角色的配置文件部署

bash ~ helm install es-test-master infinilabs/easysearch -n test -f es-test-master.yaml ~ helm install es-test-data infinilabs/easysearch -n test -f es-test-data.yaml ~ helm install es-test-coordinate infinilabs/easysearch -n test -f es-test-coordinate.yaml 

5、验证

bash ~ kubectl get pod -n test|grep es-test es-test-master-easysearch-0 1/1 Running 0 5m57s es-test-data-easysearch-0 1/1 Running 0 5m29s es-test-coordinate-easysearch-0 1/1 Running 0 5m10s es-test-master-easysearch-1 1/1 Running 0 4m57s es-test-data-easysearch-1 1/1 Running 0 4m29s es-test-coordinate-easysearch-1 1/1 Running 0 4m10s es-test-master-easysearch-2 1/1 Running 0 3m56s es-test-data-easysearch-2 1/1 Running 0 3m29s ~ kubectl exec -n test es-test-master-easysearch-0 -it -- curl -ku'admin:admin' <a href="https://localhost:9200/_cat/nodes?v" rel="nofollow" target="_blank">https://localhost:9200/_cat/nodes?v</a> Defaulted container "easysearch" out of: easysearch, init-config (init) ip heap.percent ram.percent cpu load_1m load_5m load_15m node.role master name 10.42.0.130 12 63 12 1.53 2.67 2.11 - - es-test-coordinate-easysearch-0 10.42.0.136 53 65 52 1.53 2.67 2.11 dir - es-test-data-easysearch-1 10.42.0.139 6 63 14 1.53 2.67 2.11 - - es-test-coordinate-easysearch-1 10.42.0.133 10 63 14 1.53 2.67 2.11 imr - es-test-master-easysearch-1 10.42.0.149 58 65 59 1.53 2.67 2.11 dir - es-test-data-easysearch-2 10.42.0.124 53 68 35 1.53 2.67 2.11 imr * es-test-master-easysearch-0 10.42.0.127 56 65 46 1.53 2.67 2.11 dir - es-test-data-easysearch-0 10.42.0.146 15 63 18 1.53 2.67 2.11 imr - es-test-master-easysearch-2 

至此，多集群已部署完成。

关于 Easysearch

![about easysearch](https://www.infinilabs.com/img ... er.png)

INFINI Easysearch 是一个分布式的近实时搜索与分析引擎，核心引擎基于开源的 Apache Lucene。Easysearch 的目标是提供一个轻量级的 Elasticsearch 可替代版本，并继续完善和支持更多的企业级功能。与 Elasticsearch 相比，Easysearch 更关注在搜索业务场景的优化和继续保持其产品的简洁与易用性。

官网文档：<https://www.infinilabs.com/doc ... gt%3B

下载地址：<https://www.infinilabs.com/download>;

社区日报第1709期 (2023-09-25)

社区日报 • yuebancanghai 发表了文章 • 0 个评论 • 1692 次浏览 • 2023-09-25 11:55 • 来自相关话题

这个特性有没有人测试过？？？

Elasticsearch • Charele 回复了问题 • 1 人关注 • 1 个回复 • 2358 次浏览 • 2023-09-25 12:23 • 来自相关话题

社区日报第1708期 (2023-09-22）

社区日报 • laoyang360 发表了文章 • 0 个评论 • 1890 次浏览 • 2023-09-22 22:40 • 来自相关话题

INFINI Labs 产品更新 | Gateway 支持基于 Kafka 的复制能力，发布 Helm Charts 部署方式

资讯动态 • liaosy 发表了文章 • 0 个评论 • 2554 次浏览 • 2023-09-22 16:16 • 来自相关话题

![release](https://www.infinilabs.com/img ... er.png)

INFINI Labs 产品又更新啦~。本次更新概要如下：Easysearch 新增了索引字段相关统计 API，优化了 source_reuse 提升压缩效率；Gateway 新增诸多新特性，如：支持基于 Kafka 的复制能力，添加可插拔的分布式锁实现，新增 CPU 资源限制等功能；Console 本次主要优化了数据迁移功能，迁移任务详情页新增了若干指标图和日志查看等功能。

欢迎大家下载使用和反馈。

INFINI Helm Charts v0.1.0

INFINI Helm Charts 是一组 Kubernetes 部署包管理工具。基于 Helm Charts，我们将 INFINI Labs 旗下相关产品预先配置好程序资源包，大大简化了部署流程。Github 仓库地址：<https://github.com/infinilabs/helm-charts>;。

Helm Charts 本次更新如下：

Features

添加 Console Chart
添加 Easysearch Chart，支持单节点以及多节点（节点角色可配置）部署

部署视频演示：
[如何通过 Helm Chart 部署 Easysearch](https://www.bilibili.com/video/BV1Cp4y1w71F/)
[如何通过 Helm Chart 部署 Console](https://www.bilibili.com/video/BV1qm4y157hu/)

博客文章：
[如何通过 Helm Chart 部署 Easysearch](https://www.infinilabs.com/blo ... earch/)

INFINI Easysearch v1.6.0

INFINI Easysearch 是一个分布式的近实时搜索与分析引擎，核心引擎基于开源的 Apache Lucene。Easysearch 的目标是提供一个轻量级的 Elasticsearch 可替代版本，并继续完善和支持更多的企业级功能。

Easysearch 本次更新如下：

Features
新增 _field_usage_stats API，统计索引每个字段的访问次数
新增 _disk_usage API，可以分析指定索引每个字段的磁盘占用大小
增加 flattened 类型，将 JSON 对象作为字符串处理，可以减少嵌套 JSON 型的文档的大小

Improvements
source_reuse 增加对 _source 中数字类型的值进行复用压缩，可进一步降低 _source 磁盘占用
改进 source_reuse 筛选字段的逻辑

INFINI Gateway v1.18.0

INFINI Gateway 是一个面向搜索场景的高性能数据网关，所有请求都经过网关处理后再转发到后端的搜索业务集群。基于 INFINI Gateway 可以实现索引级别的限速限流、常见查询的缓存加速、查询请求的审计、查询结果的动态修改等等。

Gateway 本次更新如下：

Breaking changes
彻底移除了 request_body_truncate 和 response_body_truncate 过滤器

Features
支持基于 Kafka 的复制能力
在请求上下文中添加 _util.generate_uuid
在请求上下文中添加 _util.increment_id.BUCKET_NAME
在 Pipeline 配置中添加 singleton，防止多个 Pipeline 同时运行
添加可插拔的分布式锁实现
添加通用应用程序的 preference 配置
泛化队列抽象，重构磁盘队列，完善 Kafka 实现
添加 merge_to_bulk 处理器，废弃 indexing_merge 处理器
添加 flow_replay 处理器，废弃 flow_runner 处理器
为复制场景添加 replication_correlation
添加 hash_mod 过滤器
在 bulk_response_process 过滤器中添加新参数
添加 request_reshuffle 过滤器
添加资源限制，允许设置最大 CPU 数或绑定亲和性
支持模板中的嵌套变量
添加 rewrite_to_bulk 过滤器

Bug fix
修复了 Pipeline 中重试延迟未生效的问题
修复了模板中不支持数字的问题
修复了队列选择器通过标签的问题，如果指定了多个标签，它们都应该一起匹配

Improvements
将所有模块名称转换为小写
在启动期间预取 Elasticsearch 元数据
添加应用程序范围的关闭信号
重构队列 API，支持 Kafka 管理
在 Badger 模块中添加 enabled
允许使用优先级注册模块/插件
统一队列的使用和初始化
优化 bulk_reshuffle 过滤器的性能，添加响应头 X-Bulk-Reshuffled
支持在 queue 过滤器中使用变量，允许输出最后生成的消息偏移量

INFINI Console v1.8.0

INFINI Console 是一款非常轻量级的多集群、跨版本的搜索基础设施统一管控平台。通过对流行的搜索引擎基础设施进行跨版本、多集群的集中纳管，企业可以快速方便的统一管理企业内部的不同版本的多套搜索集群。

Console 在线体验： <http://demo.infini.cloud>; (用户名/密码：readonly/readonly)。

Console 本次更新如下：

Features
数据迁移任务支持自定义名称和添加标签
数据迁移任务详情页新增若干指标
数据迁移任务详情页新增查看日志

Improvements
数据迁移 UI 优化
优化监控报表、数据看板、数据探索的时间控件 UI

![数据迁移列表页](https://www.infinilabs.com/img ... /1.jpg)

![数据迁移详情页](https://www.infinilabs.com/img ... /2.jpg)

期待反馈

欢迎下载体验使用，如果您在使用过程中遇到如何疑问或者问题，欢迎前往 INFINI Labs Github（<https://github.com/infinilabs>;）中的对应项目中提交 Feature Request 或提交 Bug。
INFINI Gateway： <https://github.com/infinilabs/gateway/issues>;
INFINI Console： <https://github.com/infinilabs/console/issues>;
下载地址： <https://www.infinilabs.com/download>;

您还可以通过邮件联系我们：hello@infini.ltd

或者拨打我们的热线电话：(+86) 400-139-9200

欢迎加入 Discord 聊天室：<https://discord.com/invite/4tKTMkkvVX>;

也欢迎大家微信扫码添加小助手（INFINI-Labs），加入用户群一起讨论交流。

![联系我们](https://www.infinilabs.com/img ... ew.jpg)

关于极限科技（INFINI Labs）

![INFINI Labs](https://www.infinilabs.com/img ... bs.png)

极限科技，全称极限数据（北京）科技有限公司，是一家专注于实时搜索与数据分析的软件公司。旗下品牌极限实验室（INFINI Labs）致力于打造极致易用的数据探索与分析体验。

极限科技是一支年轻的团队，采用天然分布式的方式来进行远程协作，员工分布在全球各地，希望通过努力成为中国乃至全球企业大数据实时搜索分析产品的首选，为中国技术品牌输出添砖加瓦。

官网：<https://www.infinilabs.com>;

通知设置新通知

发现

社区日报第1713期 (2023-10-09)

ES 关于 remote_cluster 的一记小坑

社区日报第1712期 (2023-09-28）

社区日报第1711期 (2023-09-27）

社区日报第1710期 (2023-09-26）

通过 Helm Chart 部署 Easysearch

关于 Easysearch

社区日报第1709期 (2023-09-25)

这个特性有没有人测试过？？？

社区日报第1708期 (2023-09-22）

INFINI Labs 产品更新 | Gateway 支持基于 Kafka 的复制能力，发布 Helm Charts 部署方式

INFINI Helm Charts v0.1.0

Features

INFINI Easysearch v1.6.0

Features

Improvements

INFINI Gateway v1.18.0

Breaking changes

Features

Bug fix

Improvements

INFINI Console v1.8.0

Features

Improvements

期待反馈

关于极限科技（INFINI Labs）

社区日报第1707期 (2023-09-21）

社区日报第1706期 (2023-09-20）

社区日报第1705期 (2023-09-19）

了解下下ES中的父子文档

Tencent ES

活动推荐

热门话题

通知设置 新通知

发现

关于 Easysearch

INFINI Helm Charts v0.1.0

Features

INFINI Easysearch v1.6.0

Features

Improvements

INFINI Gateway v1.18.0

Breaking changes

Features

Bug fix

Improvements

INFINI Console v1.8.0

Features

Improvements

期待反馈

关于极限科技（INFINI Labs）

活动推荐

热门话题

通知设置新通知