如何对聚合得到的结果再次统计
ziyou 回复了问题 • 4 人关注 • 2 个回复 • 5762 次浏览 • 2019-08-13 14:58
Es能否实现sql全数据的group by
dx420811682 回复了问题 • 3 人关注 • 2 个回复 • 9802 次浏览 • 2018-07-13 10:54
聊聊ELASTICSEARCH的集群状态的管理和维护
vearne 发表了文章 • 2 个评论 • 6757 次浏览 • 2018-07-12 22:49
注意 本文参考的ES 5.0.1的源码
1. 查看集群状态
可以通过API查看集群状态
<br /> GET /_cluster/state<br />
大致可以得到如下内容

version
集群状态数字版本号
每次更新version + 1
集群重启version不会置0(只会单调增)
state_uuid
是集群状态字符串版本号(UUID)
master_node
master节点
nodes
该版本中的所有节点信息
routing_table
和 routing_nodes
都是描述不同index上的shard在node上的分布关系
2. 集群状态的维护
可以阅读
.//core/src/main/java/org/elasticsearch/cluster/ClusterState.java
- 2.1 ClusterState是不可变对象,每次状态变更都会产生新的ClusterState,它们拥有不同的版本号
- 2.2 在ES中, 集群状态由Master维护,并且只能由master节点更新集群状态
- 2.3 更新完成后,Master会把新版本的集群状态推送给集群的其它所有节点
对于publish,Master节点会根据它已知其它节点所拥有的集群状态版本,决定是执行
sendFullClusterState()
还是sendClusterStateDiff()
, 前者是全量推送,后者增量推送。
- 2.4 对于使用Zen Discovery的情况,只要有minimumMasterNodes响应了Master节点的
publish
消息, 那么这次的commit
就算成功
The cluster state can be updated only on the master node. All updates are performed by on a single thread and controlled by the {@link ClusterService}. After every update the
{@link Discovery#publish} method publishes new version of the cluster state to all other nodes in the cluster.
In the Zen Discovery it is handled in the {@link PublishClusterStateAction#publish} method
- 2.5 另外需要补充的是Elasticsearch使用Gossip + Bully算法进行选主。Bully算法在具体实现中,不是简单选取节点ID小的节点, 首先要先比较ClusterState的版本。版本高的优先当选。(各个版本实现有不同,但都需要考虑候选节点的集群状态版本)
<br /> /**<br /> * Elects a new master out of the possible nodes, returning it. Returns <tt>null</tt><br /> * if no master has been elected.<br /> */<br /> public MasterCandidate electMaster(Collection<MasterCandidate> candidates) {<br /> assert hasEnoughCandidates(candidates);<br /> List<MasterCandidate> sortedCandidates = new ArrayList<>(candidates);<br /> sortedCandidates.sort(MasterCandidate::compare);<br /> return sortedCandidates.get(0);<br /> }<br />
<br /> /**<br /> * compares two candidates to indicate which the a better master.<br /> * A higher cluster state version is better<br /> *<br /> * @return -1 if c1 is a batter candidate, 1 if c2.<br /> */<br /> public static int compare(MasterCandidate c1, MasterCandidate c2) {<br /> // we explicitly swap c1 and c2 here. the code expects "better" is lower in a sorted<br /> // list, so if c2 has a higher cluster state version, it needs to come first.<br /> int ret = Long.compare(c2.clusterStateVersion, c1.clusterStateVersion);<br /> if (ret == 0) {<br /> ret = compareNodes(c1.getNode(), c2.getNode());<br /> }<br /> return ret;<br /> }<br /> }<br />
参考资料
- [cluster-state](https://www.elastic.co/guide/e ... e.html)
欢迎光临我的个人博客 萌叔 | http://vearne.cc
- [cluster-state](https://www.elastic.co/guide/e ... e.html)
elasticsearch可以匹配一个字段的全部内容,不分词么?由于params json有很多json格式,导致logstash进入es报下面错
xinfanwang 回复了问题 • 5 人关注 • 7 个回复 • 5572 次浏览 • 2018-07-30 10:00
prefix query 特殊字符问题
elasticStack 回复了问题 • 3 人关注 • 1 个回复 • 6121 次浏览 • 2018-07-25 18:32
es 查询:_search 可以看到的数据 通过 index/type/id 却查不到
yayg2008 回复了问题 • 5 人关注 • 3 个回复 • 24523 次浏览 • 2018-07-13 11:55
es如何定位shard在那个节点?
vearne 回复了问题 • 6 人关注 • 4 个回复 • 3081 次浏览 • 2018-07-13 14:18
googleplay分成google play,什么分词器支持呢?
rochy 回复了问题 • 2 人关注 • 1 个回复 • 2816 次浏览 • 2018-07-13 11:02
elasticsearch集群日志存储问题
code4j 回复了问题 • 3 人关注 • 1 个回复 • 4712 次浏览 • 2018-07-13 11:51
请教个关于es里面如何是如何对数字、字母进行查询的,分词是如何分的?
elasticStack 回复了问题 • 2 人关注 • 1 个回复 • 8303 次浏览 • 2018-07-25 18:34
搜索报错:Failed to execute phase [merge], [reduce] ; shardFailures
mdyzsz91 回复了问题 • 2 人关注 • 2 个回复 • 3183 次浏览 • 2018-07-24 22:33
为什么Elastic.co 上的实例在不停的迁移
medcl 回复了问题 • 2 人关注 • 1 个回复 • 1764 次浏览 • 2018-07-12 16:41
elasticsearch6.2.4 ik 插件基于数据库热更新词库问题
zz_hello 回复了问题 • 4 人关注 • 2 个回复 • 5271 次浏览 • 2018-10-09 18:04