兼容不同版本的查询响应结果的 Count 结构
Elasticsearch • medcl 发表了文章 • 0 个评论 • 3 次浏览 • 2022-02-21 16:08
社区日报 第1325期 (2022-02-21)
社区日报 • pangying 发表了文章 • 0 个评论 • 1112 次浏览 • 2022-02-21 15:07
https://toutiao.io/posts/na8zgp/preview
2. es 分片恢复原理解析
https://cloud.tencent.com/deve ... 70385
3.关于 es 的几个优化技巧
https://mp.weixin.qq.com/s%3F_ ... %23rd
编辑:pangying
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup
Elasticsearch:创建多个节点的集群 - Elastic Stack 8.0
Elasticsearch • liuxg 发表了文章 • 0 个评论 • 1816 次浏览 • 2022-02-20 19:34
我详细描述了如何安装单节点的 Elastic Stack。在今天的教程中,我详述如何安装3个节点的 Elasticsearch 集群。我将使用 Docker 来进行部署。
首先,我们使用如下的命令来创建第一个 Elasticsearch 节点:
docker network create elastic
docker pull docker.elastic.co/elasticsearch/elasticsearch:8.0.0
docker run -e ES_JAVA_OPTS="-Xms1g -Xmx1g" --name es-node01 --net elastic -p 9200:9200 -p 9300:9300 -it docker.elastic.co/elasticsearch/elasticsearch:8.0.0
原文链接:https://elasticstack.blog.csdn ... 27404
社区日报 第1324期 (2022-02-20)
社区日报 • cyberdak 发表了文章 • 0 个评论 • 1172 次浏览 • 2022-02-20 09:42
https://blog.csdn.net/UbuntuTo ... 68114
2.一次ES性能优化,我发现了搞大数据的真相
https://www.sohu.com/a/519335862_411876
3.db engine 搜索引起排行榜,es强势第一
https://db-engines.com/en/ranking/search+engine
编辑:cyberdak
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup
社区日报 第1323期 (2021-02-19)
社区日报 • God_lockin 发表了文章 • 0 个评论 • 1076 次浏览 • 2022-02-19 20:25
https://medium.com/analytics-v ... ea07b
2. ES 里的BKD树(需要梯子)
https://medium.com/swlh/bkd-tr ... 2a1a4
3. NextDoor的工程师是怎么做搜索的(需要梯子)
https://engblog.nextdoor.com/m ... 7db4e
编辑:斯蒂文
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup
Bilibili诚招ElasticSearch高级/资深研发工程师
回复求职招聘 • bilibili2233 发起了问题 • 1 人关注 • 0 个回复 • 4781 次浏览 • 2022-02-18 09:41
同时查询不同的条件 查询出来的结果跟当前所输入的查询条件不一致
Elasticsearch • tongchuan1992 回复了问题 • 2 人关注 • 1 个回复 • 958 次浏览 • 2022-02-21 09:17
ShardLongFieldRange的作用
回复Elasticsearch • Charele 发起了问题 • 1 人关注 • 0 个回复 • 1406 次浏览 • 2022-02-17 16:30
使用极限网关来代理 Kibana
Kibana • medcl 发表了文章 • 0 个评论 • 2665 次浏览 • 2022-02-15 20:29
来来来,几个简单步骤告别不舒服的这几个问题,如下:
下载最新的 530 版本:http://release.elasticsearch.cn/gateway/snapshot/
找到配置:
entry:
- name: my_es_entry
enabled: true
router: my_router
max_concurrency: 10000
network:
binding: 0.0.0.0:8000
skip_occupied_port: true
tls:
enabled: true
flow:
- name: default_flow
filter:
- basic_auth:
valid_users:
medcl: passwd
- http:
schema: "http" #https or http
host: "192.168.3.98:5601"
router:
- name: my_router
default_flow: default_flow
修改里面的 ip 为你实际的 Kibana IP 地址,如需多个,使用 hosts 参数,详见文档手册:https://极限网关.com/docs/references/filters/http/
启动网关,因为自动开启了 https,访问网关的服务地址:https://localhost:8000,如下:
输入配置的用户名密码,即可。
Elasticsearch8.0新特性概览
Elasticsearch • liujiacheng 发表了文章 • 1 个评论 • 13215 次浏览 • 2022-02-14 16:30
8.x 重要更新
- Rest API相比较7.x而言做了比较大的改动(比如彻底删除_type),为了降低用户的升级成本,8.x会暂时的兼容7.x的请求。兼容方式:
[REST API compatibility | Elasticsearch Guide [8.0] | Elastic](https://www.elastic.co/guide/e ... y.html) - 默认开启安全配置(三层安全),并极大简化了开启安全需要的工作量,可以这么说:7.x开启安全需要10步复杂的步骤比如CA、证书签发、yml添加多个配置等等,8.x只需要一步即可)。
[elasticsearch-create-enrollment-token | Elasticsearch Guide [8.0] | Elastic](https://www.elastic.co/guide/e ... n.html) - 存储空间优化:对倒排文件使用新的编码集,对于keyword、match_only_text、text类型字段有效,有3.5%的空间优化提升,对于新建索引和segment自动生效。
- 优化geo_point,geo_shape类型的索引(写入)效率:15%的提升。
- 新特性:支持上传pyTorch模型,在ingest的时候使用。比如在写入电影评论的时候,如果我们想要知道这个评论的感情正负得分,可以使用对应的AI感情模型对评论进行运算,将结果一并保存在ES中。
[Overview | Machine Learning in the Elastic Stack [8.0] | Elastic](https://www.elastic.co/guide/e ... w.html) - 技术预览版KNN API发布,(K邻近算法),跟推荐系统、自然语言排名相关。之前的KNN是精确搜索,在大数据集合的情况会比较慢,新的KNN提供近似KNN搜索,以提高速度。[https://www.elastic.co/guide/e ... .html](https://www.elastic.co/guide/e ... h.html)
- 对ES内置索引的保护加强了:elastic用户默认只能读,如果需要写权限的时候,需有allow_restrict_access权限。
- 其他更新
[Elasticsearch breaking changes | Elastic Installation and Upgrade Guide [8.0] | Elastic](https://www.elastic.co/guide/e ... s.html)
简直无语,升级到 Elasticsearch 8.0 之后,我的数据居然写不进去了
Elasticsearch • medcl 发表了文章 • 5 个评论 • 9198 次浏览 • 2022-02-11 19:45
瞧!有图有真相。
体验了一把新的 8.0 正式版的 Kibana,啧啧,真不错。
还没从喜悦的心情平复,我的手机已然切到了震动模式,是谁在呼唤我??
我的妈,各种服务器大量报错,我抓过日志,各位请看:
{
"error": {
"root_cause": [
{
"type": "illegal_argument_exception",
"reason": "Action/metadata line [1] contains an unknown parameter [_type]"
}
],
"type": "illegal_argument_exception",
"reason": "Action/metadata line [1] contains an unknown parameter [_type]"
},
"status": 400
}
熟悉的 type,不一样的问题,大爷的,还是大意了。type 这厮在 8.0 里面已经被正式干掉了,而我还傻傻的等在原地。
怎么办,我几万个 agent、上千个 Filebeat 和 Logstash 大军总不能现在就升级吧,还不知道有没有幺蛾子在前方等待我,心里有点方。
恩,这个时候我想到了鲁迅说的,用 Elasitcsearch 之前先看看极限网关(文档地址:http://极限网关.com) ,所以我立马就去南山寺问了问极限网关,他说可以, O 了。
首先,从这里下载最新的极限网关 523 版本:http://release.elasticsearch.cn/gateway/snapshot/
然后,解压,可以看到立马有一个配置,佛祖显灵,居然有一个配置文件`sample-configs/v8-bulk-indexing-compatibility.yml` 在闪光,就是它:
恩,看来是这个 filter 可以帮我去掉了当前 whatever 版本生成的多余的不要的 type,修改配置我就试试看。
启动启动启动,如下:
没有报错!yes。
查看索引的统计指标:
O 了,数据都正常写入了,采集端啥都不用动,就能用上新版的 Elasticsearch,真是快哉。晚上自己加个卤蛋。
以上情节,纯属虚构,如有雷同,哪又咋地。
Elastic Stack 8.0 安装 - 保护你的 Elastic Stack 现在比以往任何时候都简单
Elasticsearch • liuxg 发表了文章 • 0 个评论 • 1925 次浏览 • 2022-02-11 12:10
然而,我们知道设置安全性并不好玩,你需要专注于你的项目目标。 好消息给你! 从 8.0 开始,自管理集群默认启用 Elastic Stack 安全性,配置工作几乎为零。 只需启动新的 Elasticsearch 和 Kibana 版本并继续充分利用 Elastic Stack,我们将为你提供支持! 如果你使用的是 Elastic Cloud,请不要担心——我们已经为你解决了安全问题。
轻松获得所需的所有安全性
简化的安全性包括以下功能,这些功能跨越多个层和产品,默认启用:
用户认证
具有基于角色的访问控制的用户授权
Kibana Spaces 多租户
使用 TLS 的加密节点到节点通信
使用 HTTPS 与 Elasticsearch API 进行加密通信
原文链接:https://elasticstack.blog.csdn ... 74932
logstash从es实时读数据输出到kafka (跪求)
Logstash • locatelli 回复了问题 • 2 人关注 • 1 个回复 • 3119 次浏览 • 2022-02-15 07:00