我刚打酱油去了,不好意思

兼容不同版本的查询响应结果的 Count 结构

Elasticsearchmedcl 发表了文章 • 0 个评论 • 3 次浏览 • 2022-02-21 16:08 • 来自相关话题

Elasticsearch 在 7.0 之后的版本中,为了优化性能,搜索结果的命中数默认不进行精确的计数统计,同时对搜索结果的响应体进行了调整, 这样势必会造成已有代码的不兼容,如何快速修复呢?
Elasticsearch 在 7.0 之后的版本中,为了优化性能,搜索结果的命中数默认不进行精确的计数统计,同时对搜索结果的响应体进行了调整, 这样势必会造成已有代码的不兼容,如何快速修复呢?

社区日报 第1325期 (2022-02-21)

社区日报pangying 发表了文章 • 0 个评论 • 1112 次浏览 • 2022-02-21 15:07 • 来自相关话题

1. 如何解决 es 的 unassigned shards 问题
https://toutiao.io/posts/na8zgp/preview

2. es 分片恢复原理解析
https://cloud.tencent.com/deve ... 70385

3.关于 es 的几个优化技巧
https://mp.weixin.qq.com/s%3F_ ... %23rd

编辑:pangying
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup

Elasticsearch:创建多个节点的集群 - Elastic Stack 8.0

Elasticsearchliuxg 发表了文章 • 0 个评论 • 1816 次浏览 • 2022-02-20 19:34 • 来自相关话题

在我之前的文章:


我详细描述了如何安装单节点的 Elastic Stack。在今天的教程中,我详述如何安装3个节点的 Elasticsearch 集群。我将使用 Docker 来进行部署。

首先,我们使用如下的命令来创建第一个 Elasticsearch 节点:

docker network create elastic
docker pull docker.elastic.co/elasticsearch/elasticsearch:8.0.0
docker run -e ES_JAVA_OPTS="-Xms1g -Xmx1g" --name es-node01 --net elastic -p 9200:9200 -p 9300:9300 -it docker.elastic.co/elasticsearch/elasticsearch:8.0.0


原文链接:https://elasticstack.blog.csdn ... 27404

社区日报 第1324期 (2022-02-20)

社区日报cyberdak 发表了文章 • 0 个评论 • 1172 次浏览 • 2022-02-20 09:42 • 来自相关话题

1. ES异步搜索,方便执行长耗时搜索任务
https://blog.csdn.net/UbuntuTo ... 68114

2.一次ES性能优化,我发现了搞大数据的真相
https://www.sohu.com/a/519335862_411876

3.db engine 搜索引起排行榜,es强势第一
https://db-engines.com/en/ranking/search+engine

编辑:cyberdak
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup

社区日报 第1323期 (2021-02-19)

社区日报God_lockin 发表了文章 • 0 个评论 • 1076 次浏览 • 2022-02-19 20:25 • 来自相关话题

1. 用ES、Faiss、Haystack做语义搜索(需要梯子)
https://medium.com/analytics-v ... ea07b
2. ES 里的BKD树(需要梯子)
https://medium.com/swlh/bkd-tr ... 2a1a4
3. NextDoor的工程师是怎么做搜索的(需要梯子)
https://engblog.nextdoor.com/m ... 7db4e
编辑:斯蒂文
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup
 

Bilibili诚招ElasticSearch高级/资深研发工程师

回复

求职招聘bilibili2233 发起了问题 • 1 人关注 • 0 个回复 • 4781 次浏览 • 2022-02-18 09:41 • 来自相关话题

同时查询不同的条件 查询出来的结果跟当前所输入的查询条件不一致

Elasticsearchtongchuan1992 回复了问题 • 2 人关注 • 1 个回复 • 958 次浏览 • 2022-02-21 09:17 • 来自相关话题

跑lucene的单测有点问题,谁知道怎么处理

回复

Lucenezhaocheng 发起了问题 • 1 人关注 • 0 个回复 • 2517 次浏览 • 2022-02-18 09:41 • 来自相关话题

ShardLongFieldRange的作用

回复

ElasticsearchCharele 发起了问题 • 1 人关注 • 0 个回复 • 1406 次浏览 • 2022-02-17 16:30 • 来自相关话题

使用极限网关来代理 Kibana

Kibanamedcl 发表了文章 • 0 个评论 • 2665 次浏览 • 2022-02-15 20:29 • 来自相关话题

我的 Kibana 版本太旧了,我的 Kibana 没有密码保护,我的 Kibana 没有权限控制。烦不胜烦。
 来来来,几个简单步骤告别不舒服的这几个问题,如下:

下载最新的 530 版本:http://release.elasticsearch.cn/gateway/snapshot/
 
找到配置:
entry:
- name: my_es_entry
enabled: true
router: my_router
max_concurrency: 10000
network:
binding: 0.0.0.0:8000
skip_occupied_port: true
tls:
enabled: true

flow:
- name: default_flow
filter:
- basic_auth:
valid_users:
medcl: passwd
- http:
schema: "http" #https or http
host: "192.168.3.98:5601"
router:
- name: my_router
default_flow: default_flow
修改里面的 ip 为你实际的 Kibana IP 地址,如需多个,使用 hosts 参数,详见文档手册:
 
https://极限网关.com/docs/references/filters/http/
 
启动网关,因为自动开启了 https,访问网关的服务地址:https://localhost:8000,如下:

Jietu20220215-202309.jpg

 
输入配置的用户名密码,即可。
 

Jietu20220215-202414.jpg

Elasticsearch8.0新特性概览

Elasticsearchliujiacheng 发表了文章 • 1 个评论 • 13215 次浏览 • 2022-02-14 16:30 • 来自相关话题

8.x 重要更新


  • Rest API相比较7.x而言做了比较大的改动(比如彻底删除_type),为了降低用户的升级成本,8.x会暂时的兼容7.x的请求。兼容方式:

    [REST API compatibility | Elasticsearch Guide [8.0] | Elastic](https://www.elastic.co/guide/e ... y.html)
  • 默认开启安全配置(三层安全),并极大简化了开启安全需要的工作量,可以这么说:7.x开启安全需要10步复杂的步骤比如CA、证书签发、yml添加多个配置等等,8.x只需要一步即可)。

    [elasticsearch-create-enrollment-token | Elasticsearch Guide [8.0] | Elastic](https://www.elastic.co/guide/e ... n.html)
  • 存储空间优化:对倒排文件使用新的编码集,对于keyword、match_only_text、text类型字段有效,有3.5%的空间优化提升,对于新建索引和segment自动生效。
  • 优化geo_point,geo_shape类型的索引(写入)效率:15%的提升。
  • 新特性:支持上传pyTorch模型,在ingest的时候使用。比如在写入电影评论的时候,如果我们想要知道这个评论的感情正负得分,可以使用对应的AI感情模型对评论进行运算,将结果一并保存在ES中。

    [Overview | Machine Learning in the Elastic Stack [8.0] | Elastic](https://www.elastic.co/guide/e ... w.html)
  • 技术预览版KNN API发布,(K邻近算法),跟推荐系统、自然语言排名相关。之前的KNN是精确搜索,在大数据集合的情况会比较慢,新的KNN提供近似KNN搜索,以提高速度。[https://www.elastic.co/guide/e ... .html](https://www.elastic.co/guide/e ... h.html)
  • 对ES内置索引的保护加强了:elastic用户默认只能读,如果需要写权限的时候,需有allow_restrict_access权限。
  • 其他更新

    [Elasticsearch breaking changes | Elastic Installation and Upgrade Guide [8.0] | Elastic](https://www.elastic.co/guide/e ... s.html)

大家好,新人报道多多指教

回复

Elasticsearchsssadadadad 发起了问题 • 1 人关注 • 0 个回复 • 1710 次浏览 • 2022-02-12 19:47 • 来自相关话题

简直无语,升级到 Elasticsearch 8.0 之后,我的数据居然写不进去了

Elasticsearchmedcl 发表了文章 • 5 个评论 • 9198 次浏览 • 2022-02-11 19:45 • 来自相关话题

我破防了,今天看到 8.0 发布的消息,这个版本真的是期待已久了,一激动就升级到了最新版,各种激动人心的新功能,简直是爽歪歪啊。
 

WX20220211-192336@2x.png

 
瞧!有图有真相。
 
体验了一把新的 8.0 正式版的 Kibana,啧啧,真不错。
 
还没从喜悦的心情平复,我的手机已然切到了震动模式,是谁在呼唤我??
 
我的妈,各种服务器大量报错,我抓过日志,各位请看:
{
  "error": {
    "root_cause": [
      {
        "type": "illegal_argument_exception",
        "reason": "Action/metadata line [1] contains an unknown parameter [_type]"
      }
    ],
    "type": "illegal_argument_exception",
    "reason": "Action/metadata line [1] contains an unknown parameter [_type]"
  },
  "status": 400
}
熟悉的 type,不一样的问题,大爷的,还是大意了。
 
type 这厮在 8.0 里面已经被正式干掉了,而我还傻傻的等在原地。
 
怎么办,我几万个 agent、上千个 Filebeat 和 Logstash 大军总不能现在就升级吧,还不知道有没有幺蛾子在前方等待我,心里有点方。
 
恩,这个时候我想到了鲁迅说的,用 Elasitcsearch 之前先看看极限网关(文档地址:http://极限网关.com) ,所以我立马就去南山寺问了问极限网关,他说可以, O 了。
 
首先,从这里下载最新的极限网关 523 版本:http://release.elasticsearch.cn/gateway/snapshot/
 
然后,解压,可以看到立马有一个配置,佛祖显灵,居然有一个配置文件`sample-configs/v8-bulk-indexing-compatibility.yml` 在闪光,就是它:

WechatIMG553.png

 
恩,看来是这个 filter 可以帮我去掉了当前 whatever 版本生成的多余的不要的 type,修改配置我就试试看。
 
启动启动启动,如下:

WX20220211-193936@2x.png

 
没有报错!yes。
 
查看索引的统计指标:

WX20220211-194316@2x.png

 
O 了,数据都正常写入了,采集端啥都不用动,就能用上新版的 Elasticsearch,真是快哉。晚上自己加个卤蛋。

以上情节,纯属虚构,如有雷同,哪又咋地。
 

Elastic Stack 8.0 安装 - 保护你的 Elastic Stack 现在比以往任何时候都简单

Elasticsearchliuxg 发表了文章 • 0 个评论 • 1925 次浏览 • 2022-02-11 12:10 • 来自相关话题

在 8.0 中,我们很高兴为所有用户带来简化的安全功能。 从 7.1 开始,我们向所有人免费提供了确保 Elastic Stack 安全所需的所有功能。

然而,我们知道设置安全性并不好玩,你需要专注于你的项目目标。 好消息给你! 从 8.0 开始,自管理集群默认启用 Elastic Stack 安全性,配置工作几乎为零。 只需启动新的 Elasticsearch 和 Kibana 版本并继续充分利用 Elastic Stack,我们将为你提供支持! 如果你使用的是 Elastic Cloud,请不要担心——我们已经为你解决了安全问题。

轻松获得所需的所有安全性
简化的安全性包括以下功能,这些功能跨越多个层和产品,默认启用:

用户认证
具有基于角色的访问控制的用户授权
Kibana Spaces 多租户
使用 TLS 的加密节点到节点通信
使用 HTTPS 与 Elasticsearch API 进行加密通信

原文链接:https://elasticstack.blog.csdn ... 74932

logstash从es实时读数据输出到kafka (跪求)

Logstashlocatelli 回复了问题 • 2 人关注 • 1 个回复 • 3119 次浏览 • 2022-02-15 07:00 • 来自相关话题