你不会是程序猿吧?

三个节点的ES集群,配置8c 16g,大概一秒100个并发,cpu使用率达到100%,求解

envy666 回复了问题 • 3 人关注 • 2 个回复 • 1312 次浏览 • 2022-03-25 12:07 • 来自相关话题

elasticsearch 分索引后如何快速更新指定数据?

liujiacheng 回复了问题 • 2 人关注 • 1 个回复 • 1658 次浏览 • 2022-03-24 09:41 • 来自相关话题

Elasticsearch认证培训及生产实战

yangmf2040 发表了文章 • 0 个评论 • 1684 次浏览 • 2022-03-23 17:10 • 来自相关话题

课程定价:5500元(不含考试费)
上课方式:全程直播
开课时间:2022年6月11日、12日、18日、19日、25日,周六日直播上课,每天9:00~12:00,14:00~18:00

咨询方式:

孟老师
电话:18811088238
微信二维码:

图片1.png




课程简介

首先,分别介绍:Elasticsearch、ECE认证:

  • Elasticsearch 是一个分布式的免费开源搜索和分析引擎,适用于包括文本、数字、地理空间、结构化和非结构化数据等在内的所有类型的数据。Elasticsearch 在 Apache Lucene 的基础上开发而成,由 Elasticsearch N.V.(即现在的 Elastic)于 2010 年首次发布。Elasticsearch 以其简单的 REST 风格 API、分布式特性、速度和可扩展性而闻名,是 Elastic Stack 的核心组件;Elastic Stack 是一套适用于数据采集、扩充、存储、分析和可视化的免费开源工具。人们通常将 Elastic Stack 称为 ELK Stack(代指 Elasticsearch、Logstash 和 Kibana),目前 Elastic Stack 包括一系列丰富的轻量型数据采集代理,这些代理统称为 Beats,可用来向 Elasticsearch 发送数据。
  • 管理员认证计划ECE(Elastic Certifled Engineer),通过 ECE认证的工程师说明已经满足对Elasticsearch进行管理的能力,可胜任Elasticsearch相关工作,同时也是Elasticsearch工作道路上的敲门砖。

    课程特色:少有的生产落地实践

  • 讲师更加权威:具有多年的云原生与Elastic的售前架构设计与项目落地经验,并具备云原生与Elastic相关认证。
  • 实践落地为先:课程包含了ECE(Elastic Certifled Engineer)认证与Elastic多种应用场景在项目中的架构设计与落地。
    适配岗位

    图片2.png



    适合人群

    本次课程适用从事技术实施工程师、开发人员、运维工程师,课程学完后可以掌握Elastic在企业中的项目落地与最佳实践,如:日志搜集与全观测、全文搜索、数据库加速技术场景的掌握。帮助学员快速掌握Elastic的理论知识和专业技能,从容面对Elastic认证考试以及在Elastic领域的职业挑战。

    课程大纲

    第一阶段 Elasticsearch环境搭建

    第一课 初识Elasticsearch

  • Elasticsearch发展史
  • Elasticsearch应用场景
  • Elasticsearch核心概念讲解
     

    第二课 节点类型

  • 节点类型介绍
  • 节点类型配置 
     

    第三课 ElasticSearch集群搭建和kibana可视化界面部署

  • 基础环境配置
  • 配置文件讲解 
     

    第二阶段 ElasticSearch数据建模

    第四课 index & document

  • 倒排索引介绍
  • index创建与删除
  • index关闭与开启
  • 数据更新
     

    第五课 Reindex

  • Reindex概述
  • Reindex实践 
     

    第六课 Mapping

  • 动态映射(dynamic mapping)
  • 显示映射(Explicit mapping)
  • Runtime fields
  • 常用字段数据类型
  • 元数据字段讲解
  • 常用映射参数讲解

    第七课 Analysis

  • Character filter
  • Tokenizer
  • TokenFilter
  • 自定义文本分词器

    第八课 索引模板(index template)与索引别名(Alias)

  • 索引模板的创建与使用
  • 索引别名的创建与使用

    第九课 索引声明周期管理(ILM)

  • ILM概述
  • ILM创建及使用
  • ILM常用管理操作

    第十课 Data stream(数据流)

  • 设置数据流
  • 使用数据流
  • 更改数据流的映射和设置

    第十一课 Ingest pipline

  • Ingest pipline 概述
  • Ingest pipline 使用案例
  • 常见processors

    第三阶段 ElasticSearch数据查询

    第十二课 Full text query(全文查询)

  • Match查询
  • Match phrase查询
  • Multi match多字段查询
  • Query string 字符串查询
  • Simple querystring 简单字符串查询

    第十三课 Compound query(复合查询)

  • Boolean 布尔查询
  • Boosting 加权查询
  • Constant score 固定分值查询
  • Disjunction max 单字符串多字段查询
  • Function score 优化算分查询

    第十四课 joining query

  • Nested 嵌套
  • 文档父子关联关系

    第十五课 Aggregation(聚和分析)

  • Bucket聚和查询
  • Metrics 聚和查询
  • Pipline 聚和分析

    第十六课 Search your data

  • 高量显示
  • 分页查询
  • 对查询结果进行排序
  • 跨集群搜索与复制
  • 搜索模板

    第四阶段 集群管理

    第十七课 User & Role

  • Security 安全认证配置
  • 创建用户角色
  • 创建用户

    第十八课 快照与恢复

  • 创建快照
  • 恢复快照
  • 删除快照

    第十九课 生产集群落地

  • 节点角色规划
  • 节点资源规划
  • 集群升级
  • 集群扩容
  • 集群性能调优

    第二十课 常见运维操作

  • 常见问题及解决方案

    第二十一课 多集群监控管理实战

  • 使用prometheus实现ElasticSearch多集群监控
  • 使用极限平台实现ElasticSearch多集群监控

    第二十二课:kibana

  • kibana概述
  • Kibana高可用部署架构与dashboard管理

    第四阶段 项目实战

    日志搜集项目实战


    图片3.png



    数据库加速项目实战


    图片4.png



    第五阶段 ECE认证

  • 如何报名考试
  • 参加考试注意事项
  • 考前模拟练习

ElasticSearch沉底 排序如何做

spoofer 回复了问题 • 2 人关注 • 1 个回复 • 1081 次浏览 • 2022-04-02 10:01 • 来自相关话题

通过快照还原了集群数据, 还原后集群为红色, 有一个主分片提示异常,再重新导入数据,提示异常

God_lockin 回复了问题 • 2 人关注 • 1 个回复 • 1187 次浏览 • 2022-03-22 09:34 • 来自相关话题

Elasticsearch 使用Java Api 查询复杂对象(对象里面有对象数组)

God_lockin 回复了问题 • 2 人关注 • 1 个回复 • 1717 次浏览 • 2022-03-22 09:42 • 来自相关话题

ES有快照数据文件, 但是在快照仓库中找不到快照,怎么处理?

God_lockin 回复了问题 • 2 人关注 • 1 个回复 • 1268 次浏览 • 2022-03-22 09:43 • 来自相关话题

ES无法读取存储库数据,因为存储库的内容与其预期状态不匹配,怎么解决?

Charele 回复了问题 • 3 人关注 • 1 个回复 • 2127 次浏览 • 2022-03-17 14:35 • 来自相关话题

elasticsearch [[node.max_local_storage_nodes] (was [1])

yimusidian 回复了问题 • 2 人关注 • 2 个回复 • 3937 次浏览 • 2022-03-25 16:07 • 来自相关话题

您好 能请教下中文排序的问题吗

medcl 回复了问题 • 2 人关注 • 1 个回复 • 958 次浏览 • 2022-04-02 13:23 • 来自相关话题

ES数据迁移问题,从两台服务器迁移到另外两台上

tongchuan1992 回复了问题 • 2 人关注 • 1 个回复 • 1618 次浏览 • 2022-03-14 19:01 • 来自相关话题

Elastic日报 第1344期 (2021-03-12)

taoxiyang 发表了文章 • 3 个评论 • 1062 次浏览 • 2022-03-12 20:54 • 来自相关话题

1. 阿里云Elasticsearch向量检索引擎快速实现图像搜索、视频指纹采样、人脸识别、语音识别和商品推荐等向量检索场景的需求
https://www.alibabacloud.com/h ... 2.htm

2. 创建Elasticsearch数据清洗任务,将RavenDB中的数据处理到Elasticsearch
https://ravendb.net/docs/artic ... earch

3. 用DbVisualizer管理Elasticsearch的数据
https://www.dbvis.com/database/elasticsearch/

编辑:陶希阳
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup

有了这两个小脚本,不需要再傻乎乎地手动安装 Elasticsearch了

spoofer 发表了文章 • 0 个评论 • 2428 次浏览 • 2022-03-11 19:40 • 来自相关话题

在学习 ES 前一般都需要安装 ES,虽然 ES 可以开箱即用,但如果要学习分布式特性的时候,需要安装多个节点,这个时候还是有点工作量的。下面提供两个小脚本,一个是在 Ubuntu 中安装 3 节点的 ES 伪集群,一个是在 docker 中安装3节点 ES 集群。除了安装 ES 外,脚本还提供了对应版本的 Kibana、Cerebro 0.9.4 的安装。

1、在 Ubuntu 中安装 ES 7.13

这里我们采取下载 ES 安装包并且解压安装的方式,并没有走 Ubuntu apt 的方式。ES 的安装非常简单,这里先献上[安装脚本](https://gitee.com/dgl/es-bookl ... rEs.sh)。

下面介绍比较重要的配置项:

  • discovery.seed_hosts 在开箱即用的情境下(本机环境)无需配置,ES 会自动扫描本机的 9300 到 9305 端口。一旦进行了网络环境配置,这个自动扫描操作就不会执行。discovery.seed_hosts 配置为 master 候选者节点即可。如果需要指定端口的话,其值可以为:["localhost:9300", "localhost:9301"]

  • cluster.initial_master_nodes 指定新集群 master 候选者列表,其值为节点的名字列表。如果配置了 node.name: my_node_1,所以其值为 ["my_node_1"],而不是 ip 列表 !

  • network.host 和 http.port 是 ES 提供服务的监听地址和端口,线上一定不能配置 ip 为 0.0.0.0,这是非常危险的行为!!!

    怎么样来理解这个 discovery.seed_hosts 和 cluster.initial_master_nodes 呢?

    cluster.initial_master_nodes 是候选者列表,一般我们线上环境候选者的数量比较少,毕竟是用来做备用的。而且这个配置只跟选举 master 有关,也就是跟其他类型的节点没有关系。就算你有100个数据节点,然后经常增加或者剔除都不需要动这个列表。

    discovery.seed_hosts 这个可以理解为是做服务或者节点发现的,其他节点必须知道他们才能进入集群~ 一般配置为集群的master 候选者的列表。

    但是这些 master 候选者(组织联系人)可能经常变化,那怎么办呢?这个配置项除了支持 ip 外还支持域名 ~所以可以用域名来解决这个问题,其他节点的配置上写的是域名,域名解析到对应的 ip,如果机器挂了,新的节点 ip 换了,就把域名解析到新的ip即可,这样其他节点的配就不用修改了。所以非 master 候选节点要配 discovery.seed_hosts (组织联系人)


    除了修改 ES 服务配置外,还需要配置 JVM 的配置,我们主要配置服务占用的堆内存的大小。JVM 配置需要以下几点:
  • 这两个 jvm 的配置必须配置一样的数值。启动时就分配好内存空间,避免运行时申请分配内存造成系统抖动。
  • Xmx不要超过机器内存的 50%,留下些内存供 JVM 堆外内存使用
  • 并且Xmx不要超过 32G。建议最大配置为 30G。接近 32G,JVM 会启用压缩对象指针的功能,导致性能下降。具体可以参考:[a-heap-of-trouble](https://www.elastic.co/cn/blog/a-heap-of-trouble)。

    安装成功后,可以访问:
    ES:localhost:9211

    Kibana: localhost:5601

    cerebro: localhost:9800


    2、在docker 中安装 ES 7.13

    在做一切工作之前,我们必须安装 docker。如果你已经安装好了 docker、docker-compose,可以访问我为你准备的 [docker-compose.yaml](https://gitee.com/dgl/es-bookl ... e.yaml) 文件。

    如果你没有安装 docker,完整的教程可以参考[在 docker 中安装 ES 文档](https://gitee.com/dgl/es-bookl ... bro.md)。

    下载此文件,将文件保存为 docker-compose.yaml 后,进入这个文件的目录,执行以下指令即可:

    <br /> docker-compose up<br />

    如果你没有下载镜像文件,docker-compose 会自动帮你下载镜像,并且启动容器。

    如果 docker-compose 启动失败,说是无权限链接 docker 的话,其报错如下:

    <br /> Got permission denied while trying to connect to the Docker daemon socket at unix:///var/run/docker.sock: <br /> <br /> Get " <br /> <br /> dial unix /var/run/docker.sock: connect: permission denied<br />

    可以运行以下指令临时修改:

    <br /> sudo chmod 666 /var/run/docker.sock<br /> <br />

    其原因是因为你的 docker 用了 root 启动了。

    最后可以访问:

    cerebro:ip:9000

    Kibana:ip:5601

    Elasticsearch: ip:9200,ip:9202,ip:9203

    其他学习资料

    [创建自己的 ES Docker Image](https://www.elastic.co/cn/blog ... search)

    [在 docker image 中安装 Elasticsearch 插件](https://www.elastic.co/cn/blog ... gement)

    [一个开源的 ELK docker-compose 配置](https://github.com/deviantony/docker-elk)

    [docker 中安装 ES 7.13](https://www.elastic.co/guide/e ... r.html)

    [docker 中安装 Kibana 7.13](https://www.elastic.co/guide/e ... r.html)


    最后附上[我写的小册](https://juejin.cn/book/7054754754529853475),欢迎刚入门的朋友来订阅~

    WX20220224-174733.png



_update_by_query 批量更新还有哪些坑?

hyycy140213 回复了问题 • 3 人关注 • 3 个回复 • 2385 次浏览 • 2022-03-31 14:32 • 来自相关话题

Ingest处理的问题

tongchuan1992 回复了问题 • 2 人关注 • 1 个回复 • 682 次浏览 • 2022-03-09 13:46 • 来自相关话题