你可以的,加油

社区日报 第1622期 (2023-05-08)

社区日报yuebancanghai 发表了文章 • 0 个评论 • 1584 次浏览 • 2023-05-08 13:29 • 来自相关话题

1. 利用kibana的Visualize工具生成可视化图形(解决index索引找不到的问题)
   https://blog.csdn.net/qq_26870 ... 09398
2. 开放搜索兼容Elasticsearch做召回引擎
   https://developer.aliyun.com/a ... 16271
3. Elasticsearch 如何构建一个好的电商搜索引擎
   https://mp.weixin.qq.com/s/eLhPMI38miBWlWxuMPv-2A
编辑:yuebancanghai
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup
B站:https://ela.st/bilibili

国内首家 | 极限科技率先完成信通院搜索型数据库行业标准测试

默认分类liaosy 发表了文章 • 0 个评论 • 2488 次浏览 • 2023-05-06 18:21 • 来自相关话题

随着数字化转型的深入,非结构化数据越来越多地出现在各种类型的数据中,成为了最主要的数据元素,其中蕴藏着巨大的价值。根据 IDC 的预测,到 2025 年,非结构化的数据将占到 80%,而高德纳公司的预测,到 2024 年,这一数字将会是现在的三倍。当前,非结构化数据存在表征多样、管理复杂、价值挖掘困难等问题,而基于自动分词、倒排索引、关联度计算、矢量检索等技术的检索数据库,是实现非结构化数据高效处理的基本工具,自 90 年代产生至今,一直在发展和演变,已成为数据库研究的一个重要分支。

顺利完成首个搜索型数据库产品能力测试


《搜索型数据库技术要求》是中国信通院云计算与大数据研究所依托中国通信标准化协会大数据技术标准推进委员会(CCSA TC601)和中国信通院数据库应用创新实验室(CAICT DBL),联合阿里云、拓尔思、极限科技、星环科技、科大讯飞、百度、联通软研院等多家企业专家参与编制,融合国内行业专家丰富的实践经验与智慧,对搜索型数据库基础能力进行综合评判的行业权威标准。

2023 年 4 月 18 日,在中国信通院组织的第一批“搜索型数据库”产品能力评测中,极限数据 (北京) 科技有限公司(以下简称:极限科技)的 INFINI Easysearch 搜索型数据库软件【Easysearch】顺利完成了首个搜索型数据库产品能力测试。该测评依据《搜索型数据库技术要求》进行,该标准融合了国内行业专家丰富的实践经验与智慧,是对搜索型数据库基础能力的综合评判,覆盖数据库基本能力、数据库管理能力、数据库安全能力、数据库兼容能力、数据库扩展能力、数据库高可用能力,共计 32 个测试项目,包括 12 个必选项和 20 个可选项。

![](https://www.infinilabs.com/img ... p1.png)

搜索型数据库在各行业的重要应用


1.金融行业:搜索型数据库可以帮助金融机构快速检索和分析海量的客户交易数据,预测市场趋势、评估客户风险、优化交易策略等。

2.通信行业:搜索型数据库可以帮助运营商管理和分析海量的网络数据,例如网络流量、网络性能、用户活跃度等,从而提高网络效率和用户体验。

3.制造业:搜索型数据库可以帮助制造企业高效管理和分析海量的生产数据,例如生产效率产品质量、供应链信息等,从而提高生产效率和产品质量。

4.零售行业:搜索型数据库可以帮助零售商快速检索和分析海量的销售数据,例如顾客购买记录、商品销售趋势、促销活动效果等,从而更好地制定营销策略、优化商品库存管理、提高销售业绩等。

5.医疗行业:搜索型数据库可以帮助医疗机构快速检索和分析海量的医疗数据,例如患者病历、医学论文、药品说明书等,从而更好地研究疾病、制定治疗方案、优化医疗资源等。

6.教育行业:搜索型数据库可以帮助教育机构快速检索和分析海量的教学数据,例如学生成绩、课程评价、教师绩效等,从而更好地优化教学策略、提高教学质量等。

INFINI Easysearch


极限科技研发的 INFINI Easysearch,是一款具备自主可控的分布式近实时搜索型数据库产品,具备高性能、高可用、弹性伸缩、高安全性等特性,具备支持丰富的个性化搜索及聚合分析能力,可部署在物理机、虚拟机、容器、私有云和公有云,能承载 PB 级别的海量业务数据,为金融核心系统、运营商、制造业和政企业务系统提供安全、稳定、可靠的快速检索和实时数据探索分析能力,可满足不同业务场景的各项复杂需求。

![](https://www.infinilabs.com/img ... p2.png)

除了 Easysearch,极限科技还提供用于构建企业搜索基础设施的完整解决方案,通过云原生的方式来让企业高效治理大规模搜索集群,将分散的各个业务搜索计算资源合并归拢,通过资源统一调度管控,提升整体资源利用率和系统弹性,降低系统复杂度和 IT 运营成本,来持续满足业务的灵活多变需求,结合统一的安全、监控、告警、运维和管理等能力,达到统一管理、统一治理,降本增效,实现企业的搜索基础设施的平台化运营。

![](https://www.infinilabs.com/img ... p3.png)

国内搜索型数据库最近几年发展迅速,关键技术逐渐突破,应用场景和数据规模也逐年上升,已经成为企业必不可少的核心基础设施,产业生态也日益繁荣。极限科技作为国内搜索型数据库产品厂商第一梯队的杰出代表,同时也是行业标准的起草单位之一,此次测试的成功通过,不仅代表着对 INFINI Easysearch 搜索型数据库软件 Easysearch 的权威性肯定,更代表着极限科技在“搜索数据库”产品的研究与创新上,取得了新的里程碑。

关于极限科技

![](https://www.infinilabs.com/img ... bs.png)

极限科技,全称极限数据(北京)科技有限公司,是一家专注于实时搜索与数据分析的软件公司。旗下品牌极限实验室(INFINI Labs)致力于打造极致易用的数据探索与分析体验。让搜索更简单是我们追求的目标。

极限科技是一支年轻的团队,采用天然分布式的方式来进行远程协作,员工分布在全球各地,希望通过努力成为中国乃至全球企业大数据实时搜索分析产品的首选,为中国技术品牌输出添砖加瓦。

更多详情参见官网 ([https://infinilabs.com](https://infinilabs.com)) 。

相关链接


Elasticsearch:如何在 Elastic 中实现图片相似度搜索

Elasticsearchliuxg 发表了文章 • 0 个评论 • 4748 次浏览 • 2023-05-04 16:17 • 来自相关话题

原文: [Elasticsearch:如何在 Elastic 中实现图片相似度搜索](https://elasticstack.blog.csdn ... 312757)

作者:[Radovan Ondas](https://www.elastic.co/blog/author/radovan-ondas "Radovan Ondas")

![](https://img-blog.csdnimg.cn/d1 ... f2.png)

在本文章,我们将了解如何通过几个步骤在 [Elastic](https://so.csdn.net/so/search% ... 1.7020) 中实施相似图像搜索。 开始设置应用程序环境,然后导入 NLP 模型,最后完成为你的图像集生成嵌入。

[Elastic 图像相似性搜索概览 >>](https://elasticstack.blog.csdn ... 93311 "Elastic 图像相似性搜索概览 >>")

![](https://img-blog.csdnimg.cn/b1 ... 8.jpeg)

Elasticsearch:如何在 Elastic 中实现图片相似度搜索

如何设置环境
======

第一步是为你的应用程序设置环境。 一般要求包括:

  • Git
  • Python 3.9
  • Docker
  • 数百张图片

    使用数百张图像以确保获得最佳效果非常重要。

    转到工作文件夹并检查创建的存储库代码。 然后导航到存储库文件夹。

    ```


    1. git clone https://github.com/radoondas/f ... h.git
    2. cd flask-elastic-image-search


      <br /> <br />


    3. $ git clone https://github.com/radoondas/f ... h.git
    4. Cloning into 'flask-elastic-image-search'...
    5. remote: Enumerating objects: 105, done.
    6. remote: Counting objects: 100% (105/105), done.
    7. remote: Compressing objects: 100% (72/72), done.
    8. remote: Total 105 (delta 37), reused 94 (delta 27), pack-reused 0
    9. Receiving objects: 100% (105/105), 20.72 MiB | 9.75 MiB/s, done.
    10. Resolving deltas: 100% (37/37), done.
    11. $ cd flask-elastic-image-search/
    12. $ pwd
    13. /Users/liuxg/python/flask-elastic-image-search


      <br /> <br /> 因为你将使用 Python 来运行代码,所以你需要确保满足所有要求并且环境已准备就绪。 现在[创建虚拟环境](<a href="https://so.csdn.net/so/search?q=%E5%88%9B%E5%BB%BA%E8%99%9A%E6%8B%9F%E7%8E%AF%E5%A2%83&spm=1001.2101.3001.702" rel="nofollow" target="_blank">https://so.csdn.net/so/search% ... 1.702</a>0)并安装所有依赖项。<br /> <br />


    14. python3 -m venv .venv
    15. source .venv/bin/activate
    16. pip install -r requirements.txt


      ```

      ![](https://img-blog.csdnimg.cn/5e ... f9.png)

      安装
      ==

      如果你还没有安装好自己的 Elasticsearch 及 Kibana,请参考如下的文章来进行安装:

  • [如何在 Linux,MacOS 及 Windows 上进行安装 Elasticsearch](https://elasticstack.blog.csdn ... 13578 "如何在 Linux,MacOS 及 Windows 上进行安装 Elasticsearch")

  • [Kibana:如何在 Linux,MacOS 及 Windows 上安装 Elastic 栈中的 Kibana](https://elasticstack.blog.csdn ... 33732 "Kibana:如何在 Linux,MacOS 及 Windows 上安装 Elastic 栈中的 Kibana")


    特别注意的是:我们将以最新的 Elastic Stack 8.6.1 来进行展示。请参考 Elastic Stack 8.x 的文章进行安装。

    启动白金版试用功能
    =========

    由于上传模型是一个白金版的功能,我们需要启动试用功能。更多关于订阅的信息,请参考网址:[订阅 | Elastic Stack 产品和支持 | Elastic](https://www.elastic.co/cn/subscriptions "订阅 | Elastic Stack 产品和支持 | Elastic")。

    ![](https://img-blog.csdnimg.cn/e9 ... 84.png)

    ![](https://img-blog.csdnimg.cn/c8 ... 05.png)

    ![](https://img-blog.csdnimg.cn/e2 ... 11.png)

    ![](https://img-blog.csdnimg.cn/60 ... 30.png)

    这样我们就成功地启动了白金版试用功能。 

    Elasticsearch 集群和嵌入模型
    =====================

    登录到你的帐户以启动 Elasticsearch 集群。 设置一个小型集群:

  • 一个具有 2GB 内存的 HOT 节点
  • 一个具有 4GB 内存的 ML(机器学习)节点(此节点的大小很重要,因为你将导入 Elasticsearch 的 NLP 模型会消耗约 1.5GB 的内存。)

    部署准备就绪后,转到 Kibana 并检查机器学习节点的容量。 你将在视图中看到一个机器学习节点。 目前没有加载模型。

    ![](https://img-blog.csdnimg.cn/6e ... 11.png)

    ![](https://img-blog.csdnimg.cn/19 ... 62.png)

    使用 Eland 库从 OpenAI 上传 CLIP 嵌入模型。 Eland 是一个 Python Elasticsearch 客户端,用于在 Elasticsearch 中探索和分析数据,能够处理文本和图像。 您将使用此模型从文本输入生成嵌入并查询匹配图像。 在 Eland 库的[文档](https://www.elastic.co/guide/e ... .html "文档")中找到更多详细信息。

    对于下一步,你将需要 Elasticsearch 端点。 你可以从部署详细信息部分的 Elasticsearch 云控制台获取它。

     ![](https://img-blog.csdnimg.cn/7d ... 0.jpeg)

    在本示例中,我们将使用本地部署来进行展示,所以,我们并不必要完成上面的步骤。

    Eland
    -----

    Eland 可以通过 pip 从 [PyPI](https://pypi.org/project/eland "PyPI") 安装。在安装之前,我们需要安装好自己的 Python。

    ```


    1. $ python --version
    2. Python 3.10.2


      <br /> <br /> 可以使用 Pip 从 PyPI 安装 Eland:<br /> <br />
      python -m pip install eland
      <br /> <br /> 也可以使用 Conda 从 Conda Forge 安装 Eland:<br /> <br />
      conda install -c conda-forge eland
      <br /> <br /> 希望在不安装 Eland 的情况下使用它的用户,为了只运行可用的脚本,可以构建 Docker 容器:<br /> <br />


    3. git clone https://github.com/elastic/eland
    4. cd eland
    5. docker build -t elastic/eland .


      ```

      ![](https://img-blog.csdnimg.cn/ed ... de.png)

      Eland 将 Hugging Face 转换器模型到其 TorchScript 表示的转换和分块过程封装在一个 Python 方法中; 因此,这是推荐的导入方法。

    6. [安装 Eland Python 客户端](https://github.com/elastic/eland#getting-started "安装 Eland Python 客户端")。
    7. 运行 eland_import_hub_model 脚本。 例如:

      ```
    8. eland_import_hub_model --url \
    9. --hub-model-id elastic/distilbert-base-cased-finetuned-conll03-english \
    10. --task-type ner
      ```

  • 指定 URL 以访问你的集群。 例如,https://%26lt%3Buser%26gt%3B:% ... gt%3B。
  • 在 Hugging Face 模型中心中指定模型的标识符。
  • 指定 NLP 任务的类型。 支持的值为 fill_mask、ner、text_classification、text_embedding, question_answering 和 zero_shot_classification。

    ![](https://img-blog.csdnimg.cn/88 ... 71.png)

    上传模型
    ----

    我们使用如下的命令来进行上传模型:

    ```


    1. eland_import_hub_model --url https://%26lt%3Buser%26gt%3B:% ... gt%3B \
    2. --hub-model-id sentence-transformers/clip-ViT-B-32-multilingual-v1 \
    3. --task-type text_embedding \
    4. --ca-certs \
    5. --start


      <br /> <br /> 针对我的情况:<br /> <br />


    6. eland_import_hub_model --url https://elastic:ZgzSt2vHNwA6yP ... :9200 \
    7. --hub-model-id sentence-transformers/clip-ViT-B-32-multilingual-v1 \
    8. --task-type text_embedding \
    9. --ca-certs /Users/liuxg/elastic/elasticsearch-8.6.1/config/certs/http_ca.crt \
    10. --start


      <br /> <br /> **请注意**: 你需要根据自己的 Elasticsearch 访问端点,用户名及密码来修改上面的设置,同时你需要根据自己的配置修改上面的证书路径。<br /> <br /> 运行上面的命令:<br /> <br /> ![](<a href="https://img-blog.csdnimg.cn/055d0f4a24c74ca683a2b04daa972bb5.pn" rel="nofollow" target="_blank">https://img-blog.csdnimg.cn/05 ... b5.pn</a>g)<br /> <br /> 上面显示,我们已经成功地上传了模型。我们可以到 Kibana 中进行查看:<br /> <br /> ![](<a href="https://img-blog.csdnimg.cn/72a4ac019a13423a8655b4337ef23755.pn" rel="nofollow" target="_blank">https://img-blog.csdnimg.cn/72 ... 55.pn</a>g)<br /> <br /> ![](<a href="https://img-blog.csdnimg.cn/67300625d1c247cdb33fcfe48461b90d.pn" rel="nofollow" target="_blank">https://img-blog.csdnimg.cn/67 ... 0d.pn</a>g)<br /> <br /> ![](<a href="https://img-blog.csdnimg.cn/7da05828849e4db3a2f5f04356a1545c.pn" rel="nofollow" target="_blank">https://img-blog.csdnimg.cn/7d ... 5c.pn</a>g)<br /> <br /> ![](<a href="https://img-blog.csdnimg.cn/808df0af71604dc1931e6999826884f4.pn" rel="nofollow" target="_blank">https://img-blog.csdnimg.cn/80 ... f4.pn</a>g)<br /> <br /> 上面显示我们已经上传了所需要的 CLIP 模型,并且它的状态是 started。<br /> <br /> 如何创建图像嵌入<br /> ========<br /> <br /> 在设置 Elasticsearch 集群并导入嵌入模型后,你需要矢量化图像数据并为数据集中的每个图像创建图像嵌入。 <br /> <br /> ![](<a href="https://img-blog.csdnimg.cn/6e793f36c0ae4f44ab476788abe4807f.pn" rel="nofollow" target="_blank">https://img-blog.csdnimg.cn/6e ... 7f.pn</a>g)<br /> <br /> ![](<a href="https://img-blog.csdnimg.cn/63048a39526a4f47b1468c12d73fa93a.pn" rel="nofollow" target="_blank">https://img-blog.csdnimg.cn/63 ... 3a.pn</a>g)<br /> <br />  要创建图像嵌入,请使用简单的 Python 脚本。 你可以在此处找到该脚本:create-image-embeddings.py。 该脚本将遍历你的图像目录并生成单独的图像嵌入。 它将使用名称和相对路径创建文档,并使用提供的映射将其保存到 Elasticsearch 索引 my-image-embeddings 中。<br /> <br /> 将所有图像(照片)放入文件夹 app/static/images。 使用带有子文件夹的目录结构来组织图像。 所有图像准备就绪后,使用几个参数执行脚本。<br /> <br /> 至少要有几百张图像才能获得合理的结果,这一点至关重要。 图像太少不会产生预期的结果,因为你要搜索的空间非常小,而且到搜索向量的距离也非常相似。我尝试在网上下载很多的照片,但是感觉一张一张地下载非常麻烦。你可以在谷歌浏览器中添加插件 [Image downloader - Imageye](<a href="https://chrome.google.com/webstore/detail/image-downloader-imageye/agionbommeaifngbhincahgmoflcikhm" rel="nofollow" target="_blank">https://chrome.google.com/webs ... cikhm</a> "Image downloader - Imageye")。它可以方便地把很多照片一次下载下来。<br /> <br /> 在 image_embeddings 文件夹中,运行脚本并为变量使用你的值。<br /> <br />


    11. cd image_embeddings
    12. python3 create-image-embeddings.py \
    13. --es_host='https://localhost:9200' \
    14. --es_user='elastic' --es_password='ZgzSt2vHNwA6yPn-fllr' \
    15. --ca_certs='/Users/liuxg/elastic/elasticsearch-8.6.1/config/certs/http_ca.crt'


      <br /> <br /> 根据图像的数量、它们的大小、你的 CPU 和你的网络连接,此任务将需要一些时间。 在尝试处理完整数据集之前,先试验少量图像。脚本完成后,你可以使用 Kibana 开发工具验证索引 my-image-embeddings 是否存在并具有相应的文档。<br /> <br /> ![](<a href="https://img-blog.csdnimg.cn/18101e42476a4d8f95a0c2962b0d998f.pn" rel="nofollow" target="_blank">https://img-blog.csdnimg.cn/18 ... 8f.pn</a>g)<br /> <br /> 我们在Kibana 中进行查看:<br /> <br />
      GET _cat/indices/my-image-embeddings?v
      <br /> <br />  上面命令的响应为:<br /> <br />


    16. health status index uuid pri rep docs.count docs.deleted store.size pri.store.size
    17. yellow open my-image-embeddings h6oUBdHCScWmXOZaf57oWg 1 1 145 0 1.4mb 1.4mb


      <br /> <br /> 查看文档,你会看到非常相似的 JSON 对象(如示例)。 你将在图像文件夹中看到图像名称、图像 ID 和相对路径。 此路径用于前端应用程序以在搜索时正确显示图像。JSON 文档中最重要的部分是包含 CLIP 模型生成的密集矢量的 image_embedding。 当应用程序正在搜索图像或类似图像时使用此矢量。<br /> <br />
      GET my-image-embeddings/_search
      <br /> <br />


    18. {
    19. "_index": "my-image-embeddings",
    20. "_id": "_g9ACIUBMEjlQge4tztV",
    21. "_score": 6.703597,
    22. "_source": {
    23. "image_id": "IMG_4032",
    24. "image_name": "IMG_4032.jpeg",
    25. "image_embedding": [
    26. -0.3415695130825043,
    27. 0.1906963288784027,
    28. .....
    29. -0.10289803147315979,
    30. -0.15871885418891907
    31. ],
    32. "relative_path": "phone/IMG_4032.jpeg"
    33. }
    34. }


      <br /> <br /> ![](<a href="https://img-blog.csdnimg.cn/f64311fb558c46b5bf7f17aa2a836311.pn" rel="nofollow" target="_blank">https://img-blog.csdnimg.cn/f6 ... 11.pn</a>g)<br /> <br /> 使用 Flask 应用程序搜索图像<br /> =================<br /> <br /> 现在你的环境已全部设置完毕,你可以进行下一步,使用我们作为概念证明提供的 Flask 应用程序,使用自然语言实际搜索图像并查找相似图像。 该 Web 应用程序具有简单的 UI,使图像搜索变得简单。 你可以在此 GitHub [存储库](<a href="https://github.com/radoondas/flask-elastic-image-search" rel="nofollow" target="_blank">https://github.com/radoondas/f ... earch</a> "存储库")中访问原型 Flask 应用程序。<br /> <br /> 后台应用程序执行两个任务。 在搜索框中输入搜索字符串后,文本将使用机器学习 _infer 端点进行矢量化。 然后,针对带有向量的索引 my-image-embeddings 执行带有密集向量的查询。<br /> <br /> 你可以在示例中看到这两个查询。 第一个 API 调用使用 _infer 端点,结果是一个密集矢量。<br /> <br />


    35. POST _ml/trained_models/sentence-transformers__clip-vit-b-32-multilingual-v1/_infer
    36. {
    37. "docs" : [
    38. {"text_field": "Yellow mountain is the most beautiful mountain in China"}
    39. ]
    40. }


      <br /> <br /> 上面的响应如下:<br /> <br /> ![](<a href="https://img-blog.csdnimg.cn/6b4f423d3ed94d1cbbe5e1b7ed4cf8e2.pn" rel="nofollow" target="_blank">https://img-blog.csdnimg.cn/6b ... e2.pn</a>g)<br /> <br /> 在第二个任务中,搜索查询,我们将使用密集矢量并获得按分数排序的图像。 <br /> <br />
      `

    41. GET my-image-embeddings/_search
    42. {
    43. "fields": [
    44. "image_id",
    45. "image_name",
    46. "relative_path"
    47. ],
    48. "_source": false,
    49. "knn": {
    50. "field": "image_embedding",
    51. "k": 5,
    52. "num_candidates": 10,
    53. "query_vector": [
    54. 0.03395160660147667,
    55. 0.007704082876443863,
    56. 0.14996188879013062,
    57. -0.10693030804395676,
    58. ...
    59. 0.05140634626150131,
    60. 0.07114913314580917
    61. ]
    62. }
    63. }

      `![](https://csdnimg.cn/release/blo ... te.png)
      <br /> <br /> ![](<a href="https://img-blog.csdnimg.cn/01734d0151524e9f9f08bd2868808ab5.pn" rel="nofollow" target="_blank">https://img-blog.csdnimg.cn/01 ... b5.pn</a>g)<br /> <br /> 要启动并运行 Flask 应用程序,请导航到存储库的根文件夹并配置 .env 文件。 配置文件中的值用于连接到 Elasticsearch 集群。 你需要为以下变量插入值。 这些与图像嵌入生成中使用的值相同。 <br /> <br /> **.env**<br /> <br />


    64. ES_HOST='URL:PORT'
    65. ES_USER='elastic'
    66. ES_PWD='password'


      <br /> <br /> 为了能够使得我们自构建的 Elasticsearch 集群能够被正确地访问,我们必须把 Elasticsearch 的根证书拷贝到 Flask 应用的相应目录中:<br /> <br /> **flask-elastic-image-search/app/conf/ca.crt**<br /> <br />


    67. (.venv) $ pwd
    68. /Users/liuxg/python/flask-elastic-image-search/app/conf
    69. (.venv) $ cp ~/elastic/elasticsearch-8.6.1/config/certs/http_ca.crt ca.crt
    70. overwrite ca.crt? (y/n [n]) y


      <br /> <br /> 在上面,我们替换了仓库中原有的证书文件 ca.crt。<br /> <br /> 准备就绪后,运行主文件夹中的 flask 应用程序并等待它启动。<br /> <br />


    71. In the main directory

    72. $ flask run --port=5001


      ```

      如果应用程序启动,你将看到类似于下面的输出,它在末尾指示你需要访问哪个 URL 才能访问该应用程序。

      ![](https://img-blog.csdnimg.cn/f9 ... 41.png)

      恭喜! 你的应用程序现在应该已启动并正在运行,并且可以通过互联网浏览器在 [http://127.0.0.1:5001](http://127.0.0.1:5001 "http://127.0.0.1:5001";) 上访问。

      导航到图像搜索选项卡并输入描述你最佳图像的文本。 尝试使用非关键字或描述性文字。

      在下面的示例中,输入的文本是 “Yellow mountain is the most beautiful mountain in China”。 结果显示在我们的数据集中。 如果用户喜欢结果集中的一张特定图像,只需单击它旁边的按钮,就会显示类似的图像。 用户可以无限次地这样做,并通过图像数据集构建自己的路径。

      ![](https://img-blog.csdnimg.cn/c6 ... a8.png)

      我们尝试另外的一个例子。这次我们输入:I love beautiful girls。

      ![](https://img-blog.csdnimg.cn/6e ... a1.png)

      搜索也可以通过简单地上传图像来进行。 该应用程序会将图像转换为矢量并在数据集中搜索相似的图像。 为此,导航到第三个选项卡 “Similar Image”,从磁盘上传图像,然后点击 “Search”。

      ![](https://img-blog.csdnimg.cn/d7 ... 95.png)

      ![](https://img-blog.csdnimg.cn/32 ... 84.png)

      我们可以看到相似的图片。我们尝试使用一个女孩的照片再试试:

      ![](https://img-blog.csdnimg.cn/79 ... f0.png)

      因为我们在 Elasticsearch 中使用的 [NLP](https://so.csdn.net/so/search% ... 1.7020)(sentence-transformers/clip-ViT-B-32-multilingual-v1)模型是多语言的,支持多语言推理,所以尽量搜索自己语言的图片。 然后也使用英文文本验证结果。我们尝试使用 “黄山是中国最漂亮的山”:

      ![](https://img-blog.csdnimg.cn/1e ... 0d.png)

      请务必注意,使用的模型是通用模型,这些模型非常准确,但你获得的结果会因用例或其他因素而异。 如果你需要更高的精度,则必须采用通用模型或开发自己的模型 —— CLIP 模型只是一个起点。

      代码摘要
      ====

      你可以在 GitHub [存储库](https://github.com/radoondas/f ... earch "存储库")中找到完整的代码。 你可能正在检查 [routes.py](https://github.com/radoondas/f ... es.py "routes.py") 中的代码,它实现了应用程序的主要逻辑。 除了明显的路线定义之外,你还应该关注定义 _infer 和 _search 端点(infer_trained_modelknn_search_images)的方法。 生成图像嵌入的代码位于 [create-image-embeddings.py](https://github.com/radoondas/f ... gs.py "create-image-embeddings.py")文件中。

      总结
      ==

      现在你已经设置了 Flask 应用程序,你可以轻松地搜索你自己的图像集! Elastic 在平台内提供了矢量搜索的原生集成,避免了与外部进程的通信。 你可以灵活地开发和使用你可能使用 PyTorch 开发的自定义嵌入模型。

      语义图像搜索具有其他传统图像搜索方法的以下优点:

  • 更高的准确度:向量相似性捕获上下文和关联,而不依赖于图像的文本元描述。
  • 增强的用户体验:与猜测哪些关键字可能相关相比,描述你正在寻找的内容或提供示例图像。
  • 图像数据库的分类:不用担心对图像进行分类——相似性搜索可以在一堆图像中找到相关图像,而无需对它们进行组织。

    如果你的用例更多地依赖于文本数据,你可以在[以前的博客](https://www.elastic.co/blog/ho ... arted "以前的博客")中了解更多关于实现语义搜索和将自然语言处理应用于文本的信息。 对于文本数据,向量相似度与传统关键词评分的结合呈现了两全其美的效果。

    准备好开始了吗? 在我们的[虚拟活动中心](https://www.elastic.co/events/ ... kshop "虚拟活动中心")报名参加矢量搜索实践研讨会,并在我们的[在线论坛](https://discuss.elastic.co/tag/vector-search "在线论坛")中与社区互动。

社区日报 第1621期 (2023-04-28)

社区日报laoyang360 发表了文章 • 0 个评论 • 2410 次浏览 • 2023-04-28 09:36 • 来自相关话题



1.Elasticsearch Top50面试题(2023更新版本)
https://logit.io/blog/post/elk ... ions/
2.好玩:整合Elasticsearch+chatgpt案例
https://github.com/hunkim/es-gpt
3.Elasticsearch 8 docker 本地部署
https://levelup.gitconnected.c ... ff829

编辑:铭毅天下
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup
B站: https://ela.st/bilibili

社区日报 第1620期 (2023-04-27)

社区日报Se7en 发表了文章 • 0 个评论 • 2446 次浏览 • 2023-04-27 12:39 • 来自相关话题

1.使用 Elasticsearch 构建全栈应用程序(Node.js 和 React)的初学者指南
https://dev.to/lisahjung/begin ... -5347
2.高级调优:查找和修复 Elasticsearch 慢查询
https://www.elastic.co/blog/ad ... eries
3.腾讯云大数据 Elasticsearch 在日志领域的系统性优化
https://cloud.tencent.com/deve ... 71480

编辑:Se7en
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup
B站: https://ela.st/bilibili

社区日报 第1619期 (2023-04-26)

社区日报kin122 发表了文章 • 0 个评论 • 2498 次浏览 • 2023-04-26 21:37 • 来自相关话题

1.Elasticsearch:搜索及索引分析器
https://blog.csdn.net/UbuntuTo ... 34582
2.Elasticsearch:了解和解决文档更新后 Elasticsearch 分数的变化
https://blog.csdn.net/UbuntuTo ... 13637
3.ChatGPT 和 Elasticsearch:OpenAI 遇见私有数据
https://blog.csdn.net/UbuntuTo ... 79557

编辑:kin122
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup
B站:https://ela.st/bilibili

ik自定义分词和停用词遇到一个问题, 或者在脚本中如何过滤不想返回的数据呢

回复

Elasticsearcha1667499668 发起了问题 • 1 人关注 • 0 个回复 • 3281 次浏览 • 2023-04-26 18:16 • 来自相关话题

Kibana生成折线图

回复

Kibanajackhu 发起了问题 • 2 人关注 • 0 个回复 • 4005 次浏览 • 2023-04-25 23:49 • 来自相关话题

社区日报 第1618期 (2023-04-25)

社区日报God_lockin 发表了文章 • 0 个评论 • 2320 次浏览 • 2023-04-25 22:18 • 来自相关话题


OpenShift搭建Elasticsearch完全手册(需要梯子)
1. https://medium.com/%40vaibhavv ... 93598
ES 基础概念简介(需要梯子)
2. https://medium.com/%40marateek ... 7d276
用elastic全家构建安全审计仪表盘(需要梯子)
3. https://medium.com/%40samiul00 ... 029ac
编辑:斯蒂文
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup
B站:https://ela.st/bilibili
 

filebeat直接写数据到es,如何指定索引类型?

回复

Beatsewei001 发起了问题 • 1 人关注 • 0 个回复 • 3338 次浏览 • 2023-04-25 17:23 • 来自相关话题

社区日报 第1617期 (2023-04-24)

社区日报yuebancanghai 发表了文章 • 0 个评论 • 2478 次浏览 • 2023-04-24 13:29 • 来自相关话题

1. Elasticsearch 聚合分页
   https://blog.csdn.net/laoyang3 ... 12946
2. kibana权限配置
   https://help.aliyun.com/docume ... .html
3. Elasticsearch:如何部署 NLP:命名实体识别 (NER) 示例
   https://blog.csdn.net/UbuntuTo ... 77711
编辑:yuebancanghai
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup
B站:https://ela.st/bilibili

INFINI 产品更新|Console v1.0 版本正式发布

默认分类liaosy 发表了文章 • 0 个评论 • 3306 次浏览 • 2023-04-23 16:09 • 来自相关话题

![INFINI Labs 产品更新发布](https://elasticsearch.cn/uploa ... 90.png)

本次 INFINI Labs 产品更新主要包括 Gateway v1.12.1、Console v1.0.0,其中 Console v1.0.0 是一个重要里程碑版本,该版本做了很多UI交互优化;集成了Github SSO 单点登录功能;新增了数据迁移功能,支持跨搜索引擎、跨版本的数据迁移;新增了数据看板,支持自定义可视化报表;以及修复已知Bug等。值得一提的是,Console 非常轻量级,安装包只有16MB,架构简洁,除了使用 Elasticsearch 当作数据存储外无任何外部依赖,包含监控、告警、安全、可视化分析等日常管理功能,欢迎下载使用。在线体验DEMO:[https://play.infinilabs.com:64443](https://play.infinilabs.com:64443),用户名密码 readonly/readonly。

INFINI Gateway v1.12.1


极限网关本次更新如下:

Bug fix

  • Elasticsearch 修复偶现连接断开的问题。
  • Elasticsearch 修复连接超时未返回错误信息的问题。

    更多 Gateway 更新可参考【[Gateway 版本历史](https://www.infinilabs.com/doc ... -notes)】。

    INFINI Console v1.0.0


    Console 本次主要更新如下:

    1、集成 Github 单点登录,方便快速登录,减少用户名和密码登录经常忘记带来的烦恼。详情查看[教程](https://www.infinilabs.com/doc ... users/)

    1682236995658.jpg



    2、新增了工作台界面,作为 Console 登录后的入口页面,可以快速预览整个系统的集群资源概要信息、集群动态、常用功能快捷入口等。

    640.png



    3、新增了数据迁移功能,支持 Elasticsearch、Opensearch、Easysearch 等搜索引擎的所有版本之间相互迁移。需要搭配 最新版本极限网关(INFINI Gateway) 使用,详情查看[教程](https://www.infinilabs.com/doc ... ation/)

    640_(1).png



    4、新增了数据看板功能,支持多标签页,支持折线图、柱状图、饼图等图表,支持用户自定义可视化数据报表,详情查看[教程](https://www.infinilabs.com/doc ... board/)

    640_(2).png



    5、数据探索 Discover 添加搜索关键词高亮功能。

    640_(3).png




    除了以上主要功能外还做了很多优化和Bug fix,如下:

    Features

  • 数据迁移添加初始化索引 settings, mappings 可选步骤
  • 数据迁移添加删除功能

    Improvements

  • 添加 Opening scroll context 监控指标
  • 数据迁移分区设置优化
  • 优化数据迁移错误日志和异常情况处理
  • 迁移后目标集群和源集群文档数量不匹配,标记迁移任务为失败状态


    Bug fix

  • 修复新注册集群状态不同步更新的问题
  • 修复低版本 ES 多 type 分区查询时没有根据 doctype 过滤的问题
  • 修复特殊情况下迁移任务没有被释放的问题
  • 修复迁移任务结束,队列磁盘文件未释放的问题
  • 修复bulk写入失败导致迁移任务卡住的问题

    更多 Console 更新可参考【[Console 版本历史](https://www.infinilabs.com/doc ... -notes)】。

    期待反馈


    欢迎下载体验使用,如果您在使用过程中遇到如何疑问或者问题,欢迎前往 INFINI Labs Github([https://github.com/infinilabs](https://github.com/infinilabs)) 中的对应项目中提交 Feature Request 或提交 Bug。

  • INFINI Gateway: [https://github.com/infinilabs/gateway/issues](https://github.com/infinilabs/gateway/issues)
  • INFINI Console: [https://github.com/infinilabs/console/issues](https://github.com/infinilabs/console/issues)
  • 官网: [https://www.infinilabs.com](https://www.infinilabs.com)
  • 下载地址: [https://www.infinilabs.com/download](https://www.infinilabs.com/download)

    您还可以通过邮件联系我们:hello@infini.ltd

    或者拨打我们的热线电话:(+86) 400-139-9200

    也欢迎大家微信扫码添加小助手(INFINI-Labs),加入用户群讨论,或者扫码加入我们的知识星球一起学习交流。

    ![联系我们](https://elasticsearch.cn/uploa ... 3.jpeg)

    最后祝大家周末愉快!

    关于极限科技(INFINI Labs)


    ![关于极限科技](https://elasticsearch.cn/uploa ... 32.png)

    极限科技,全称极限数据(北京)科技有限公司,是一家专注于实时搜索与数据分析的软件公司。旗下品牌极限实验室(INFINI Labs)致力于打造极致易用的数据探索与分析体验。

    极限科技是一支年轻的团队,采用天然分布式的方式来进行远程协作,员工分布在全球各地,希望通过努力成为中国乃至全球企业大数据实时搜索分析产品的首选,为中国技术品牌输出添砖加瓦。

es中, painless可以把json字符串转为数组或list的吗

ElasticsearchOmbres 回复了问题 • 3 人关注 • 2 个回复 • 4387 次浏览 • 2023-04-23 10:51 • 来自相关话题

社区日报 第1616期 (2023-04-21)

社区日报laoyang360 发表了文章 • 0 个评论 • 3469 次浏览 • 2023-04-20 16:03 • 来自相关话题


1、ChatGPT + Elasticsearch:开源搜索与 AI 技术的完美结合
https://www.elastic.co/cn/blog ... -data

2、Elasticsearch权威指南之深入查询
https://www.elastic.co/guide/c ... .html

3、Elasticsearch 基础概念全新解读
https://blog.devgenius.io/elas ... bfb3e

4、Elasticsearch数据导入方法大全
https://www.elastic.co/cn/blog ... lizer



编辑:铭毅天下
归档:https://ela.st/cn-daily-all
订阅:https://ela.st/cn-daily-sub
沙龙:https://ela.st/cn-meetup
B站: https://ela.st/bilibili

es使用老版本命令插入新版本的问题!!!

ElasticsearchFFFrp 回复了问题 • 3 人关注 • 2 个回复 • 3179 次浏览 • 2023-04-23 14:51 • 来自相关话题