8. Elasticsearch 集群管理与运维

Elasticsearch 集群管理与运维

1. 集群健康检查

集群健康状态是监控集群稳定性的首要指标。Elasticsearch 提供了 API 来获取集群健康信息。

代码实践（使用 curl）：

curl -X GET "localhost:9200/_cluster/health?pretty"
​

内容详解：

• _cluster/health：Elasticsearch API 端点，用于获取集群健康信息。

• pretty：格式化 JSON 输出，提高可读性。

响应示例：

{
  "cluster_name" : "my-application",
  "status" : "green",
  "timed_out" : false,
  "number_of_nodes" : 3,
  "number_of_data_nodes" : 3,
  "active_primary_shards" : 15,
  "active_shards" : 15,
  "relocating_shards" : 0,
  "initializing_shards" : 0,
  "unassigned_shards" : 0,
  "delayed_unassigned_shards" : 0,
  "number_of_pending_tasks" : 0,
  "number_of_in_flight_fetch" : 0,
  "task_max_waiting_in_queue_millis" : 0,
  "active_shards_percent_as_number" : 100.0
}
​

状态解读：

• green：一切正常，所有主分片和副本分片都已分配。

• yellow：主分片已分配，但部分副本分片未分配。集群功能正常，但存在单点故障风险。

• red：部分主分片未分配，集群部分功能受损。

Mermaid 图表：

2. 节点管理

节点管理包括添加节点、移除节点、重启节点等操作。

添加节点：

• 确保新节点的 Elasticsearch 版本与集群版本一致。

• 配置新节点的 elasticsearch.yml 文件，指定 cluster.name 和 node.name。

• 启动新节点。

移除节点：

1. 禁用分片分配： 防止在节点移除期间分配新的分片到该节点。

   curl -X PUT "localhost:9200/_cluster/settings?pretty" -H 'Content-Type: application/json' -d'
   {
     "transient": {
       "cluster.routing.allocation.enable": "none"
     }
   }
   '
   ​

2. 执行同步刷新： 确保所有待处理的索引操作都被刷新到磁盘。

   curl -X POST "localhost:9200/_flush/synced?pretty"
   ​

3. 停止节点： 安全地停止要移除的 Elasticsearch 节点。

4. 更新集群设置： 从集群中移除已停止的节点（如果需要）。这通常不需要手动操作，因为 Elasticsearch 会自动检测到节点的离线。

5. 重新启用分片分配： 允许集群重新平衡分片。

   curl -X PUT "localhost:9200/_cluster/settings?pretty" -H 'Content-Type: application/json' -d'
   {
     "transient": {
       "cluster.routing.allocation.enable": "all"
     }
   }
   '
   ​

重启节点：

• 安全地停止节点。

• 启动节点。

内容详解：

• 在添加或移除节点时，Elasticsearch 会自动重新平衡分片，确保数据分布均匀。

• 重启节点时，Elasticsearch 会自动恢复节点上的分片。

Mermaid 图表：

3. 索引管理

索引管理包括创建索引、删除索引、更新索引设置等操作。

创建索引：

curl -X PUT "localhost:9200/my_index?pretty" -H 'Content-Type: application/json' -d'
{
  "settings": {
    "number_of_shards": 3,
    "number_of_replicas": 1
  },
  "mappings": {
    "properties": {
      "title": {
        "type": "text"
      },
      "content": {
        "type": "text"
      }
    }
  }
}
'
​

删除索引：

curl -X DELETE "localhost:9200/my_index?pretty"
​

更新索引设置：

curl -X PUT "localhost:9200/my_index/_settings?pretty" -H 'Content-Type: application/json' -d'
{
  "index": {
    "number_of_replicas": 2
  }
}
'
​

内容详解：

• number_of_shards：主分片数量，创建索引后不可更改。

• number_of_replicas：副本分片数量，可以动态更改。

• mappings：定义索引中字段的类型和属性。

Mermaid 图表：

4. 分片管理

分片管理包括分片分配、分片恢复等操作。

分片分配：

Elasticsearch 会自动进行分片分配，但也允许手动控制。

curl -X PUT "localhost:9200/_cluster/reroute?pretty" -H 'Content-Type: application/json' -d'
{
  "commands": [
    {
      "move": {
        "index": "my_index",
        "shard": 0,
        "from_node": "node1",
        "to_node": "node2"
      }
    }
  ]
}
'
​

分片恢复：

Elasticsearch 会自动进行分片恢复，例如在节点重启后。

内容详解：

• cluster.routing.allocation.enable：控制分片分配，可以设置为 all、primaries、new_primaries、none。

• cluster.routing.allocation.disk.threshold_enabled：控制磁盘使用率超过阈值时是否分配分片。

Mermaid 图表：

5. 监控与告警

监控 Elasticsearch 集群的各项指标，并在出现异常时发出告警，是保证集群稳定性的重要手段。

常用监控指标：

• CPU 使用率

• 内存使用率

• 磁盘使用率

• JVM 堆内存使用率

• 索引速率

• 搜索延迟

• 队列长度

常用监控工具：

• Elasticsearch Exporter + Prometheus + Grafana

• Elasticsearch Monitoring UI

• 商业监控工具（如 Datadog、New Relic）

告警设置：

• 基于 Prometheus Alertmanager 设置告警规则。

• 使用 Elasticsearch Watcher 设置告警规则。

代码实践（Prometheus 配置文件示例）：

groups:
- name: elasticsearch
  rules:
  - alert: ElasticsearchNodeCPUHigh
    expr: 100 - avg by (instance) (irate(node_cpu_seconds_total{mode="idle"}[5m])) * 100 > 80
    for: 5m
    labels:
      severity: critical
    annotations:
      summary: "Elasticsearch Node CPU Usage High (instance {{ $labels.instance }})"
      description: "CPU usage is above 80% for 5 minutes on instance {{ $labels.instance }}"
​

内容详解：

• 选择合适的监控工具和指标。

• 设置合理的告警阈值。

• 及时响应告警，解决问题。

Mermaid 图表：

6. 备份与恢复

定期备份 Elasticsearch 集群的数据，并在出现故障时进行恢复，是保证数据安全的重要手段。

备份方式：

• Snapshot and Restore API： Elasticsearch 官方提供的备份和恢复 API。

• 第三方备份工具： 如 Curator。

代码实践（Snapshot and Restore API）：

1. 注册仓库：

   curl -X PUT "localhost:9200/_snapshot/my_backup_repo?pretty" -H 'Content-Type: application/json' -d'
   {
     "type": "fs",
     "settings": {
       "location": "/path/to/backup/location"
     }
   }
   '
   ​

2. 创建快照：

   curl -X PUT "localhost:9200/_snapshot/my_backup_repo/snapshot_1?wait_for_completion=true&pretty"
   ​

3. 恢复快照：

   curl -X POST "localhost:9200/_snapshot/my_backup_repo/snapshot_1/_restore?wait_for_completion=true&pretty"
   ​

内容详解：

• 选择合适的备份方式。

• 定期进行备份。

• 验证备份的可用性。

Mermaid 图表：

7. 性能优化

Elasticsearch 性能优化是提高集群效率的关键。

优化方向：

• 硬件优化： 选择合适的硬件配置，如 CPU、内存、磁盘。

• JVM 优化： 配置合适的 JVM 堆内存大小。

• 索引优化： 合理设计索引结构，选择合适的分析器。

• 查询优化： 优化查询语句，避免全表扫描。

• 分片优化： 调整分片数量和大小。

代码实践（设置 JVM 堆内存大小）：

在 jvm.options 文件中设置：

-Xms8g
-Xmx8g
​

内容详解：

• 根据实际情况选择合适的优化方向。

• 持续监控集群性能，及时调整优化策略。

Mermaid 图表：

通过以上策略和实践，你可以有效地管理和维护 Elasticsearch 集群，确保其稳定、高效运行。 记住，持续的监控、分析和调整是集群管理的关键。