OpenStack Ceilometer（监控计量）详解

一、Ceilometer 概述 📊

Ceilometer 是 OpenStack Telemetry（遥测）服务的核心组件，采用 Agent 架构，所有服务均可水平扩展。核心职责是采集云平台中所有资源的计量数据，为监控、告警、计费、性能分析提供数据基础。

Telemetry 生态组件：

二、数据采集两大机制 🔄

1. Notification Agent（通知代理）— 推荐方式 ✅

原理：OpenStack 各组件在执行操作时向消息队列发送通知，Notification Agent 监听并转换为 Samples/Events。

工作流程：

1. 各服务发通知到消息队列（topic: notifications.info、notifications.sample 等）
2. Notification Agent 加载 ceilometer.notification 命名空间的 Listener 插件
3. 根据 event_type 过滤，分发给对应 Endpoint 处理
4. 通过 Pipeline 进行转换（Transform）和发布（Publish）

Meter 配置示例（meters.yaml） 📋

metric:
  - name: "disk.read.bytes"
    event_type: "compute.instance.create.end"
    type: "cumulative"
    unit: "B"
    volume: "$.payload.size"
    resource_id: "$.payload.instance_id"

2. Polling Agent（轮询代理）— 补充方式 ⏱️

原理：对于通知无法覆盖的指标（如 VM CPU/内存使用率等资源使用数据），Polling Agent 定期主动轮询 获取。

三种 Polling Agent：

注意：Kilo 版本起统一为 ceilometer-polling，通过 --polling-namespaces 参数区分。

Polling 配置示例（polling.yaml） 📋

sources:
  - name: "compute_source"
    interval: 300 # 轮询间隔（秒）
    meters:
      - "cpu_util"
      - "memory.resident"
      - "disk.read.bytes"
    resources:
      - "list of resource urls"
    discovery:
      - "local_instances"

三、Pipeline 数据处理管道 📦

无论是 Notification 还是 Polling 采集的数据，都经过 Pipeline 统一处理：

采集（Agent）→ 转换（Transform）→ 发布（Publish）→ 目标存储

1. 数据转换（Transform）

支持的转换器：

2. 数据发布（Publish）— 支持多发布者

3. Pipeline 配置示例（pipeline.yaml） 🔧

sources:
  - name: "cpu_source"
    interval: 300
    meters:
      - "cpu_util"
    sinks:
      - "cpu_sink"
sinks:
  - name: "cpu_sink"
    transformers:
      - name: "rate_of_change"
    publishers:
      - "gnocchi://"
      - "notifier://"

四、Gnocchi 时序数据存储 🗄️

Gnocchi 替代了 Ceilometer 早期数据库存储后端，提供高性能时序数据存储和查询。

归档策略示例

gnocchi archive-policy create \
  --back-window 0 \
  --granularity 60:1h \
  --granularity 3600:30d \
  --granularity 86400:365d \
  name: 'low-resolution'

归档策略解释：

常用查询命令

gnocchi measures show -r RESOURCE_ID -m METRIC_NAME
gnocchi measures show --aggregation mean -r RESOURCE_ID -m cpu_util
gnocchi resource list --type instance
gnocchi status

五、Aodh 告警系统集成 🚨

Aodh 基于 Ceilometer 采集、Gnocchi 存储的数据，提供灵活的阈值告警服务。

告警类型

支持的动作

告警创建示例

aodh alarm create \
  --type gnocchi_aggregation_by_resources_threshold \
  --name cpu_high \
  --metric cpu_util \
  --threshold 80 \
  --comparison-operator ge \
  --evaluation-periods 3 \
  --period 300 \
  --aggregation-method avg \
  --resource-type instance \
  --query '{"=": {"id": "INSTANCE_UUID"}}' \
  --alarm-action 'webhook://https://hooks.example.com/alarm' \
  --ok-action 'webhook://https://hooks.example.com/ok'

参数说明：

六、CloudKitty 计费系统集成 💰

计量计费三步骤

CloudKitty 架构

Ceilometer/Gnocchi → Tenant Fetcher → Collector → Rating Engine → Storage → Dashboard/API

Rating Engine 计费模块

Dynamic Pollster 高级采集

对于自定义计费场景，Ceilometer 提供 Dynamic Pollster，可在运行时动态定义新采集指标，无需重启代理：

# polling.yaml — dynamic pollster 示例：采集卷的 IOPS
sources:
  - name: "volume_iops"
    interval: 60
    meters:
      - "volume.iops"

配合 CloudKitty 的 hashmap 规则，可实现基于标签（tag）的差异计费（如按项目、按客户级别、按操作系统类型差异化定价）。

七、整体数据流总览 🌐

┌──────────────────────────────────────────────────────────────────┐
│                     OpenStack 各组件                               │
│  Nova / Glance / Cinder / Neutron / Swift / Keystone / Heat      │
└───────┬────────────────────────────────────────┬─────────────────┘
        │ 发送通知                                 │ 提供 REST API
        ▼                                         ▼
┌────────────────────┐                  ┌──────────────────────────┐
│ Notification Agent  │                  │ Polling Agent             │
│ （监听消息队列）      │                  │ （compute/central/ipmi）  │
│ ↓ 转换为 samples     │                  │ ↓ 轮询生成 samples        │
└─────────┬──────────┘                  └──────────┬───────────────┘
          │                                        │
          └──────────┬──────────────────────────────┘
                     ▼
          ┌──────────────────────┐
          │   Pipeline 处理       │
          │ （Transform + Publish）│
          └──────────┬───────────┘
                     ▼
     ┌───────────────┬───────────────┬───────────────┐
     ▼               ▼               ▼               ▼
  Gnocchi         Aodh           CloudKitty       外部系统
  （时序存储）     （阈值告警）     （计费引擎）      （Kafka/HTTP）
     │               │               │
     ▼               ▼               ▼
  监控面板         告警通知         账单/报表
  （Grafana）    （邮件/Webhook）   （客户计费）

八、性能调优 🚀

Pipeline 批处理配置优化：

[notification]
batch_size = 500
batch_timeout = 5

[collector]
workers = 4

九、常用 CLI 命令 🖥️

Ceilometer 命令

ceilometer meter-list
ceilometer sample-list -m cpu_util
ceilometer statistics -m cpu_util -p 3600

Gnocchi 命令

gnocchi metric list
gnocchi measures show -r RESOURCE_ID -m cpu_util
gnocchi archive-policy list
gnocchi resource list --type instance

Aodh 命令

aodh alarm list
aodh alarm show ALARM_ID
aodh alarm update --name ALARM_ID --threshold 90
aodh alarm delete ALARM_ID

CloudKitty 命令

openstack rating module list
openstack rating hashmap service create --name compute
openstack rating hashmap field create --service compute \
  --key flavor --type flat
openstack rating hashmap mapping create \
  --field-id FIELD_ID --value m1.small --cost 0.5

十、最佳实践 💡

1. 优先使用 Notification 采集，减少对 OpenStack API 的额外负载
2. 合理配置 Polling 间隔，重要指标（CPU）用短间隔，次要指标（磁盘容量）用长间隔
3. 使用 Gnocchi 归档策略控制存储成本，细粒度数据短期保留，粗粒度数据长期保留
4. 开启 Pipeline 批处理，增大 batch_size 提升吞吐量
5. 引入 Kafka 缓冲层，解耦采集与存储，应对大规模集群流量峰值
6. 水平扩展 Agent，Compute Agent 随计算节点自动扩展，Central Agent 根据 API 负载调整
7. 告警策略设置连续评估周期（evaluation-periods），避免误告警
8. CloudKitty 计费规则需手动创建 hashmap 或 pyscript 规则，否则不产生计费结果
9. 利用 Dynamic Pollster 动态定义自定义采集指标，无需重启代理服务
10. 监控 Ceilometer 自身性能，关注消息队列积压和 Pipeline 处理延迟

🔗 相关文档

OpenStack Ceilometer 监控计量服务概念 | OpenStack Nova计算服务详解