[PYTHON] [Amsel-td-Agent] Überwachung des td-Agenten

Dieser Plug verwendet den [monitor_agent] von td-agent (http://docs.fluentd.org/ja/articles/monitoring#). Überwachen Sie den Puffer von td-agent.

Vorbereitungen

Bereiten wir monitor_agent vor, bevor wir blackbird-td-agent installieren.

Fluentd monitor_agent

monitor_agent ist ein fließendes Plugin, mit dem Sie den Pufferstatus über HTTP abrufen können. Da es standardmäßig installiert ist, muss kein neues Juwel installiert werden.

<source>
  type monitor_agent
  bind 0.0.0.0
  port 24220
</source>

Wenn Sie config wie oben schreiben und fluentd neu starten, wird monitor_agent aktiviert. Der Endpunkt für monitor_agent ist http: // localhost: 24220 / api / plugins.json. Wenn Sie zu dieser URL gelangen, können Sie die Bytegröße des Puffers und die Länge der Pufferwarteschlange abrufen. Das Blackbird-td-Agent-Plugin analysiert diesen Wert und ruft den Wert ab.

Architecture

Aufgrund der Eigenschaften von monitor_agent gibt es bei mehreren Ausgangs-Plug-Ins mehrere JSON-Ausgänge. Deshalb habe ich mich für das Raw Level Discovery Item von zabbix entschieden, um Items dynamisch zu vergrößern oder zu verkleinern.

Wenn es sich um ein Ausgabe-Plugin handelt und in json buffer_queue_length vorhanden ist, wird das Zielelement auf den mit der zabbix-Vorlage verknüpften HOST erweitert. Der Artikelname wird "plugin_id" zugewiesen. (plugin_id wird für jedes Plugin ein eindeutiges Plugin zugewiesen, und json im Format "{" plugin_id ":" object: XXXXXXXXXXX "}" wird ausgegeben.)

Zabbix Template

Items(Normal)

Sie können die folgenden Elemente als normale Elemente erhalten

• Speichermenge, die von fluentd Process verwendet wird
• Anzahl der fließenden Prozesse

Law Level Discovery Items(Dynamic)

Folgende Elemente ändern sich dynamisch mit Law Level Discovery

• buffer queue accumulate rate

• Die Nutzungsrate der Elemente in der Warteschlange wird anhand der in der Konfiguration angegebenen aktuellen Warteschlangenlänge ÷ buffer_queue_limit berechnet.

• buffer queue bytes

• Extrahieren Sie den Wert von buffer_total_queued_size aus http: // MONITOR_AGENT_HOST: 24420 / api / plugins.json

• buffer queue length

• Extrahieren Sie den Wert von buffer_queue_length aus http: // MONITOR_AGENT_HOST: 24420 / api / plugins.json

• current retry count

• Anzahl der erneuten Versuche, da diese nicht an eine externe Quelle ausgegeben werden können
• Extrahieren Sie den Wert von "retry_count" aus "http: // MONITOR_AGENT_HOST: 24420 / api / plugins.json"

• buffer queue increase amount of buffer queue bytes per-seconds

• Berechnet durch Teilen des Betrags der Erhöhung der Anzahl der Bytes des Elements in der Warteschlange pro Sekunde und des Differenzwerts des Betrags der Erhöhung durch das Erfassungsintervall (Intervall in der Blackbird-Konfiguration)

• buffer queue increase amount of buffer queue length per-seconds

• Wie oben (dies ist die Anzahl der Elemente, die in der Warteschlange hängen bleiben, die Anzahl der Erhöhungen der Warteschlangenlänge).

• buffer queue buffer_queue_limit

• Der in der Konfiguration von fluentd festgelegte Wert von buffer_queue_limit

Triggers

Folgendes wird als Trigger implementiert

• Kein fließender Prozess
• retry_count ist mehr als eine bestimmte Anzahl von Malen

• Sie können mit einem Makro eine bestimmte Anzahl von Malen angeben. Standard ist 1

• Die Rate der Warteschlangenakkumulation überschreitet eine bestimmte Anzahl

• Info, Durchschnitt, Hoch können jeweils im Makro angegeben werden.

Graphs

• buffer queue bytes
• buffer queue length
• buffer queue increase amount of buffer queue bytes per-seconds
• buffer queue increase amount of buffer queue length per-seconds

Jeder Wert von ist ein einzelnes Diagramm.

Wenn fluentd in der Warteschlange steht und gefährlich ist oder wenn das Ziel falsch ist und nicht gesendet werden kann, wird es zu einem kombinierten Monitor mit der Überwachung anderer Host- ODER Middleware, oder die Protokollüberwachung ist die einzige Möglichkeit, retry_count überhaupt zu erkennen. Ich habe das Gefühl, dass es auf subtile Weise schwierig zu überwachen ist, oder weil es schwierig ist, habe ich das Gefühl, dass ich es später nicht mag. Sie können fluentd selbst mit monitor_agent überwachen.