Ez a cikk egy tükör gépi fordítás, kérjük, kattintson ide, hogy ugorjon az eredeti cikkre.

Nézet: 9001|Válasz: 0

Az Elasticsearch automatikusan tisztítja az indexeket, hogy felszabadítsa a lemezhelyet

[Linket másol]
Közzétéve 2022. 03. 13. 13:22:29 | | | |
Az Elasticsearch segítségével tárolják az üzleti rendszer naplóit, minden nap új index generálódik a dátum szerint, naponta milliónyi dokumentum jelenik meg, ha az Elasticsearch indexet nem takarítják meg időben, nagy korosztály lesz a lemezre, nagy nyomást gyakorol a lemezre, és a keresési sebesség is lassul. Korábban manuálisan tisztítottuk az ES-indexeket, és shell szkripteket használtunk a rendszeres tisztításhoz, de az ES képes létrehozni egy index életciklus-szabályzatot, hogy segítsen eltávolítani a régi történelmi indexeket.

A cikkben használt Elasticsearch verziója: 7.10.2

Ma 2022-03-11 van, és látható, hogy a 2022 januári index és dokumentumok még mindig megvannak, ahogy az alábbi ábrán látható:



Indexsablon létrehozása

Nyisd meg a Kibana adminisztrátori panelt, kattints az Index Management -> Index Template -> gombra, hogy létrehozz egy indexsablont a következő néven:logger-template, az index modul kitölti azokat az indexeket, amelyeket össze kell illeszteni, majd egészen a következő lépésig halad, ahogy az alábbi ábrán látható:



Megjegyzés: Új Elasticsearch index létrehozásakor a sablon automatikusan párosítja az index alapvető részét. Vagyis az itsvse-2022-03-13 index létrehozásakor egyezik a logger-template verzióval, majd végrehajtja a sablon által beállított szabályokat.A történelmi indexek (még ha egyeznek is a sablonokkal) nem kapcsolódnak indexsablonokhoz!!! Ebben a cikkbenAzok az indexek, amelyek nem sablon alapján készültek, nem törölhetők automatikusan

Hozz létre index életciklus-politikát

Nyisd meg a Kibana adminisztrátori panelt, és kattints az Index Lifecycle Policy -> gombra, hogy létrehozz egy szabályzatot, ahogy az alábbi képen látható:



Névkitöltés"Automatikus tisztítás-30 napos naplózó, kapcsold be a Folyamatos frissítések engedélyezése (Enabled rolling updates) (Enabled rolling updates) opció, ahogy az alábbi ábrán látható:



Nyisd meg a törlési fázist, hogy automatikusan tisztítsd az indexeket akár 30 nappal ezelőttig, ahogy az alábbi képen is látható:



Végül a politika hozzáadása az indexsablonhoz, ahogy az alábbi képen látható:



Ekkor az újonnan létrehozott index automatikusan 30 napig mentődik el, a 30 napnál meghaladó indexet pedig töröljük, és a korábbi indexet kézzel kell tisztítani!! Az index kézi törléséhez lásd a következőket:

Az Elasticsearch törli és indexeli az összes dokumentumadatot
https://www.itsvse.com/thread-6321-1-1.html
Nézd át az imént létrehozott index-sablont, amely a végleges sablonra kerül az indexhez illeszkedve. A részletek a következők:

{
  "template": {
    "beállítások": {
      "index": {
        "életciklus": {
          "név": "automata tisztítás-30 napos naplózó"
        }
      }
    },
    "alias": {},
    "leképezések": {}
  }
}


Tekintse át például a politikakonfigurációs felületet:http://192.168.1.182:9200/_ilm/policy/auto-clean-30-days-logger?pretty

{
  "automata tisztítás-30-napos-naplózó" : {
    "verzió": 1,
    "modified_date" : "2022-03-11T06:26:01.972Z",
    "politika" : {
      "fázisok" : {
        "forró" : {
          "min_age" : "0ms",
          "akciók" : {
            "set_priority" : {
              "prioritás" : 100
            }
          }
        },
        "delete" : {
          "min_age" : "30d",
          "akciók" : {
            "delete" : {
              "delete_searchable_snapshot": igaz
            }
          }
        }
      }
    }
  }
}


ILM (Index Lifecycle Management)

Új index-életciklus politikánk időzített felméréseken keresztül valósul meg.

Az ILM Szolgálat a háttérben közvetíti a végrehajtási szabályzatot:

Az ILM négy életciklus szakaszt határoz meg:
Hot: Aktívan frissítem és lekérdezem az indexet.
Warm: Nincs több indexfrissítés, de továbbra is lekérdezés.
cold: Több indexet nem frissítettek, néhány kérdés érkezett. Az információnak továbbra is kereshetőnek kell lennie, de rendben van, ha ezek a lekérdezések lassabbak.
Törlés: Az index már nem szükséges, és biztonságosan törölhető.

ILM Periodikus Művelet (indices.lifecycle.poll_interval),Az alapértelmezett idő 10 percEllenőrizni, hogy az index megfelel-e a szabályzati kritériumoknak, és megtegyék a szükséges lépéseket.
A versenyhelyzetek elkerülése érdekében az ILM-t többször is futtatni kell, hogy végrehajtsák az összes szükséges lépést egy akció befejezéséhez. Tehát még ha indices.lifecycle.poll_interval 10 percre van állítva, és az index is felfordulási kompatibilis, akkor is 20 percbe telhet, mire befejezzük a rollovert.
Például, ha több mint 10 dokumentumot állítunk be a váltásra, de mivel ez a folyamat nem történik meg azonnal, a 11. és 12. cikk még mindig a korábbi indexre eshet, és az újonnan létrehozott dokumentumok csak akkor kerülnek az új indexbe, amíg a rollover sikeres nem lesz.

Index életciklus-kezelési beállítások az Elasticsearch-ben:A hiperlink bejelentkezés látható.

ILM státuszának megtekintése



2022-03-13 van, naponta automatikusan 2 index jön létre, már láthatod a létrehozott indexeketA szabályzatok automatikusan kapcsolódnak, ahogy az alábbi ábrán látható:



(Vége)





Előző:A Maven projektek külön csomagolják a projekteket és függőségeket
Következő:【Practical Action】Use Docker to build an IPsec VPN server
Lemondás:
A Code Farmer Network által közzétett összes szoftver, programozási anyag vagy cikk kizárólag tanulási és kutatási célokra szolgál; A fenti tartalmat nem szabad kereskedelmi vagy illegális célokra használni, különben a felhasználók viselik az összes következményet. Az oldalon található információk az internetről származnak, és a szerzői jogi vitáknak semmi köze ehhez az oldalhoz. A fenti tartalmat a letöltés után 24 órán belül teljesen törölni kell a számítógépéről. Ha tetszik a program, kérjük, támogassa a valódi szoftvert, vásároljon regisztrációt, és szerezzen jobb hiteles szolgáltatásokat. Ha bármilyen jogsértés történik, kérjük, vegye fel velünk a kapcsolatot e-mailben.

Mail To:help@itsvse.com