Tento článek je zrcadlovým článkem o strojovém překladu, klikněte zde pro přechod na původní článek.

Pohled: 10663|Odpověď: 2

Pod CentOS 7 Kafka často zavěšuje řešení

[Kopírovat odkaz]
Zveřejněno 22.09.2021 17:31:38 | | | |
Přezkoumání:

Systém Kafka Windows se po určité době zavěsí
https://www.itsvse.com/thread-9984-1-1.html

Windows Kafka CHYBA Nepodařilo se vyčistit log pro __consumer_offsets
https://www.itsvse.com/thread-9980-1-1.html

Použijte následující příkaz ke kontrole stavu běhu Kafky. Následovně:

kafka.service
   Načteno: načteno (/usr/lib/systemd/system/kafka.service; zpřístupněný; přednastavení dodavatele: zakázáno)
   Aktivní: neúspěšný (Výsledek: výstupní kód) od středy 22. 9. 2021 14:43:11 CST; Před 1h 43 minutami
  Process: 7363 ExecStart=/usr/local/kafka/bin/kafka-server-start.sh /usr/local/kafka/config/server.properties (code=exited, status=1/FAILURE)
Hlavní PID: 7363 (kód=ukončeno, stav=1/SELHÁNÍ)

22. září 14:43:11 devops02 kafka-server-start.sh[7363]: [2021-09-22 14:43:11,295] WARN [ReplicaManager broker=1] Zastavení servírování replik v dir /tmp/kafka-logs ( kafka.server.ReplicaManager)
22. září 14:43:11 devops02 kafka-server-start.sh[7363]: [2021-09-22 14:43:11,298] VAROVÁNÍ [GroupCoordinator 1]: Nepodařilo se napsat prázdná metadata pro skupinu KqBatchAna: Toto není správné koordinátor. (kafka.co... upCoordinator)
22. září 14:43:11 devops02 kafka-server-start.sh[7363]: [2021-09-22 14:43:11,303] INFO [ReplicaFetcherManager na brokeru 1] Odstraněn fetcher for partitions HashSet(__consumer_offsets-22, __ consumer_offsets-30, ...-8, __consumer
22. září 14:43:11 devops02 kafka-server-start.sh[7363]: [2021-09-22 14:43:11,304] INFO [ReplicaAlterLogDirsManager on broker 1] Odstraněn fetcher for partitions HashSet(__consumer_ offsety-22, __consumer_offsets... fsets-8, __con
22. září 14:43:11 devops02 kafka-server-start.sh[7363]: [2021-09-22 14:43:11,378] VAROVÁNÍ [ReplicaManager broker=1] Broker 1 zastavil fetcher pro oddíly __consumer_offsets-22,__ consumer_offsets-30 __consumer_... fsets-21,__con
22. září 14:43:11 devops02 kafka-server-start.sh[7363]: [2021-09-22 14:43:11,379] VAROVÁNÍ Zastavení servírování logů v dir /tmp/kafka-logs (kafka.log.LogManager)
22. září 14:43:11 devops02 kafka-server-start.sh[7363]: [2021-09-22 14:43:11,386] CHYBA Vypnutí brokera, protože všechny logové adresáře v /tmp/kafka-logs selhaly (kafka.log.LogManager)
Sep 22 14:43:11 devops02 systemd[1]: kafka.service: hlavní proces ukončen, code=exited, status=1/FAILURE
22. září 14:43:11 devops02 systemd[1]: Jednotka kafka.service vstoupila do stavu neúspěchu.
Sep 22 14:43:11 devops02 systemd[1]: kafka.service failed.
Hint: Some lines were ellipsized, use -l to show in full.



Přejděte do Kafka log adresáře /usr/local/kafka/logs a podívejte se na server.log log soubory, a to následovně:

[2021-09-22 14:43:11,286] ERROR Error při rolování log segmentu pro __consumer_offsets-8 v dir /tmp/kafka-logs (kafka.server.LogDirFailureChannel)
java.io.FileNotFoundException: /tmp/kafka-logs/__consumer_offsets-8/00000000000000000000.index (No such file or directory)
        at java.io.RandomAccessFile.open0(Native Method)
        na java.io.RandomAccessFile.open(RandomAccessFile.java:316)
        na java.io.RandomAccessFile. <init>(RandomAccessFile.java:243)
        na kafka.log.AbstractIndex.$anonfun$resize$1(AbstractIndex.scala:182)
        na kafka.log.AbstractIndex.resize(AbstractIndex.scala:175)
        at kafka.log.AbstractIndex.$anonfun$trimToValidSize$1(AbstractIndex.scala:241)
        na kafka.log.AbstractIndex.trimToValidSize(AbstractIndex.scala:241)
        at kafka.log.LogSegment.onBecomeInactiveSegment(LogSegment.scala:507)
        at kafka.log.Log.$anonfun$roll$8(Log.scala:2037)
        at kafka.log.Log.$anonfun$roll$8$adapted(Log.scala:2037)
        Na Scale. Option.foreach(Option.scala:437)
        at kafka.log.Log.$anonfun$roll$2(Log.scala:2037)
        na kafka.log.Log.roll(Log.scala:2453)
        at kafka.log.Log.maybeRoll(Log.scala:1988)
        at kafka.log.Log.append(Log.scala:1263)
        at kafka.log.Log.appendAsLeader(Log.scala:1112)
        at kafka.cluster.Partition.$anonfun$appendRecordsToLeader$1(Partition.scala:1069)
        at kafka.cluster.Partition.appendRecordsToLeader(Partition.scala:1057)
        at kafka.server.ReplicaManager.$anonfun$appendToLocalLog$6(ReplicaManager.scala:958)
        at scala.collection.Iterator$$anon$9.next(Iterator.scala:575)
        na scala.collection.mutable.Growable.addAll(Growable.scala:62)
        na scala.collection.mutable.Growable.addAll$(Growable.scala:57)
        na scala.collection.immutable.MapBuilderImpl.addAll(Map.scala:692)
        na scala.collection.immutable.Map$.from(Map.scala:643)
        at scala.collection.immutable.Map$.from(Map.scala:173)
        na scala.collection.MapOps.map(Map.scala:266)
        na scala.collection.MapOps.map$(Map.scala:266)
        na scala.collection.AbstractMap.map(Map.scala:372)
        at kafka.server.ReplicaManager.appendToLocalLog(ReplicaManager.scala:946)
        at kafka.server.ReplicaManager.appendRecords(ReplicaManager.scala:616)
        at kafka.coordinator.group.GroupMetadataManager.storeGroup(GroupMetadataManager.scala:325)
        na kafka.coordinator.group.GroupCoordinator.$anonfun$onCompleteJoin$1(GroupCoordinator.scala:1206)
        at kafka.coordinator.group.GroupMetadata.inLock(GroupMetadata.scala:227)
        na kafka.coordinator.group.GroupCoordinator.onCompleteJoin(GroupCoordinator.scala:1178)
        na kafka.coordinator.group.DelayedJoin.onComplete(DelayedJoin.scala:43)
        na kafka.server.DelayedOperation.forceComplete(DelayedOperation.scala:72)
        na kafka.coordinator.group.DelayedJoin.$anonfun$tryComplete$1(DelayedJoin.scala:38)
        na kafka.coordinator.group.GroupCoordinator.$anonfun$tryCompleteJoin$1(GroupCoordinator.scala:1172)
        at scala.runtime.java8.JFunction0$mcZ$sp.apply(JFunction0$mcZ$sp.scala:17)
        at kafka.coordinator.group.GroupMetadata.inLock(GroupMetadata.scala:227)
        na kafka.coordinator.group.GroupCoordinator.tryCompleteJoin(GroupCoordinator.scala:1171)
        na kafka.coordinator.group.DelayedJoin.tryComplete(DelayedJoin.scala:38)
        at kafka.server.DelayedOperation.safeTryCompleteOrElse(DelayedOperation.scala:110)
        na kafka.server.DelayedOperationPurgatory.tryCompleteElseWatch(DelayedOperation.scala:234)
        at kafka.coordinator.group.GroupCoordinator.prepareRebalance(GroupCoordinator.scala:1144)
        at kafka.coordinator.group.GroupCoordinator.$anonfun$maybePrepareRebalance$1(GroupCoordinator.scala:1118)
        at scala.runtime.java8.JFunction0$mcV$sp.apply(JFunction0$mcV$sp.scala:18)
        at kafka.coordinator.group.GroupMetadata.inLock(GroupMetadata.scala:227)
        at kafka.coordinator.group.GroupCoordinator.maybePrepareRebalance(GroupCoordinator.scala:1117)
        na kafka.coordinator.group.GroupCoordinator.removeMemberAndUpdateGroup(GroupCoordinator.scala:1156)
        na kafka.coordinator.group.GroupCoordinator.$anonfun$handleLeaveGroup$3(GroupCoordinator.scala:498)
        na scala.collection.immutable.List.map(List.scala:246)
        at kafka.coordinator.group.GroupCoordinator.$anonfun$handleLeaveGroup$2(GroupCoordinator.scala:470)
        at scala.runtime.java8.JFunction0$mcV$sp.apply(JFunction0$mcV$sp.scala:18)
        at kafka.coordinator.group.GroupMetadata.inLock(GroupMetadata.scala:227)
        na kafka.coordinator.group.GroupCoordinator.handleLeaveGroup(GroupCoordinator.scala:467)
        at kafka.server.KafkaApis.handleLeaveGroupRequest(KafkaApis.scala:1659)
        at kafka.server.KafkaApis.handle(KafkaApis.scala:180)
        at kafka.server.KafkaRequestHandler.run(KafkaRequestHandler.scala:74)
        at java.lang.Thread.run(Thread.java:748)

Chyba způsobuje:Linux pravidelně čistí soubory v adresáři /tmp, adresář souborů Kafka je ve výchozím nastavení uložen/tmp/kafka-logscož způsobuje jeho pravidelné čištění, což vede k abnormálnímu provozu programu.

Pod CentOS 7 existují 3 systémové služby související s čištěním:

systemd-tmpfiles-setup.service :Create Volatile Files and Directories
systemd-tmpfiles-setup-dev.service:Create static device nodes in /dev
systemd-tmpfiles-clean.service :Čištění dočasných adresářů

Existují také 3 související profily, a to následující:

/etc/tmpfiles.d/*.conf
/run/tmpfiles.d/*.conf
/usr/lib/tmpfiles.d/*.conf

Použijte následující příkaz pro zobrazení logů souvisejících s tmpfiles:



TMP adresář v/usr/lib/tmpfiles.d/tmp.confKonfigurace souboru je znázorněna na následujícím obrázku:

# Tento soubor je součástí systemd.
#
# systemd je svobodný software; Můžete ji přešlecovat a/nebo upravovat
# podle podmínek licence GNU Lesser General Public License, jak ji publikoval
# Nadace svobodného softwaru; buď verze 2.1 licence, nebo
# (dle vašeho přání) Jakákoli pozdější verze.

# Podrobnosti viz tmpfiles.d(5)

# Vymazejte tmp adresáře zvlášť, aby se lépe přepsávaly
V /tmp 1777 kořen 10d
v /var/tmp 1777 kořenový kořen 30d

# Vyjmout mountpointy jmenného prostoru vytvořené pomocí PrivateTmp=ano
x /tmp/systemd-private-%b-*
X /tmp/systemd-private-%b-*/tmp
x /var/tmp/systemd-private-%b-*
X /var/tmp/systemd-private-%b-*/tmp



Řešení 1

Upravte konfigurační soubor Kafky /config/server.properties tak, abyste upravili konfiguraci log.dirs, například:



Řešení 2

Přidejte adresář výluček a upravte soubor: /usr/lib/tmpfiles.d/tmp.conf


(Konec)




Předchozí:CentOS 7 instaluje runtime prostředí s ASP.NET Core 3.1
Další:Velení NSLOOKUP krátce představeno
Zveřejněno 22.09.2021 19:51:17 |
Přijďte se znovu učit。。。。。
 Pronajímatel| Zveřejněno 07.02.2022 14:31:46 |
Podívejte se na příkaz k deníku úklidu:


2. února 18:18:09 centos7-itsvse systemd[1]: Začínáme s úklidem dočasných adresářů...
2. února 18:18:09 centos7-itsvse systemd[1]: Zahájeno čištění dočasných adresářů.
3. února 18:19:09 centos7-itsvse systemd[1]: Začínáme s úklidem dočasných adresářů...
3. února 18:19:09 centos7-itsvse systemd[1]: Zahájeno čištění dočasných adresářů.
04. února 18:20:09 centos7-itsvse systemd[1]: Začínáme s úklidem dočasných adresářů...
4. února 18:20:09 centos7-itsvse systemd[1]: Zahájeno čištění dočasných adresářů.
5. února 18:21:09 centos7-itsvse systemd[1]: Začínáme s úklidem dočasných adresářů...
5. února 18:21:09 centos7-itsvse systemd[1]: Zahájeno čištění dočasných adresářů.
6. února 18:22:09 centos7-itsvse systemd[1]: Začínáme s úklidem dočasných adresářů...
6. února 18:22:09 centos7-itssve systemd[1]: Zahájeno čištění dočasných adresářů.
Zřeknutí se:
Veškerý software, programovací materiály nebo články publikované organizací Code Farmer Network slouží pouze k učení a výzkumu; Výše uvedený obsah nesmí být používán pro komerční ani nelegální účely, jinak nesou všechny důsledky uživatelé. Informace na tomto webu pocházejí z internetu a spory o autorská práva s tímto webem nesouvisí. Musíte výše uvedený obsah ze svého počítače zcela smazat do 24 hodin od stažení. Pokud se vám program líbí, podporujte prosím originální software, kupte si registraci a získejte lepší skutečné služby. Pokud dojde k jakémukoli porušení, kontaktujte nás prosím e-mailem.

Mail To:help@itsvse.com