Debian Hadoop 日志如何查看

Debian Hadoop 日志如何查看

本文介紹如何在debian系統(tǒng)中高效查看hadoop日志。Hadoop的日志聚合功能將各個節(jié)點的日志集中存儲,方便管理。以下步驟將指導您如何查看這些日志:

第一步:確保日志聚合已啟用

首先,確認Hadoop集群所有節(jié)點都啟用了日志聚合。這通常在yarn-site.xml配置文件中配置:

<property>   <name>yarn.log-aggregation-enable</name>   <value>true</value> </property> <property>   <name>yarn.log-aggregation.retain-seconds</name>   <value>172800</value> </property> <property>   <name>yarn.nodemanager.remote-app-log-dir</name>   <value>/tmp/logs</value> </property> <property>   <name>yarn.nodemanager.remote-app-log-dir-suffix</name>   <value>logs</value> </property> <property>   <name>yarn.log.server.url</name>   <value>http://hadoop-node0:19888/jobhistory/logs</value> </property>

第二步:通過Web ui訪問日志

日志聚合后,您可以通過Hadoop的ResourceManager Web UI或Job History Server Web UI查看日志:

  • ResourceManager Web UI: 默認地址為http://:8088/cluster/apps/FINISHED。
  • Job History Server Web UI: 默認地址為http://:19888/jobhistory。

第三步:使用命令行工具查看日志

如果您需要直接從hdfs讀取日志,可以使用hdfs dfs命令:

hdfs dfs -cat /path/to/logs/*

第四步:使用文本編輯器查看日志

您可以使用任何文本編輯器(如nano、vim)打開并查看日志文件:

sudo nano /path/to/logs/application-<application-id>-container-<container-id>.log

請注意,日志文件路徑和URL可能因Hadoop集群配置而異。請參考您的Hadoop集群配置文件以獲取準確的路徑。

? 版權(quán)聲明
THE END
喜歡就支持一下吧
點贊9 分享