中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
鲲鹏小智

设置运行日志保存到本地

机器算法运行时的日志默认回显到客户端界面,不储存在文件中,可以通过引入自定义的log4j.properties将日志保存到本地。

  1. 创建自定义的log4j.properties配置如下:
     1
     2
     3
     4
     5
     6
     7
     8
     9
    10
    11
    12
    13
    14
    15
    # 设置全局默认的日志等级和输出链路
    log4j.rootLogger = INFO,ROLLFILE
    
    # 定义输出链路
    log4j.addivity.org.apache=true
    log4j.appender.ROLLFILE=org.apache.log4j.RollingFileAppender  
    log4j.appender.ROLLFILE.Threshold=INFO
    # 日志输出路径,可自定义,如:/home/test/boostkit/  
    log4j.appender.ROLLFILE.File=/home/test/boostkit/spark_algorithm.log  
    log4j.appender.ROLLFILE.Append=true
    # 设置日志回滚每个日志的大小,
    log4j.appender.ROLLFILE.MaxFileSize=200MB 
    # 设置日志回滚最大备份文件个数,最大为11个
    log4j.appender.ROLLFILE.MaxBackupIndex=11
    log4j.appender.ROLLFILE.layout=org.apache.log4j.PatternLayout
    

    log4j.properties配置中的log4j.appender.ROLLFILE.MaxFileSize和log4j.appender.ROLLFILE.MaxBackupIndex两个参数可以根据日志量的大小和安全审计要求自行调节。

  2. 将自定义log4j.properties放在与提交任务的shell脚本相同目录下,如“/home/test/boostkit/”
  3. 修改提交任务的shell脚本,在spark-submit添加如下配置。
    1
    --driver-java-options "-Dlog4j.configuration=file:./log4j.properties" \