中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助

设置运行日志保存到本地

算法包运行时的日志默认回显到客户端界面,不储存在文件中,可以通过引入自定义的log4j.properties将日志保存到本地。

  1. 创建自定义的log4j.properties配置如下:
    # 设置全局默认的日志等级和输出链路
    log4j.rootLogger = INFO,ROLLFILE
    # 定义输出链路
    log4j.addivity.org.apache=true
    log4j.appender.ROLLFILE=org.apache.log4j.RollingFileAppender  log4j.appender.ROLLFILE.Threshold=INFO
    # 日志输出路径,可自定义,如:/home/test/sophon/
    log4j.appender.ROLLFILE.File=/home/test/sophon/spark_algorithm.log  log4j.appender.ROLLFILE.Append=true
    # 设置日志回滚每个日志的大小,
    log4j.appender.ROLLFILE.MaxFileSize=200MB
    # 设置日志回滚 大备份文件个数, 大为11个
    log4j.appender.ROLLFILE.MaxBackupIndex=11
    log4j.appender.ROLLFILE.layout=org.apache.log4j.PatternLayout

    log4j.properties配置中的log4j.appender.ROLLFILE.MaxFileSize和log4j.appender.ROLLFILE.MaxBackupIndex两个参数可以根据日志量的大小和安全审计要求自行调节。

  2. 将自定义log4j.properties放在与提交任务的shell脚本相同目录下,如“/home/test/ sophon/”
  3. 修改提交任务的shell脚本,在spark-submit添加如下配置。
    --driver-java-options "./log4j.properties" \