中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助
鲲鹏小智

配置特性

在启动OmniData算子下推前,必须完成Ceph/HDFS和OmniData算子下推Native化配置,而当集群中HDFS和ZooKeeper为安全模式时还需完成Kerberos配置。

场景一:访问Ceph/HDFS的配置(必须项)

OmniData算子下推服务启动时需要读取HDFS/Ceph的配置文件,用户需要上传配置文件hdfs-site.xml和core-site.xml(可在ceph1/hdfs1、ceph2/hdfs2、ceph3/hdfs3节点上进行搜索,在Hadoop安装目录下的“etc/hadoop/”中)到OmniData的“etc”目录下面。

表1所示,可以添加文件传输的操作,以Ceph为例,把本地路径的hdfs-site.xml传输至选中服务器(ceph1、ceph2、ceph3节点)的“/home/omm/omnidata-install/omnidata/etc/”路径下。core-site.xml的上传方式相同。

表1 任务1编辑参数内容

参数

内容

任务名称

传输配置文件

任务描述

选择所有卸载节点,传输配置文件

传输方向

从本地传至远端主机

本地路径

本地路径的hdfs-site.xml

远端路径

/home/omm/omnidata-install/omnidata/etc/

若访问Ceph,卸载节点(ceph1~ceph3)则需要准备多个依赖包:

  1. hdfs-ceph-3.2.0.jar和librgw_jni.so已经通过SmartKit上传到服务器,且确保会被HAF程序加载。
  2. 将任意引擎节点(agent1~agent3)上的密钥文件keyring拷贝到ceph1~ceph3上对应的相同目录下(默认路径:“/var/lib/ceph/radosgw/ceph-admin/keyring”)。
  3. 在ceph1~ceph3上注意keyring的权限:chmod -R 755 /var/lib/ceph;chmod 644 keyring。

场景二:OmniData算子下推Native化的配置(OmniData算子下推Native化必须项)

在卸载节点上添加如下配置到“/home/omm/omnidata-install/omnidata/etc/config.properties”中。

  1. 进入config.properties配置文件目录,编辑config.properties配置文件。
    1
    2
    cd /home/omm/omnidata-install/omnidata/etc
    vi config.properties
    
  2. “i”进入编辑模式,将以下内容添加到文件中。
    1
    2
    3
    operator.combine.enabled=true
    operator.lib.path=/opt/omni-operator/lib
    dynamic.lib.path=/usr/local/lib/HMPP
    
    其中,operator.lib.path为OmniOperator算子加速 lib目录的绝对路径。dynamic.lib.path为OmniOperator算子加速默认的动态库安装地址。

    只有在日志等级为DEBUG级别时,才能看到Native化日志记录。如想查看Native化日志,修改“/home/omm/omnidata-install/omnidata/etc/logback.xml”日志级别为DEBUG。如:

    1
    2
    3
    4
    <!-- L0G LEVEL -->
    <root level="DEBUG">
        <appender-ref ref="FILE" />
    </root>
    
  3. “Esc”键,输入:wq!,按“Enter”保存并退出编辑。

场景三:Kerberos配置(当集群中HDFS和ZooKeeper为安全模式时)

在卸载节点上添加如下配置到“/home/omm/omnidata-install/omnidata/etc/config.properties”中。同时将相关配置文件(krb5.conf、hdfs.keytab、client_jass.conf等)拷贝到“etc”目录下。

  1. 配置KERBEROS,并拷贝相关配置文件到指定目录下。
    1. 进入config.properties配置文件目录,编辑config.properties配置文件。
      1
      2
      cd /home/omm/omnidata-install/omnidata/etc
      vi config.properties
      
    2. “i”进入编辑模式,将以下内容添加到文件中。
      hdfs.authentication.type=KERBEROS
      hdfs.krb5.conf.path=/home/omm/omnidata-install/omnidata/etc/krb5.conf
      hdfs.krb5.keytab.path=/home/omm/omnidata-install/omnidata/etc/hdfs.keytab
      hdfs.krb5.principal=hdfs/server1@EXAMPLE.COM
    3. “Esc”键,输入:wq!,按“Enter”保存并退出编辑。
    4. 拷贝相关配置文件至指定目录。
      cp xxx/krb5.conf /home/omm/omnidata-install/omnidata/etc/
      cp xxx/hdfs.keytab /home/omm/omnidata-install/omnidata/etc/
  2. 配置安全的ZooKeeper连接。
    zookeeper.krb5.enabled=true
    zookeeper.java.security.auth.login.config=/home/omm/omnidata-install/omnidata/etc/client_jaas.conf
    zookeeper.krb5.conf=/home/omm/omnidata-install/omnidata/etc/krb5.conf
    cp xxx/client_jaas.conf /home/omm/omnidata-install/omnidata/etc/
    cp xxx/krb5.conf /home/omm/omnidata-install/omnidata/etc/
  3. 配置文件目录授权(omm为当前HAF安装用户,请根据实际情况修改)。
    chown omm /home/omm/omnidata-install/omnidata/etc/*
  • 上述配置中的斜体部分,需要根据用户集群环境上的实际路径进行修改。
  • 需要根据用户不同版本的zookeeper-xxx.jar包,去替换“/home/omm/omnidata-install/omnidata/lib”目录下原来的zookeeper-xxx.jar包。
搜索结果
找到“0”个结果

当前产品无相关内容

未找到相关内容,请尝试其他搜索词