中文
注册
我要评分
文档获取效率
文档正确性
内容完整性
文档易理解
在线提单
论坛求助

获取图算法开发依赖JAR包

构建适配代码

图算法开源仓的代码是基于Spark 2.3.2和图算法开源patch组成,构建过程:

  1. 下载Spark 2.3.2源码zip包到“/opt/”目录并解压,得到Spark源码目录“/opt/ spark-2.3.2”。

    获取地址:https://github.com/apache/spark/archive/v2.3.2.zip

    wget https://github.com/apache/spark/archive/v2.3.2.zip unzip v2.3.2.zip
  2. “/opt/”目录下建立工程Spark-graph-algo-lib及相关目录。
    cd /opt/
    mkdir -p Spark-graph-algo-lib/graph-accelerator/src/main/scala/org/apache/spark/graphx
  3. 按照表1的对应关系将Spark 2.3.2中的对应原文件复制到Spark-graph-algo-lib目录,表格左边两列是目标目录和文件名,右边两列的是需要移动的原文件目录及文件名,示例如下。

    操作命令示例:

    cp /opt/spark-2.3.2/graphx/src/main/scala/org/apache/spark/graphx/GraphOps.scala /opt/
    Spark-graph-algo-lib/graph-kernel/src/main/scala/org/apache/spark/graphx
    表1 Spark中需要放入Spark-graph-algo-lib工程的文件

    Spark-graph-algo-lib工程目录

    Spark-graphalgo-lib工程文件名

    Spark原文件所在目录

    Spark原文件名

    Spark-graph-algo-lib/ graph-accelerator/src/ main/scala/org/ apache/spark/graphx

    GraphOps.scala

    spark-2.3.2/ graphx/src/main/ scala/org/apache/ spark/graphx

    GraphOps.scala

  4. 下载并解压patch到“/opt/”目录下,得到完整的图分析算法加速库适配代码Sparkgraph-algo-lib。
    cd /opt/
    wget https://github.com/kunpengcompute/Spark-graph-algo-lib/releases/download/v1.2.0/
    patch.tar.gz
    tar -zxvf patch.tar.gz
    rm -f patch.tar.gz
    patch -p1 < patch