前言

最近在工作过程中接触一些Hive数据仓库中的表，这些表实际是从关系型数据库通过Sqoop抽到Hive的。在开发过程中对map任务的划分进行性能调优，发现mapreduce中关于FileInputFormat的参数调整都不起作用，最后发现这些老任务都是用旧版的mapreduce开发的，于是顺便研究下旧版mapreduce的任务划分策略。有关新版mapreduce的任务划分策略，大家可以参考我之前的博文《》。

源码分析

根据《》一文的内容，我们知道map任务的划分关键在于FileInputFormat的getSplits方法的实现策略，现在我们来看看其源码：

public InputSplit[] getSplits(JobConf job, int numSplits)    throws IOException {    Stopwatch sw = new Stopwatch().start();    FileStatus[] files = listStatus(job);        // Save the number of input files for metrics/loadgen    job.setLong(NUM_INPUT_FILES, files.length);    long totalSize = 0;                           // compute total size    for (FileStatus file: files) {                // check we have valid files      if (file.isDirectory()) {        throw new IOException("Not a file: "+ file.getPath());      }      totalSize += file.getLen();    }    long goalSize = totalSize / (numSplits == 0 ? 1 : numSplits);    long minSize = Math.max(job.getLong(org.apache.hadoop.mapreduce.lib.input.      FileInputFormat.SPLIT_MINSIZE, 1), minSplitSize);    // generate splits    ArrayList
     
       splits = new ArrayList
      
       (numSplits);    NetworkTopology clusterMap = new NetworkTopology();    for (FileStatus file: files) {      Path path = file.getPath();      long length = file.getLen();      if (length != 0) {        FileSystem fs = path.getFileSystem(job);        BlockLocation[] blkLocations;        if (file instanceof LocatedFileStatus) {          blkLocations = ((LocatedFileStatus) file).getBlockLocations();        } else {          blkLocations = fs.getFileBlockLocations(file, 0, length);        }        if (isSplitable(fs, path)) {          long blockSize = file.getBlockSize();          long splitSize = computeSplitSize(goalSize, minSize, blockSize);          long bytesRemaining = length;          while (((double) bytesRemaining)/splitSize > SPLIT_SLOP) {            String[][] splitHosts = getSplitHostsAndCachedHosts(blkLocations,                length-bytesRemaining, splitSize, clusterMap);            splits.add(makeSplit(path, length-bytesRemaining, splitSize,                splitHosts[0], splitHosts[1]));            bytesRemaining -= splitSize;          }          if (bytesRemaining != 0) {            String[][] splitHosts = getSplitHostsAndCachedHosts(blkLocations, length                - bytesRemaining, bytesRemaining, clusterMap);            splits.add(makeSplit(path, length - bytesRemaining, bytesRemaining,                splitHosts[0], splitHosts[1]));          }        } else {          String[][] splitHosts = getSplitHostsAndCachedHosts(blkLocations,0,length,clusterMap);          splits.add(makeSplit(path, 0, length, splitHosts[0], splitHosts[1]));        }      } else {         //Create empty hosts array for zero length files        splits.add(makeSplit(path, 0, length, new String[0]));      }    }    sw.stop();    if (LOG.isDebugEnabled()) {      LOG.debug("Total # of splits generated by getSplits: " + splits.size()          + ", TimeTaken: " + sw.elapsedMillis());    }    return splits.toArray(new FileSplit[splits.size()]);  }  protected long computeSplitSize(long goalSize, long minSize,                                       long blockSize) {    return Math.max(minSize, Math.min(goalSize, blockSize));  }
      
     

1. 遍历当前作业的所有输入文件，然后将累积这些文件的字节数并保存到变量totalSize中；
2. 如果用户指定了mapreduce.job.maps参数，那么这个参数会被保存在入参numSplits中；
3. 用户想要通过numSplits控制map任务的数量，那么需求对totalSize进行平分，以便确定每个map任务划分的输入大小。这个计算很简单，即使用totalSize除以numSplits，最后得到的目标划分大小存储在变量goalSize中；
4. 常量SPLIT_MINSIZE实际是由参数mapreduce.input.fileinputformat.split.minsize来控制的，如果没有配置则默认是1。minSplitSize默认是1，切旧版FileIntputFormat没有设置此变量的地方。最后取SPLIT_MINSIZE和minSplitSize的最大值，并保存在变量minSize中；
5. 遍历当前作业的每个输入文件，计算每个输入文件，将被划分的任务数量，最后将每个文件划分的任务数量合并起来就是整个作业划分的任务数量。