首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 其他教程 > 开源软件 >

Hadoop深入学习:再谈MapReduce功课提交和执行

2013-07-08 
Hadoop深入学习:再谈MapReduce作业提交和执行在本章中,我们将来重温一下和Hadoop的作业提交和执行流程。看

Hadoop深入学习:再谈MapReduce作业提交和执行
        在本章中,我们将来重温一下和Hadoop的作业提交和执行流程。
        看下图,我们来比较详细的学习一下该流程:


        1、 编写MapReduce job程序,通过命令行向Hadoop提交并开始执行作业:引用
        # hadoop  fs  -put  xxx.jar  /path      //或者使用hadoop  fs  -copyFromLocal  xxx.jar  /path 向copy文件
        # chown -R hadoop xxx.jar
        # chgrp -R hadoop xxx.jar
        # hadoop jar xxx.jar package.ClassName input_path output_path
       
        客户端实际上是通过JobClient的submitJobInternal提交作业的。
        2、本次运行,NameNode节点会首先检查用户权限和提交参数是否正确,通过后生成一个job,于是JobClient向JobTracker申请一个JobID用于标识这个job;
        3、JobClient将Job所需要的资源提交到HDFS中一个以JobID命名的目录中,这些资源包括Jar包、配置文件、InputSplit元数据信息等;
        4、JobClient向JobTracker提交这个Job;
        5、JobTracker初始化这个Job;
        6、JobTracker通过JobID从HDFS获取这个Job的Split等信息;
        7、JobTracker通过heartbeat心跳回复给TaskNode节点分配Map Task和Reduce Task;
        8、TaskNode会根据分配给自己的任务到HDFS中获取相关的资源;
        9、TaskNode启动分配给自己的任务;
        10、开始执行Mapper或Reducer Task。

       

热点排行