본문 바로가기

HaDoop...?

Hadoop 코딩 환경 설정 및 hadoop 컴파일 해보기

JDK와 ANT를 모두 설치하였다. 물론 Hadoop도 설치 된 상태이다.

혹시 설치를 못 했을 경우

http://gh0stsp1der.tistory.com/63 참고


1. hadoop 코딩 환경 설정.

ctags 와 cscope를 통해 hadoop에서 메소드가 어디로 호출되는지 알 수 있다.


ctags , cscope 설치

yum -y install ctags

yum -y install cscope

OK


소스 디렉토리로 이동

cd hadoop/src 


ctags -R

find ./ -name *.java > cscope.files

cscope (cscope 실행)


영어에 한계가 있기 때문에 


Find this C symbol : 에다가 DataNode 라고 쳐본다.

그럼 위에 file 명이랑 line 뜨면 성공.

아무거나 들어가서 메소드 부분에서 ctrl + ] 눌러서 해당 메소드로 이동되면 성공.

만약 cscope에서 검색이 안 될 경우 cscope.files 지우고 다시 생성.

만약 해당 메소드로 이동이 안 될 경우 tags 지우고 ctags -R 실행



2. hadoop 컴파일

ant가 설치 되었나요? 그렇다면 간단하다.

hadoop home에 가서 ant jar 이라고 명령.

블라블라.. 좀 걸린다..

src 밑에있는 소스들을 건들어서 문법 오류가 발생 하지 않는 이상 기본적으로 BUILD SUCCESSFUL 뜬다.

성공이 되면 build 라는 디렉토리가 보인다.

build 디렉토리 안에는 여러 디렉토리가 있고 hadoop-[version]-dev.core.jar 파일이 있다.

ant jar 로 실행 시켰기 때문에 소스를 컴파일하여 jar파일로 만들어 줌

jar 파일을 hadoop home에 있는 hadoop-[version]-core.jar 라는 파일명으로 이동한다.

이동하기 전에 hadoop은 hadoop-[version]-core.jar로 실행되기 때문에 혹시 모르니 백업한다,


그럼 실제 명령.

현재 디렉토리 위치

pwd

/usr/local/hadoop


mkdir backup

mv hadoop-0.20.2-core.jar backup/

mv build/hadoop-0.20.3-dev-core.jar ./hadoop-0.20.3-core.jar (한번 컴파일을 했기때문에 version이 2에서 3으로 바뀜)

ls

CHANGES.txt  README.txt  build      conf     hadoop-0.20.2-ant.jar       hadoop-0.20.2-tools.jar  ivy.xml      src

LICENSE.txt  backup      build.xml  contrib  hadoop-0.20.2-examples.jar  hadoop-0.20.3-core.jar   lib          webapps

NOTICE.txt   bin         c++        docs     hadoop-0.20.2-test.jar      ivy                      librecordio

(빨간 core.jar이 보이면 성공 backup 디렉토리에는 맨 초기 버전의 core.jar이 백업되어 있다.)


실행

start-dfs.sh 

잘 실행 되면 굿굿.


p.s : system.out.print()는 logs 디렉토리 안에서 .log 파일이 아닌 .out 파일에 찍힌다.

DataNode.java 생성자 부분에서 hello 찍어보고 datanode 실행 시키면 .out 파일에 hello가 보인다.

p.s2 : cscope 사용법 = http://holuyaa.com/holu/55

'HaDoop...?' 카테고리의 다른 글

HADOOP 프로그래밍!  (0) 2012.07.10
INFO org.apache.hadoop.ipc.RPC: Server at namenode1/(IP):(port) not available yet, Zzzzz...  (3) 2012.07.04
JDK, ANT 설치  (0) 2012.06.29
hadoop test중 문제점  (0) 2012.05.24
hadoop 실습 examples  (1) 2012.05.03