목록프로그래밍/하둡 (3)
메모장
하둡 설치가 되었다고 보고 WordCount 테스트 로컬호스트 접속$ ssh localhost yarn, hdfs실행$ start-all.sh wordcount구글링을 할 때 어떤 페이지는 하위버전이여서 bin/hadoop-examples-*.*.*jar로 제공하고 있다고 하고어떤 페이지는 직접 wordcount를 복붙으로 소스를 해야해서 귀찮고 헷갈렸다.좀 더 찾아보니 하둡 2.7.3 버전일 경우 hadoop-mapreduce-examples-2.7.3.jar파일에 wordcount.class가 있다.(아마 하둡2.*.*부터 위치가 변경된 것 같다) jar 파일 위치hadoop-2.7.3/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar 하둡 디렉..
로컬호스트 접속ssh localhost hdfs, yarn실행start-all.sh metastore 실행nohup hive --service metastore & hiveserver2 실행 nohup hiveserver2 & 프로세스 확인jps결과창 - NameNode - SecondaryNameNode - Jps - ResourceManager - DataNode - RunJar - RunJar beeline 으로 접속beeline!connect jdbc:hive2://localhost:10000 hive hivedev
우분투 16.04에서 하둡2.7.3 설치 hadoop-2.7.3.tar.gz 파일을 다운로드 받는다. .bash_profile에 export정보 저장 # javaexport JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64 # Hadoopexport HADOOP_HOME=~/dev/hadoop-2.7.3export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbinexport HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/nativeexport HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib/native source .bash_profile 모드 설정- 독립모드(Stan..