CDH Hadoop Cluster IP Change Setting

서비스를 운영하다 보면 hadoop host의 hostname 또는 IP 변경이 필요한 경우가 있기도합니다. CDH Manager 메뉴얼을 참고 후 Hostname/IP 변경 방법에 대해 메뉴얼을 작성하였습니다. 자세한건 Cloudera Manager Administration Guide문서를 참고 바랍니다.

Cloudera Manager Administration Guide 문서를 참고 바랍니다.

1. Cloudera manager Configuration / Cloudera manager db 백업 및 서비스 정지

1) http://hostname:7180/api/api_version/cm/deployment 설정 파일을 백업한다. 

1) api version 확인 방법 : http://hostname:7180/api/version

2) 모든 서비스 정지

1) Cloudera manager Service 정지

2) Hadoop Service 정지

3) 모든 호스트의 Cloudera Manager Agents 정지

4) Cloudera manager Server 정지

3) Cloudera manager DB Backup

1) Cloudera manager Server에 접속하여 패스워드 확인

cat /etc/cloudera-scm-server/db.properties

pg_dump -h localhost -p 7432 -U scm > scm_server_db_backup.$(date +%Y%m%d)

2) 모든 호스트 서비스 동작 여부 확인

Cloudera Manager Server DB를 제외한 모든 서비스는 정지되어 있어야 한다. (Hadoop Cluster, Cloudera Manager Agents)

2. 각 호스트 IP 변경 및 방화벽 설정

1) 각 호스트 아이피 변경

vim /etc/hosts

vim /etc/sysconfig/network-scripts/ifcfg-eth0

2) 각 호스트 방화벽 설정

1) 변경된 ip를 허용하도록 변경

3) 모든 서버 Reboot

4) DNS변경   

1) DNS 정방향/역방향 추가

3. Cloudera Manager Server 기동

1) 모든 호스트에서 Cloudera Server, Agent 자동 실행 ON

chkconfig cloudera-scm-agent on

chkconfig cloudera-scm-server on

chkconfig cloudera-scm-server-db on

2) Cloudera Manager Server DB , Cloudera manager Server, Agent 기동

3) 모든 호스트 Cloudera Agent 기동 

Cloudera manager 콘솔에 들어가면 각 호스트의 heartbeat 후 IP들이 변경 되어 있는 것을 확인 할 수 있다. 

4. Hadoop Cluster Service 기동

1) Hadoop Cluster 기동 후 테스트 

* NameNode HA 구성이 되어 있는 경우에 IP 변경시 추가 작업이 필요 할 수 있다.

- Cloudera manager Admnistartion Guide 참고

* IP 변경 후에 NameNode Block Pool ID는 변경 불가능하다.

- 추후 NameNode를 추가 하여 HDFS Federation시 Block Pool ID가 충돌 날 가능성이 있다.