본문 바로가기

빅데이터/하둡

Spark 개발시, main/resources 패키지에 hdfs-site.xml, core-site.xml 등을 넣는 이유

 

main/resources 디렉터리는 Apache Maven이나 SBT와 같은 빌드 도구를 사용하는 프로젝트에서 애플리케이션의 리소스 파일을 저장하는 표준 위치이다. 이 디렉터리에 배치된 파일들은 컴파일된 클래스와 함께 JAR 파일에 포함되며, 런타임에 애플리케이션에서 사용될 수 있다. 

HDFS 설정 파일 (hdfs-site.xml)

hdfs-site.xml 파일은 Hadoop 분산 파일 시스템(HDFS)의 설정을 정의한다. 이 파일에는 HDFS 클러스터의 동작을 제어하는 다양한 구성 옵션이 포함되어 있다. 예를 들어, 네임노드의 주소, 데이터 디렉터리, 복제 수 등의 정보가 포함될 수 있다.

main/resources 디렉터리에 배치하는 이유

main/resources는 애플리케이션의 모든 리소스 파일(예: 설정 파일, 정적 파일, 템플릿 등)을 저장하는 표준 위치다. 이러한 파일들은 컴파일된 애플리케이션의 클래스패스에 자동으로 포함되므로, 애플리케이션 코드에서 손쉽게 접근할 수 있다. Spark 애플리케이션이 실행될 때, main/resources에 있는 hdfs-site.xml 파일이 자동으로 클래스패스에 포함되므로, 별도의 설정 없이도 Spark 애플리케이션이 해당 파일을 로드하고 사용할 수 있다.

 

반응형