기술_Ozone

Ofs (Hadoop 호환)

구일칠구 2022. 8. 8. 16:37

Hadoop 호환 파일 시스템 인터페이스를 통해 Ozone과 같은 스토리지 백엔드를 Hadoop 에코 시스템에 쉽게 통합 할 수 있습니다. 오존 파일 시스템은 Hadoop 호환 파일 시스템입니다.

현재 Ozone은 o3fs://및 ofs://. 사이의 가장 큰 차이점 o3fs하고 ofs, 즉 o3fs단지에서 지원하는 작업을 하나의 버킷 모든 볼륨과 버킷에서 OFS 지원 작업이 모든 볼륨 / 버킷의 전체보기를 제공한다.

볼륨과 마운트는 OFS 파일 시스템의 루트 수준에 있습니다. 버킷은 볼륨 아래에 자연스럽게 나열됩니다. 키와 디렉토리는 각 버킷 아래에 있습니다.

마운트의 경우 현재 임시 마운트 만 /tmp지원됩니다.

구성

core-site.xml에 다음 항목을 추가하십시오.

이렇게하면 모든 볼륨과 버킷이 기본 Hadoop 호환 파일 시스템이되고 ofs 파일 시스템 유형이 등록됩니다.

또한 ozone-filesystem-hadoop3.jar 파일을 클래스 경로에 추가해야합니다.

(참고 : Hadoop 2.x에서는 hadoop-ozone-filesystem-hadoop2-*.jar)

기본 파일 시스템이 설정되면 사용자는 ls, put, mkdir 등과 같은 명령을 실행할 수 있습니다. 예를 들면 다음과 같습니다.

특별 참고

fs.trash.interval의도적으로 설정 한 경우에도 휴지통을 사용할 수 없습니다 . (HDDS-3982)

o3fs와의 차이점

파일 생성

OFS는 루트 또는 볼륨 바로 아래에 키 (파일)를 만드는 것을 허용하지 않습니다. 사용자가이를 수행하려고하면 오류 메시지가 표시됩니다.

마운트

/ tmp /를 사용하는 레거시 Hadoop 애플리케이션과 호환되도록 FS의 루트에 특수 임시 마운트가 있습니다. 이 기능은 사용자 지정 마운트 경로를 지원하기 위해 기능에서 확장 될 수 있습니다.

중요 :이를 사용하려면 먼저 관리자 가 볼륨 tmp (볼륨 이름은 현재 하드 코딩 됨)를 만들고 ACL을 world ALL 액세스로 설정해야합니다. 즉:

이러한 명령 은 클러스터 당 한 번만 수행 하면됩니다 .

그런 다음 각 사용자 는 먼저 mkdir을 사용하여 자신의 임시 버킷을 한 번 초기화해야합니다.

재귀 목록

OFS는 재귀 볼륨, 버킷 및 키 목록을 지원합니다.

ie`ozone fs -ls -R ofs : // omservice /``는 ACL이 활성화 된 경우 사용자가 LIST 권한을 가진 모든 볼륨, 버킷 및 키를 반복적으로 나열합니다. ACL이 비활성화 된 경우 명령은 해당 클러스터의 모든 것을 말 그대로 나열합니다.

이 기능은 루프가 클라이언트에 있기 때문에 서버 성능을 저하시키지 않습니다. 클라이언트가 모든 정보를 얻기 위해 서버에 여러 요청을 보내는 것으로 생각하십시오.

'기술_Ozone' 카테고리의 다른 글

CSI 프로토콜  (0) 2022.08.09
자바 API  (0) 2022.08.08
S3 프로토콜  (0) 2022.08.08
관찰 가능성  (0) 2022.08.08
오존의 GDPR  (0) 2022.08.08