기술_Kudu

Hive 메타 스토어 통합 활성화

구일칠구 2022. 7. 6. 04:43
  • Hive Metastore가 세분화 된 권한으로 구성된 경우 Kudu 관리자는 HMS에서 Kudu 용으로 생성 된 디렉터리에 액세스하고 수정할 수 있어야합니다. 예를 들어 usermod -aG hive kuduHMS 노드에서 실행하여 Kudu 관리자를 Hive 서비스 사용자 그룹에 추가하면 됩니다.
  • 알림 이벤트 리스너 및 Kudu HMS 플러그인을 포함하고 열 변경 및 삭제를 허용하고 알림에 전체 Thrift 개체를 추가하도록 Hive Metastore를 구성합니다. 의 HMS 구성에 다음 값을 추가합니다 hive-site.xml.
  • 소스에서 Kudu를 빌드 한 후 hms-plugin.jar빌드 디렉토리 (예 :) 아래에있는 build/release/bin것을 HMS 클래스 경로에 추가합니다.
  • HMS를 다시 시작하십시오.
  • Kudu 마스터에 대한 다음 구성 속성을 사용하여 Kudu에서 Hive Metastore 통합을 활성화합니다.

관리 도구

쿠두 명령 행 도구 제공 kudu hms list, kudu hms precheck, kudu hms check, 및 kudu hms fix관리자가 발견하고 업그레이드 과정에서 내부 쿠두 카탈로그 및 하이브 메타 스토어 카탈로그, 사이 픽스 메타 데이터 불일치가 아래 또는 쿠두 클러스터의 정상 작동 중에 설명 할 수 있도록.

kudu hms도구는 Kudu 관리자로 명령 줄에서 실행해야합니다. 마스터 주소의 전체 목록을 지정해야합니다.

$ sudo -u kudu kudu hms check master-name-1:7051,master-name-2:7051,master-name-3:7051

kudu hms list

kudu hms list도구는 Hive Metastore 카탈로그를 스캔하고 HMS 스토리지 핸들러에 표시된대로 Kudu 테이블에 대한 HMS 항목 (테이블 이름 및 유형 포함)을 나열합니다.

kudu hms precheck

kudu hms precheck도구는 Kudu 카탈로그를 스캔하고 이름이 대소 문자 만 다른 Kudu 테이블이 여러 개 있는지 확인하고 충돌하는 테이블 이름을 기록합니다.

kudu hms check

kudu hms check도구는 Kudu 및 Hive Metastore 카탈로그를 스캔하고 두 카탈로그가 Kudu 테이블이 존재하는지에 대해 동의하는지 확인합니다. 이 도구는 발견 된 불일치를 수정하는 방법을 제안합니다. 일반적으로 kudu hms fix도구 를 실행하는 것이 좋지만 일부 불일치는 Impala Shell을 사용하여 수정해야합니다.

kudu hms fix

kudu hms fix도구는 Kudu 및 HMS 카탈로그를 분석하고 예를 들어 아직없는 각 Kudu 테이블에 대해 HMS에 테이블 항목을 생성하여 자동으로 수정 가능한 문제를 해결하려고합니다. --dryrun옵션은 실제로 실행하는 대신 제안 된 수정 사항을 표시합니다. 자동 수정을 사용할 수없는 경우 수동 수정이 도움이 될 수있는 방법을 제안합니다.

'기술_Kudu' 카테고리의 다른 글

Apache Impala와 함께 Apache 사용  (0) 2022.07.06
기존 테이블 업그레이드  (0) 2022.07.06
함께 Hive 메타 스토어 사용  (0) 2022.07.06
마스터 구성  (0) 2022.07.05
Apache Must 구성  (0) 2022.07.05