Databricks 기반 데이터 신뢰성 및 장애 복구 파이프라인 프로젝트
·
4. Project/ㅤ📝 개인 프로젝트
📌 3줄 요약 스키마·건수·중복·집계 정합성을 자동 검증하는 Bronze-Silver-Gold 데이터 신뢰성 파이프라인을 PaySim 636만 건 데이터로 구축했습니다. 장애 주입 → 건수 정합성 검증 → Backfill 재처리 → 복구 완료까지, 장애 대응 전 과정을 자동화했습니다. 복구 판단 기준을 "작업 완료"가 아닌 "재검증 통과"로 설계해, 실제 운영 환경에서도 신뢰할 수 있는 복구 프로세스를 구현했습니다. ">📌 3줄 요약스키마·건수·중복·집계 정합성을 자동 검증하는 Bronze-Silver-Gold 데이터 신뢰성 파이프라인을 PaySim 636만 건 데이터로 구축했습니다.장애 주입 → 건수 정합성 검증 → Back..