Databricks 기반 데이터 신뢰성 및 장애 복구 파이프라인 프로젝트
·
4. Project/ㅤ📝 개인 프로젝트
📌 3줄 요약 스키마·건수·중복·집계 정합성을 자동 검증하는 Bronze-Silver-Gold 데이터 신뢰성 파이프라인을 PaySim 636만 건 데이터로 구축했습니다. 장애 주입 → 건수 정합성 검증 → Backfill 재처리 → 복구 완료까지, 장애 대응 전 과정을 자동화했습니다. 복구 판단 기준을 "작업 완료"가 아닌 "재검증 통과"로 설계해, 실제 운영 환경에서도 신뢰할 수 있는 복구 프로세스를 구현했습니다. ">📌 3줄 요약스키마·건수·중복·집계 정합성을 자동 검증하는 Bronze-Silver-Gold 데이터 신뢰성 파이프라인을 PaySim 636만 건 데이터로 구축했습니다.장애 주입 → 건수 정합성 검증 → Back..
AI 시대의 DB관리자의 방향성
·
2. DB, DBA/ㅤ📝 운영, 모니터링
"관리자(Administrator)"에서 "설계자/거버넌스 담당자"로..>> AI 시대에 데이터 신뢰성을 보증할 수 있는 사람이 되어야 한다.데이터 모델링의 비즈니스 맥락 이해데이터 품질/정합성에 대한 책임 소재 판단거버넌스, 접근 통제, 컴플라이언스 설계 ① 데이터 신뢰성 엔지니어링 (Data Reliability Engineering)Data Contract, Great Expectations/DLT Expectations 같은 품질 게이트 설계Data Lineage 추적 (AI가 어떤 데이터를 근거로 판단했는지 역추적 가능해야 함)SLO/SLA 기반 데이터 품질 지표 정의 ② Text-to-SQL / RAG 시대의 "스키마 설계"컬럼/테이블 네이밍, 주석, 메타데이터 관리(Data Catalog)의..
튜닝에 도움 되는 21가지 규칙
·
2. DB, DBA/ㅤ📝 튜닝, 트러블슈팅
https://m.blog.naver.com/banhong/223322657793 sql 튜닝 / 튜닝에 도움 되는 21가지 규칙 / 튜닝 가이드 / 더 빠른 데이터베이스 쿼리데이터 베이스의 데이터들을 효율적으로 관리하려면 최적화된 쿼리가 필수적일 것이다. 데이터 베이스의 효...blog.naver.com
장애 대응 프로세스 정리
·
2. DB, DBA/ㅤ📝 튜닝, 트러블슈팅
장애 대응 순서1. 탐지2. 영향도 판단3. 긴급 조치4. 원인 분석5. 후속 대응 및 재발 방지 장애 상황에서 가장 흔한 실수는 원인을 완전히 찾으려다가 복구 시점을 놓치는 것이다. 1단계 - 탐지: 모니터링 알람이 1분 내 발생했나, 슬랙에 자동 탐지 또는 통보 되었는가? - 임계치 기반 알람 (CPU, 블로킹 세션 수, 로그 사용률, replication lag)- 이상 탐지 (평소 대비 쿼리 응답시간 급증, 커넥션 수 급증)- Heartbeat/synthetic query (더미 쿼리로 응답성 체크) 2단계 - 영향도 판단: 실제 서비스 영향을 확인하여, 심각도를 분류한다. 커뮤니케이션 (등급 무관 공통)- 상태 업데이트는 일정 간격으로 선제적으로 (조용히 있으면 "방치"로 보임)- "원인 모름..
Data Quality 를 위한 도구 비교하기
·
3. Data Engineering/ㅤ📙 데이터 아키텍처
보호되어 있는 글입니다.
Text to SQL
·
1. AI
보호되어 있는 글입니다.