[네트워크/보안] 사칭 메일 원천 차단: DMARC 정책 설정, 도메인 정렬(Alignment) 검증 및 rua 리포트 분석 완벽 가이드

지난 [SPF 발신 IP 검증]과 [DKIM 비대칭키 전자서명]을 통해 개별 인증 체계를 도메인 네임서버에 배포했습니다.

하지만 많은 엔지니어들이 여기서 세팅을 멈춥니다. SPF와 DKIM만 단독으로 구축해 두면 치명적인 보안 구멍이 남습니다. 공격자가 수신자가 보게 되는 발신자 주소(From:)를 위조하더라도, “인증에 실패한 메일을 수신 서버가 어떻게 처리할 것인지”에 대한 도메인 소유자의 통제권이 전혀 없기 때문입니다.

이번 포스팅에서는SPF와 DKIM을 총괄 지휘하는 관제탑인 DMARC(Domain-based Message Authentication, Reporting & Conformance)의 실전 설정법을 다룹니다.

헤더 정렬(Alignment)의 엄격한 판정 원리, 비즈니스 리스크 없는 단계별 정책 전환(p=none > quarantine > reject), DNS TXT 레코드 배포, 그리고 수신 메일 서버들이 매일 보내오는 rua 집계 리포트 해석법을 체계적으로 정리해 드립니다.

1. DMARC의 핵심 역할: “SPF·DKIM 검증의 컨트롤 타워”

수신 메일 서버는 SPF와 DKIM 검증을 마친 뒤, DMARC 레코드를 읽고 다음 두 가지 핵심 질문을 던집니다.

1. 도메인 정렬(Alignment): 
   "실제 사용자가 보게 되는 From: 주소의 도메인이 
    SPF 또는 DKIM에서 성공(Pass)한 도메인과 일치하는가?"

2. 정책 집행(Enforcement): 
   "정렬이나 인증에 실패했다면, 
    도메인 소유자가 선언한 정책(p=...)에 따라 격리할까, 완전히 버릴까?"

즉, DMARC가 없으면 SPF와 DKIM은 단순한 ‘참고용 지표’로 전락하지만, DMARC가 선언되는 순간 수신 메일 서버는 도메인 소유자의 강제 지침에 따라 위조 메일을 합법적으로 폐기할 수 있게 됩니다.

2. DMARC의 승패를 가르는 핵심: ‘도메인 정렬(Alignment)’

DMARC 실패의 90% 이상은 SPF나 DKIM 키 오류가 아니라 도메인 불일치(Alignment Failure)에서 발생합니다.

이메일에는 기술적인 반송 주소인 Envelope From (Return-Path)과 사용자의 화면에 노출되는 Header From (From:)이 별개로 존재합니다.

검증 구분SPF 정렬 (Alignment)DKIM 정렬 (Alignment)
기준 헤더 (보이는 발신자)Header From
(From: [email protected])
Header From
(From: [email protected])
대조 대상 (실제 인증 도메인)Return-Path
(Envelope From 도메인)
DKIM-Signature
(서명 태그 d= 도메인)
정렬 판정 기준두 도메인이 일치하는가?두 도메인이 일치하는가?

정렬 모드 (Relaxed vs Strict)

  • Relaxed 모드 (aspf=r, adkim=r / 기본값): 조직 도메인(루트 도메인)만 같으면 서브도메인이 달라도 통과시킵니다.
  • Strict 모드 (aspf=s, adkim=s): FQDN(전체 도메인)이 100% 철자 하나까지 완벽히 일치해야만 통과시킵니다.
    • 실무에서는 유연성을 위해 대부분 기본값인 Relaxed(r)를 유지합니다.

3. DMARC 정책(p=) 3단계 전환 로드맵

DMARC를 처음부터 가장 엄격한 p=reject로 배포하면, 미처 파악하지 못한 사내 ERP 알림, 그룹웨어 연동 메일, 외부 CRM 뉴스레터 등이 스팸 처리되거나 반송되어 대규모 메일 유실 장애가 발생합니다.

반드시 아래의 3단계 전환 프로세스를 거쳐야 합니다.

단계적용 정책 태그처리 방식 및 목적권장 기간 및 조치
1단계
(모니터링)
p=none인증 실패 메일 정상 통과 허용,
rua 통계 리포트만 수집
2~4주
누락된 사내외 발송처 발굴 및 SPF/DKIM 보완
2단계
(부분 격리)
p=quarantine; pct=50
(점진적으로 pct=100 상향)
실패 메일의 50%를 상대방 스팸/정크함으로 강제 격리1~2주
정상 업무 메일의 오탐(스팸행) 여부 집중 검증
3단계
(완전 차단)
p=reject; pct=100인증 실패 사칭 메일을 수신 서버단에서 즉시 거부 및 반송상시 적용
도메인 사칭 100% 원천 차단 최고 보안 유지
  1. 1단계 (p=none) : 정책을 강제하지 않고 오직 데이터 수집용 리포트(rua)만 받습니다. 정상적인 내부 발송 시스템 중 SPF나 DKIM이 빠진 곳이 없는지 찾아내는 정찰 기간입니다.
  2. 2단계 (p=quarantine) : 인증에 실패한 위조 메일을 상대방의 ‘스팸/정크 메일함’으로 강제 격리시킵니다.
  3. 3단계 (p=reject) : 인증에 실패한 메일을 수신 서버가 문전박대하여 즉시 연결을 끊고 반송(Drop)시킵니다. 도메인 피싱 위협을 100% 차단하는 최종 목표 상태입니다.

4. DMARC DNS 레코드 실전 작성 및 배포

네임서버(Cloudflare, Route 53, 가비아 등)에서 TXT 레코드 1건을 추가합니다.

① 1단계: 초기 모니터링 권장 레코드

  • 타입 (Type) : TXT
  • 호스트 이름 (Name) : _dmarc (또는 _dmarc.yourdomain.com)
  • 값 (Value / Content) :Plaintextv=DMARC1; p=none; rua=mailto:[email protected]; sp=none; aspf=r; adkim=r

② 2단계: 격리 및 강화 레코드

  • 값 (Value / Content) :Plaintextv=DMARC1; p=quarantine; pct=100; rua=mailto:[email protected]; sp=quarantine

③ 3단계: 최종 최고 보안 등급 레코드

  • 값 (Value / Content) :Plaintextv=DMARC1; p=reject; rua=mailto:[email protected]; sp=reject; pct=100
주요 태그 문법 총정리
  • v=DMARC1 : 프로토콜 버전 (반드시 대문자)
  • p= : 루트 도메인 적용 정책 (none, quarantine, reject)
  • sp= : 서브도메인에 적용할 정책 (지정하지 않으면 p 정책 상속)
  • rua=mailto:... : 집계 리포트(Aggregate Report)를 수신할 이메일 주소
  • pct=100 : 정책을 적용할 메일의 백분율 (기본값 100)

5. 매일 들어오는 rua 집계 리포트(XML) 분석법

DMARC를 적용하고 나면 Gmail, Yahoo, Microsoft 등의 메일 수신 서버들이 매일 1회씩 지정된 rua 이메일로 대량의 압축된 XML 리포트(.zip 또는 .gz)를 보내옵니다.

XML 원본을 직접 열어보면 다음과 같은 핵심 노드가 포함되어 있습니다:

XML

<record>
  <row>
    <!-- 실제 발신한 서버의 공인 IP -->
    <source_ip>209.85.220.41</source_ip>
    <count>15</count>
    <policy_evaluated>
      <disposition>none</disposition>
      <dkim>pass</dkim>
      <spf>pass</spf>
    </policy_evaluated>
  </row>
  <identifiers>
    <!-- 사용자가 본 발신자 주소 -->
    <header_from>yourdomain.com</header_from>
  </identifiers>
  <auth_results>
    <dkim><domain>yourdomain.com</domain><result>pass</result></dkim>
    <spf><domain>yourdomain.com</domain><result>pass</result></spf>
  </auth_results>
</record>

실무 분석 요령

  • count : 해당 IP에서 발송된 메일 건수
  • source_ip : 메일을 발송한 서버의 공인 IP 를 Whois 조회를 통해 사내 시스템인지, 위조 스팸 발신자인지 식별
  • spf / dkim result : 통과 여부 확인

💡 리포트 분석 팁 :

매일 쏟아지는 수십 통의 XML 파일을 메모장으로 직접 읽는 것은 불가능에 가깝습니다. DMARC 리포트 전문 파싱 무료 도구를 활용하시는 것을 권장합니다:

  • Postmark DMARC Weekly Digest : 이메일 주소만 등록하면 매주 깔끔한 통계 그래프 웹 리포트로 요약 발송.
  • DMARCly 또는 Valimail : 무료 플랜을 통해 발신 서버별 통과율과 사칭 시도 IP를 시각화 대시보드로 확인 가능.

6. 실무 엔지니어가 반드시 점검해야 할 트러블슈팅

  1. 외부 메일 릴레이 및 마케팅 툴(Stibee, Mailchimp) 누락
    • 사내 메일은 Google Workspace를 쓰는데, 마케팅 부서에서 외부 발송 툴을 별도로 쓰고 있다면 Header From은 회사 도메인인데 발송 IP/서명이 일치하지 않아 DMARC에서 차단됩니다.
    • 외부 툴 관리자 설정에서 도메인 인증(CNAME 매핑 등)을 반드시 마쳐야 합니다.
  2. rua 메일함 용량 폭주
    • 대량 메일을 발송하는 도메인은 하루에도 수십~수백 개의 리포트가 인입됩니다. 일반 업무용 개인 메일 주소 대신 [email protected]처럼 전용 계정을 파서 수신하거나, 리포트 분석 서비스 전용 인제스트 주소를 넣어야 업무 메일함이 마비되지 않습니다.
  3. 호스트명 오타 (_dmarc)
    • 네임서버 등록 시 언더바(_)를 빠뜨리고 dmarc.yourdomain.com으로 등록하여 인식이 안 되는 경우가 매우 흔합니다. 항상 dig TXT _dmarc.yourdomain.com으로 질의해 점검하세요.
SPFDKIMDMARC
발신 IP 화이트리스트로
1차 사칭 차단
RSA 전자서명 기반
본문 위·변조 방어
도메인 정렬 확인 및
사칭 메일 최종 폐기
TXT @
공인 IP 화이트리스트 대조
TXT [selector]._domainkey
비대칭키 무결성 검증
TXT _dmarc
none / quarantine / reject 정책 집행

구글과 야후, MS 등 글로벌 대기업의 강화된 보안 표준은 도메인 인증을 도입한 기업에게 높은 도메인 신뢰도(Reputation)와 압도적인 메일 수신 성공률(Inbox Placement)을 보장합니다.

최근 글로벌 대기업에서 보안 강화의 일환으로 위와 같은 설정을 하지 않을 시 메일 거부가 되는 케이스가 있으니, 기업 메일 발송이 거부되는 경우가 존재한다면 위 설정들을 적용하시기 바랍니다.

코멘트

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다