[네트워크/보안] 방화벽을 뚫고 취약점을 찾아라: Nmap 패킷 단편화 우회 기법과 NSE 실전 보안 감사 완벽 가이드

지난 [기초편]에서는 Nmap의 3-Way Handshake 원리와 TCP SYN/Connect 스캔, 호스트 탐색, 그리고 Zenmap GUI를 활용한 포트 점검 기본기를 다뤘습니다.

하지만 실제 엔터프라이즈 환경이나 클라우드 인프라는 단순한 포트 스캔을 순순히 허용하지 않습니다. 경계선에 위치한 침입 탐지 시스템(IDS), 침입 방지 시스템(IPS), 차세대 방화벽(NGFW)은 비정상적인 대량 SYN 패킷이나 정형화된 Nmap 시그니처를 즉각 감지하고 패킷을 차단(filtered)하거나 점검자의 IP를 블랙리스트에 등록합니다.

이번 포스팅에서는 네트워크 보안 감사 및 모의 침투 테스트 실무에서 활용되는 방화벽 및 IDS/IPS 우회 테크닉, Nmap 스크립팅 엔진(NSE)을 이용한 취약점 진단, 그리고 스캔 결과 리포트 저장 및 자동화 파싱 노하우를 체계적으로 정리합니다.

1. 방화벽 및 IDS/IPS 우회(Evasion) 실전 테크닉

방화벽 탐지 회피의 핵심 원리는 “패킷의 시그니처를 쪼개거나, 출발지 정보를 위장하거나, 패킷 전송 간격을 불규칙하게 흐트러뜨리는 것”입니다.

(1) 패킷 단편화 (Fragmentation: -f, --mtu)

  • 동작 원리: TCP 헤더를 여러 개의 아주 작은 IP 조각(Fragment)으로 쪼개어 전송합니다.
  • 우회 메커니즘: 단순 패킷 필터링 방화벽은 분할된 패킷을 재조합(Reassembly)하지 못해 첫 번째 조각 뒤에 따라오는 포트 번호와 플래그를 검사하지 못하고 그대로 통과시킵니다.
  • 실전 옵션:
    • -f: 패킷을 8바이트 단위로 분할합니다. (-f -f 사용 시 16바이트로 분할)
    • --mtu <숫자>: 최대 전송 단위(MTU)를 직접 지정합니다. (단, 8의 배수여야 함. 예: --mtu 16, --mtu 32)

Bash

# TCP 헤더를 16바이트 단위로 쪼개어 방화벽 검사 우회 시도
nmap -sS -Pn -p 80,443 --mtu 16 192.168.1.100

(2) 미끼 IP 다중 분산 (Decoy Scan: -D)

  • 동작 원리: 실제 공격자(점검자)의 패킷 사이에 무작위로 위조된 수많은 가짜 IP(미끼)의 패킷을 섞어서 동시에 전송합니다.
  • 우회 메커니즘: 대상 서버와 IDS 장비의 시스템 로그에는 수십 대의 IP가 동시에 스캔을 시도한 것으로 기록되므로, 보안 분석관이 로그를 분석할 때 “어느 IP가 진짜 스캐너이고 어느 것이 미끼인지” 역추적하기 어렵게 만듭니다.
  • 실전 문법:
    • -D RND:5,ME: 무작위 미끼 IP 5개와 실제 내 IP(ME)를 뒤섞어 발송합니다.
    • -D 10.0.0.1,10.0.0.2,ME,10.0.0.3: 특정 IP 대역을 미끼로 직접 지정합니다.

Bash

# 미끼 IP 5개를 무작위 생성하여 로그 혼선 유도
nmap -sS -Pn -D RND:5,ME -p 22,80,443 192.168.1.100

(3) 신뢰받는 출발지 포트 위장 (--source-port, -g)

  • 동작 원리: 점검 패킷을 보낼 때 로컬 출발지 포트(Source Port)를 방화벽 인바운드 정책에서 예외 허용하는 포트로 고정합니다.
  • 우회 메커니즘: 오래되었거나 잘못 설정된 방화벽 룰셋 중에는 내부 클라이언트의 DNS 질의 응답(UDP 53), NTP 시간 동기화(UDP 123), 레거시 FTP 데이터 전송(TCP 20)에 대해 인바운드 트래픽을 무조건 패스하도록 허용해 둔 경우가 있습니다.

Bash

# DNS 서버의 응답 트래픽으로 위장하여 포트 53에서 패킷 발송
nmap -sS -Pn --source-port 53 -p 80,443,8080 192.168.1.100

(4) 유휴 호스트 기반 좀비 스캔 (Idle Zombie Scan: -sI)

  • 동작 원리: 네트워크 상에서 트래픽이 거의 없는 완전히 유휴 상태(Idle)인 제3의 장비(좀비 PC)의 IP 패킷 ID(IP ID) 증가 패턴을 이용합니다.
  • 우회 메커니즘: 점검자의 IP가 패킷 헤더에 단 1바이트도 노출되지 않으며, 대상 호스트에는 오직 좀비 호스트의 IP만 기록되는 완벽한 익명 스캔 기법입니다.

Bash

# 192.168.1.50 좀비 PC를 거쳐 실제 타깃 점검
nmap -Pn -sI 192.168.1.50:80 192.168.1.100

(5) 데이터 페이로드 변조 (--data-length)

  • 기본 Nmap 패킷은 페이로드가 비어 있거나 고유의 길이 패턴을 지닙니다. --data-length <바이트>를 부여하면 무작위 더미 데이터를 덧붙여 전송하므로, 시그니처 기반 IDS 탐지 룰을 피할 수 있습니다.

Bash

# 패킷 뒤에 24바이트의 랜덤 데이터를 붙여 전송
nmap -sS --data-length 24 -p 80,443 192.168.1.100

2. Nmap Scripting Engine (NSE) 실전 보안 감사

Nmap의 진정한 파워는 루아(Lua) 스크립트 기반의 확장 프레임워크인 NSE(Nmap Scripting Engine)에서 나옵니다. 단순 포트 개방 확인을 넘어 취약점 스캐너(Nessus, OpenVAS 등) 수준의 사전 감사를 수행할 수 있습니다.

(1) NSE 스크립트 8대 핵심 카테고리

카테고리특징 및 실무 목적대표 스크립트 예시
default속도가 빠르고 대상 서버에 무리를 주지 않는 표준 진단 (-sC)banner, ssl-cert, ssh-hostkey
vuln알려진 공개 취약점(CVE) 존재 여부 및 취약 버전 자동 대조vulners, ssl-heartbleed, smb-vuln-*
auth익명 접속, 기본 자격 증명(Default Credential) 점검ftp-anon, mysql-empty-password
safe서비스 장애나 비정상 크래시를 유발하지 않는 안전한 스크립트http-title, http-headers
discovery네트워크 디렉터리, 서브도메인, SNMP 정보 등 구조적 자산 식별http-enum, snmp-info, dns-brute
intrusive서비스 거부(DoS)나 대상 부하를 유발할 수 있는 공격적 스크립트http-slowloris, broadcast-*
exploit실제 취약점을 트리거하여 공격 가능성을 입증하는 모의침투용exploit 계열 스크립트
broadcast로컬 서브넷에 브로드캐스트 패킷을 날려 미인가 자산 전체 스캔broadcast-dhcp-discover

(2) 실무에서 가장 많이 쓰는 실전 NSE 명령어

① 알려진 CVE 취약점 자동 매핑 (vulners)

오픈소스 취약점 DB 엔진인 Vulners 스크립트를 적용하면, 서비스 배너에서 추출한 소프트웨어 버전을 바탕으로 관련 CVE 번호와 CVSS 위험도 점수, 익스플로잇 가능 여부를 한 번에 출력해 줍니다.

Bash

# 감지된 서비스 버전을 바탕으로 알려진 CVE 취약점 자동 출력
nmap -sV --script vulners -p 21,22,80,443,8080 192.168.1.100

② 취약점 카테고리 종합 전수 점검 (--script=vuln)

SMB(EternalBlue), SSL/TLS(Heartbleed, POODLE), RDP 관련 치명적 취약점을 일괄 진단합니다.

Bash

# 타깃 서버의 주요 공개 취약점 전수 진단
nmap -Pn --script vuln -p 80,443,445,3389 192.168.1.100

③ 웹 서버 숨겨진 관리 경로 및 설정 미흡 디렉터리 탐색 (http-enum)

웹 서버 내부의 노출된 관리자 페이지(/admin, /phpmyadmin), 백업 파일(.git, .env, backup.zip) 경로를 사전 기반으로 자동 딕셔너리 스캔합니다.

Bash

# 웹 애플리케이션의 중요 경로 노출 여부 진단
nmap -p 80,443 --script http-enum 192.168.1.100

④ SSL/TLS 인증서 만료 및 약한 암호화 스위트(Weak Cipher) 감사

만료된 SSL 인증서, 자체 서명(Self-Signed) 여부, 그리고 폐기 대상 암호화 규격(TLS 1.0/1.1, RC4, 3DES 등) 적용 여부를 점검합니다.

Bash

# 취약한 SSL 암호화 스위트 및 인증서 정보 진단
nmap -p 443 --script ssl-cert,ssl-enum-ciphers 192.168.1.100

⑤ 불필요한 기본 인증 허용 점검 (ftp-anon, smb-enum-shares)

인증 없이 누구나 접근 가능한 FTP 익명 로그인(anonymous)이나 공유 폴더를 식별합니다.

Bash

# 익명 FTP 및 인증 없는 SMB 공유 폴더 노출 점검
nmap -p 21,445 --script ftp-anon,smb-enum-shares 192.168.1.100

3. 결과 리포트 저장 및 자동화 파싱

대규모 인프라 감사에서는 터미널 화면을 보는 것보다, 스캔 결과를 구조화된 파일로 남겨 형상 관리 도구나 파이썬 스크립트로 전달하는 과정이 필수적입니다.

(1) 올인원 저장 포맷: -oA

  • -oN: 사람이 읽기 편한 일반 텍스트 포맷 (Normal)
  • -oX: 프로그램이 파싱하기 좋은 XML 포맷
  • -oG: grep 및 awk로 필터링하기 좋은 단일 라인 포맷 (Grepable)
  • -oA <파일명>: 위의 3가지 포맷을 단 하나의 명령어로 동시 생성합니다.

Bash

# 스캔 결과를 scan_report.nmap, scan_report.xml, scan_report.gnmap으로 일괄 생성
nmap -sS -sV -A -p- -T4 192.168.1.100 -oA scan_report

(2) Grepable 파일을 활용한 CLI 한 줄 필터링

-oA로 저장된 .gnmap 파일을 활용하면 수백 대의 스캔 결과 중 개방된 포트만 정제할 수 있습니다.

Bash

# 80번 포트가 열린 호스트 IP만 핀포인트 추출
cat scan_report.gnmap | grep "80/open" | awk '{print $2}'

# 모든 열려 있는(open) 포트 라인만 추출
grep -i "open" scan_report.gnmap

(3) XML 결과를 시각적 HTML 보안 보고서로 변환 (xsltproc)

Nmap 설치 시 함께 제공되는 XSL 스타일시트를 리눅스 표준 유틸리티인 xsltproc로 변환하면, 외부 웹 브라우저에서 바로 열람할 수 있는 반응형 HTML 보안 감사 리포트가 완성됩니다.

Bash

# XML 파일을 반응형 HTML 웹 리포트로 즉시 렌더링
xsltproc scan_report.xml -o scan_report.html

4. 실전 종합 원라인(One-Line) 명령어 모음

점검 시나리오권장 Nmap 실전 명령어
방화벽 뒤 웹서버 MTU 분할 스텔스 점검nmap -sS -Pn --mtu 16 --data-length 16 -p 80,443 <IP>
미끼 IP와 소스 포트 위장을 결합한 IDS 회피nmap -sS -Pn -D RND:5,ME -g 53 -p 22,80,443 <IP>
엔터프라이즈 서버 CVE 취약점 자동 감사nmap -sV --script vulners -p 22,80,443,8080 <IP> -oA cve_report
내부망 비인가 장비 및 전체 취약점 올인원 진단nmap -A -sC --script vuln -T4 192.168.1.0/24 -oA full_audit

5. 인프라 엔지니어를 위한 보안 컴플라이언스 준수 사항

Nmap은 시스템 진단과 취약점 분석에 필수적인 도구이지만, 사전 협의 및 공식적인 인가 권한이 없는 타인의 네트워크나 공인 IP 대역에 대해 단편화 스캔이나 NSE 공격성 스크립트를 실행하는 행위는 정보통신망 이용촉진 및 정보보호 등에 관한 법률 제48조(정보통신망 침해행위 등의 금지) 위반에 해당할 수 있습니다.

모든 보안 점검 및 모의 침투 스캔은 반드시 자체 사내 인프라, 테스트베드 환경, 또는 사전에 인가된 서면 승인을 획득한 시스템 대역 내에서만 안전하게 수행해야 합니다.

코멘트

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다