정보보안기사

[정보보안기사(실기)] SECTION 05 네트워크 보안 프로토콜 - 가상 사설망, IPsec

tnvori 2026. 5. 26. 22:39

이 내용 n번 본 것 같아서 가볍게 읽었다

자주 가는 자취방. 꼬막, 냉제육, 묵사발, 빙수를 해주셨다. 꼬막은 내가 깜

1. 가상 사설망

  1. 개요
    • 공중망을 이용하여 사설망이 요구하는 서비스를 제공할 수 있도록 구축한 망
    • 낮은 비용으로 사설망 수준 서비스 제공
    • 내부 기밀 보호, 주소 및 라우터 체계의 비공개, 데이터 암호화, 사용자 인증, 사용자 접근 권한 제어 등
  2. 터널링 및 터널링 프로토콜
    • 터널링
      • 통신 구간에 외부 접근을 차단하기 위한 논리적인 파이프를 구성하는 기술
      • 기밀성, 무결성, 인증 등
    • 터널링 프로토콜
      • 터널의 설정, 유지 및 관리를 수행하는 프로토콜
      • 캡슐화와 역캡슐화
  3. VPN 프로토콜 계층별 분류
    • 2계층 VPN 프로토콜
      • PPTP
        • MS에서 제안한 프로토콜
        • 윈도우 운영체제에 기본 탑재되어 있어 설정 간편
        • PPP의 기능을 확장하여 캡슐화 및 인증을 수행하며, MS-CHAP 등 PPP 인증 프로토콜을 그대로 사용하여 사용자 아이디와 패스워드 기반 인증 지원
        • Point-to-Point 방식의 연결을 지향하며 클라이언트와 서버 간에 1:1 터널링을 형성하여 데이터 전송
      • L2F
        • 시스코에서 제안한 프로토콜
        • 다이얼업 액세스 서버(NAS) 단에서 터널링 수행
        • 하나의 터널에 여러 개의 가상 연결 지원
        • 주소 할당을 기업 내부망에서 직접 관리 가능
      • L2TP
        • PPTP와 LEF의 장점을 결합하여 IETF에서 표준화
        • 자체적인 암호화 기능이 없어 데이터 기밀성을 위해 주로 3계층 보안 프로토콜인 IPsec과 결합하여 사용
    • 2.5계층 VPN 프로토콜
      • MPLS
        • IETF에서 표준화
        • 패킷 헤더에 짧은 고정 길이의 라벨을 부착하여 가상 경로를 식별하고 데이터 전송
        • 2계층의 스위칭 속도와 3계층의 라우팅 기능 결합
        • 기업 간 통신 시 외부망과 격리된 고속의 가상 경로 제공
        • 2계층 헤더와 3계층 헤더 사이에 MPLS 라벨이 삽입되는 계층적 측성
    • 3계층 VPN 프로토콜
      • IPsec
        • IETF에서 표준화
        • 3계층에서 가상 사설망을 구현하기 위한 프로토콜
        • 종단 노드간 또는 터널 게이트웨이간 IP 패킷에 대한 기밀성, 무결성, 인증 등의 보안 서비스 제공
    • 4계층 VPN 프로토콜
      • SSL/TLS
        • 넷스케이프에서 최초 개발하고 IETF에서 표준화한 4계층 보안 표준 프로토콜
        • 클라이언트와 서버 환경에서 TCP 기반 애플리케이션의 종단간 기밀성, 무결성, 인증 등의 보안 서비스 제공
        • 웹 브라우저, 이메일, VoIP, 인스턴트 메신저 등 다양한 응용 서비스에서 보안 서비스 제공

2. 네트워크 계층 보안 — IPsec

  1. 개요
  2. 보안 서비스
    • 기밀성 보장
      • 대칭키 암호
      • ESP만 기밀성 제공
    • 비연결형 무결성 보장
      • MAC을 이용하여 IP 패킷별로 순서에 상관없이 위변조되지 않았음을 보장
      • IP 패킷별로 송신 측에서 생성한 인증 데이터를 수신 측에서 검증
    • 데이터 원천 인증 보장
      • MAC을 이용하여 IP 패킷이 올바른 송신처로부터 전송되었음을 보장
      • IP 패킷별로 송신 측에서 생성한 인증 데이터를 수신 측에서 검증함으로써 데이터 원천 인증 수행
    • 재전송 공격 방지 — 송신 측에서 IP 패킷마다 순서 번호를 부여하고, 수신 측에서는 해당 보안 연관(SA)에 순서 번호를 유지, 검증
    • 접근 제어
      • 보안 정책을 통해 송수신 IP 패킷에 대한 시스템 접근 제어
      • 허용, 폐기, 보호
    • 제한적 트래픽 흐름의 기밀성 보장 — ESP에 터널 모드를 적용하면 원본 IP 헤더는 암호화되어 게이트웨이와 종단 노드 구간의 트래픽 흐름 정보에 대한 기밀성 보장
  3. IPsec 동작 모드
    1. 전송 모드
      • 보호 범위
        • IP 패킷의 페이로드 보호 — IP 프로토콜의 상위 프로토콜 데이터
        • IP 패킷의 페이로드만 IPsec으로 캡슐화하여 원본 IP 헤더 유지
      • 보호 구간
        • 일반적으로 종단 노드 간
        • 종단 노드의 IPsec 기능 지원 필요
    2. 터널 모드
      • 보호 범위
        • IP 패킷 전체 보호
        • 보호 구간의 주소 정보를 담은 New IP 헤더 추가
      • 보호 구간
        • 터널 게이트웨이 간 — 물리적으로 떨어진 지점 사이에 다수의 사용자 호스트와 서버로 구성된 VPN 환경
        • 종단 노드와 터널 게이트웨이 간 — 외부 사용자 호스트와 지점 사이의 VPN 환경. 외부 사용자 호스트는 IPsec을 위한 VPN 클라이언트 프로그램 필요
  4. IPsec 세부 프로토콜
    1. AH
      • 개요
        • MAC을 이용하여 비연결형 무결성과 데이터 원천 인증 보장
        • 순서 번호를 이용하여 재전송 공격 방지
      • 주요 헤더 필드
        • Next Header — AH 페이로드에 포함된 프로토콜 식별 번호(ICMP;1. TCP:6, UDP:17)
        • SPI — 현재 연결에 대한 보안 매개변수를 저장하고 있는 SA 식별자
        • Sequence Number
        • Authentication Data — 비연결형 무결성과 데이터 원천 인증을 위한 메시지 인증 코드. ICV라고도 함
      • AH 프로토콜 동작 모드와 인증 범위
        • 인증 범위 — 인증 데이터(ICV)를 계산할 때 적용되는 데이터 범위
        • 변경 가능한 필드를 제외한 나머지 IP 패킷 전체를 인증
          • 변경 가능한 필드
            • IP 패킷 전송 과정에서 정상적으로 변경될 수 있는 필드
            • TTL 필드, Header Checksum 필드, NAT 환경에서의 출발지 IP 필드 등
        • 전송 모드 인증 범위 — IP 헤더의 변경 가능한 필드를 제외한 IP 패킷 전체
        • 터널 모드 인증 범위 — New IP 헤더의 변경 가능한 필드를 제외한 IP 패킷 전체
      • AH 프로토콜 전송 모드 패킷 예시
    2. ESP
      • 개요
        • 기밀성
        • 비연결형 무결성과 데이터 원천 인증 보장
        • 재전송 공격 방지
        • 모두 적용하는 것이 일반적이나, 필요에 따라 암호화나 인증만 적용
      • 주요 프로토콜 필드
        • ESP 헤더
          • SPI
          • Sequence Number
        • ESP 트레일러 — 대칭키 블록 암호를 위한 패딩 정보와 ESP 페이로드에 포함된 프로토콜 식별 번호
        • ESP Auth(옵션 필드) — 비연결형 무결성과 데이터 원천 인증 기능 사용 시 인증 데이터를 저장하는 필드. ICV라고도 함
      • ESP 프로토콜 동작 모드와 암호화 및 인증 범위
        • 암호화와 인증 기능 모두 사용 시 암호화를 먼저 수행한 후 인증
        • 전송 모드
          • 암호화 범위 — IP 페이로드와 ESP 트레일러
          • 인증 범위 — 암호화된 데이터 전체와 ESP 헤더
        • 터널 모드
          • 암호화 범위 — 원본 IP 패킷 전체와 ESP 트레일러
          • 인증 범위 — 암호화된 데이터 전체와 ESP 헤더 인증
      • ESP 프로토콜 전송 모드 패킷 예시
  5. 보안 연관(SA)과 보안 정책(SP)
    1. SA
      • 개요
        • IPsec 통신 호스트 간에 협상된 보안 매개변수 집합
        • 단방향성이므로 최소 2개 필요
          • 보안 연관 데이터베이스(SAD) — 여러 SA를 저장, 관리하기 위한 DB
          • 필요에 따라 다수의 SA를 설정하고 이를 동적으로 변경하여 사용 가능
        • 통신 호스트 간 수작업 또는 IKE 프로토콜을 이용하여 설정
      • SA 주요 항목
        • SA 식별 정보
          • 목적지 IP 주소
          • IPsec 세부 프로토콜(AH 또는 ESP)
          • SPI
        • AH/ESP 프로토콜 관련 정보
          • MAC 알고리즘
          • 대칭키 암호 알고리즘(ESP 사용 시)
          • 각종 키 정보
        • 동작 모드
        • Lifetime — 세션 지속 시간
        • Sequence Number
    2. SP
      • 개요
        • IP 패킷을 송신하거나 수신할 때 적용할 접근 제어 정책
        • 출발지/목적지 IP 주소 및 포트 번호, 프로토콜을 패킷 식별자로 하여 정책 적용
      • SP 유형
        • Protect 정책 — IPsec을 적용하여 패킷 보소(SAD 참조)
        • Bypass 정책 — IPsec 적용 없이 일반 IP 패킷으로 처리
        • Discard 정책 — 패킷 폐기
  6. IPsec 패킷 송수신 절차
    1. 송신 절차
      1. 전송할 IP 패킷에 대해 보안 정책 DB(SPD) 검색
      2. SPD에 일치하는 SP가 없으면 기본 정책에 따라 폐기
      3. 있으면 정책에 따라 처리
      4. Protect 적용 시 SAD에 일치하는 AS가 있으면 해당 SA를 사용하여 적용하고, 없으면 IKE 프로토콜을 이용하여 SA를 협상한 후 적용하여 송신
    2. 수신 절차
      1. IP 헤더의 프로토콜 필드를 확인하여 보호되는 패킷인지 확인
      2. 보호되지 않는 패킷이라면 다음과 같이 처리
        • Bypass — 상위 계층 전달
        • Discard, Protect 또는 일치 항목이 없는 경우 폐기
      3. 보호되는 패킷이라면 SAD를 검색하여 일치하는 SA가 없으면 폐기하고 있으면 IPsec 처리 후 상위 계층 전달
  7. 인터넷 키 교환(IKE) 프로토콜
    1. 개요
      • IPsec 통신 호스트 간에 IPsec SA를 생성하기 위해 필요한 보안 매개변수 협상과 키 교환을 수행하는 프로토콜
      • 500번 UDP 포트를 사용하며 1단계와 2단계로 구성된 단계적 협상 구조
      • SA 협상을 위해 ISAKMP 프레임워크를 사용하며, 키 교환을 위해 Oakley 및 SKEME 기법 사용
    2. 1단계 — IKE SA 협상 단계
      • 목적 — 2단계 협상을 안전하게 수행하기 위한 보안 채널을 생성하는 데 필요한 IKE SA를 협상하는 단계
      • 동작 모드
        • Main Mode — 3쌍의 메시지를 교환하며, 신원 정보가 암호화되므로 보안성이 높음
        • Aggressive Mode — 3개의 메시지를 교환하여 속도가 빠르지만 신원 정보가 암호화되지 않아 보안성 낮음
    3. 2단계 — IPsec SA 협상 단계
      • 목적 — 1단계에서 구축된 보안 채널 내에서 실제 IPsec 적용을 위한 SA를 협상하는 단계
      • 동작 모드 — Quick Mode