QUIC이란 무엇인가요? 프로토콜 이해

프로토콜은 두 디바이스 간에 인터넷을 통해 데이터가 전송되는 방식을 정의합니다. 또한 클라이언트와 응답 서버 간에 프로토콜을 일치시켜야 하기 때문에 업계에서는 널리 채택된 몇 가지 표준에 압도적으로 의존해 왔습니다. 가장 오랜 역사를 자랑하는 프로토콜로는 수십 년 동안 사용되어 온 TCP와 UDP가 있습니다.

2013년에 Google이 새로운 접근 방식을 시험하기 시작하면서 상황이 바뀌었습니다. QUIC 프로토콜은 Google 애플리케이션이 기존 프로토콜보다 프로토콜 지연 시간을 줄이면서 데이터를 더 빠르게 전송할 수 있는 방법을 제공합니다.

자세히 알아보기 데모 받기

QUIC이란 무엇인가요? 프로토콜 이해

QUIC 프로토콜은 어떻게 작동하나요?

QUIC은 UDP 위에 구축된 암호화된 전송 프로토콜입니다. UDP의 속도와 TLS와 같은 프로토콜의 보안을 결합하여 빠르고 안전한 인터넷 연결을 효과적으로 만들 수 있도록 설계되었습니다.

인증과 암호화가 TLS와 같은 상위 계층 솔루션에 의해 관리되는 기존 프로토콜과 달리 QUIC은 이러한 기능을 전송 계층에 직접 통합합니다.

따라서 QUIC은 최신 웹 트래픽에 더 빠르고 효율적으로 대응할 수 있습니다.

  • 빠른 핸드셰이크 프로세스를 시작하여 보안 연결을 빠르게 설정하는 방식으로 작동합니다.
  • 핸드셰이크가 완료되면 QUIC은 여러 개의 암호화된 데이터 스트림을 동시에 서버로 전송하여 지연 시간을 줄이고 성능을 개선합니다.

인증과 암호화를 모두 프로토콜 자체에 내장함으로써 QUIC은 UDP의 가벼운 장점을 유지하면서 보안 통신을 간소화합니다.

Fast Handshake

핸드셰이크는 모든 네트워크 프로토콜에서 중요한 부분입니다. QUIC은 TCP에서 사용되는 기존의 3자 핸드셰이크를 TLS 1.3 핸드셰이크의 인증 및 암호화 프로세스로 대체합니다.

이를 분석하기 위해 일반적인 TCP 연결에는 다음이 포함됩니다:

  • SYN 패킷을 전송하는 클라이언트
  • SYN-ACK패킷으로 응답하는 서버
  • 클라이언트가 ACK 패킷으로 연결을 마무리하는 경우

이 3단계 프로세스는 데이터를 전송하기 전에 반드시 거쳐야 합니다.

QUIC은 UDP를 통해 작동하여 이러한 요구 사항을 제거합니다. UDP는 동일한 방식으로 연결을 설정할 필요가 없으므로, QUIC을 사용하면 UDP 호환 링크를 통해 데이터를 즉시 전송할 수 있어 지연 시간을 줄일 수 있습니다.

경우에 따라 QUIC은 0-RTT(제로 왕복 시간)로 알려진 첫 번째 연결 주기 동안 데이터를 전송할 수 있습니다. 서버에 클라이언트와 이전에 캐시된 연결이 있을 때 가능합니다. 그러나 0-RTT는 속도를 향상시키기는 하지만 항상 가장 안전한 옵션은 아니며 적절하게 처리하지 않으면 리플레이 공격에 데이터가 노출될 수 있습니다.

암호화

QUIC은 빠른 핸드셰이크 외에도 내장된 암호화를 도입했습니다. 기존에는 TCP를 통해 암호화는 TLS 프로토콜을 통해 개별적으로 처리되었으며, 버전과 암호 집합을 협상하기 위해 자체 핸드셰이크가 필요했습니다. 이 핸드셰이크를 통해 세션에 사용될 암호화 알고리즘과 프로토콜이 설정됩니다.

QUIC은 UDP를 기반으로 구축되었기 때문에 간소화된 아키텍처에 맞게 기존 TLS 핸드셰이크를 수정합니다. QUIC은 두 가지 특정 구성 요소로 래핑된 클라이언트 헬로(CHLO) 를 전송하여 이를 달성합니다:

  • 초기 패킷
  • 암호화 프레임

이 패키징을 사용하면 클라이언트가 전송하는 첫 번째 UDP 데이터그램에 암호화 핸드셰이크를 포함할 수 있습니다. 그 결과 전송과 암호화 핸드셰이크가 효율적인 단일 단계로 통합됩니다. 이 초기 교환 이후 QUIC은 TLS 1.3과 매우 유사하게 작동합니다.

이후 클라이언트와 서버 간의 모든 통신은 핸드셰이크의 세션 키를 사용하여 암호화됩니다.

패킷 순서

QUIC은 패킷이 끊기거나 순서와 다르게 도착할 수 있는 등 속도는 빠르지만 안정성이 떨어지는 프로토콜로 알려진 UDP를 기반으로 합니다. 반면 TCP는 안정성을 보장하지만 지연 시간이 길어지는 대가를 치릅니다. TCP에서는 하나의 스트림에서 오류가 발생하면 문제가 해결될 때까지 클라이언트의 모든 동시 스트림이 일시 중지됩니다.

QUIC은 데이터를 독립적인 스트림으로 구성하고 각 스트림이 자체 내부 패킷 순서를 유지하도록 함으로써 속도와 안정성 간의 균형을 맞춥니다.

하지만 QUIC은 서로 다른 스트림 간의 패킷 순서를 강제하지 않습니다.

예를 들어 스트림 A와 스트림 B라는 두 개의 스트림이 서버에서 클라이언트로 전송된다고 가정해 보겠습니다.

  • 스트림 A. 스트림 A의 패킷이 손실되면 스트림 A가 독립적으로 재전송을 처리합니다.
  • 스트림 B는 중단되지 않고 계속 진행되며 스트림 A의 손실에 영향을 받지 않고 전송을 완료할 수 있습니다.

이러한 수준의 스트림 독립성은 한 스트림의 패킷 손실로 인해 동일한 연결을 공유하는 다른 스트림이 지연될 수 있었던 HTTP/2와 같은 이전 프로토콜에 비해 크게 개선된 것입니다.

QUIC 프로토콜의 과제

QUIC은 이미 Google 애플리케이션 데이터의 상당 부분을 전송하고 있지만, 전 세계적으로 분산된 환경에서 광범위하게 채택되는 데는 아직 한계가 있습니다.

주요 장벽 중 하나는 인터넷 인프라의 변화 속도가 느리다는 점입니다. TCP는 40년 이상 지배적인 전송 계층 프로토콜로 사용되어 왔으며 거의 모든 유형의 데이터를 전송할 수 있습니다. QUIC은 특히 대륙 간 연결과 같이 장거리에서 지연 시간을 줄이는 데 있어 분명한 이점을 제공하지만, TCP의 다양성에 비해 그 범위가 좁다고 여겨지는 경우가 많습니다.

Google은 적극적으로 QUIC 도입을 추진하여 서비스 전반에 걸쳐 개발 및 통합을 진행했습니다. 하지만 이로 인해 많은 기업이 표준과 트렌드에 적응하기 위해 고군분투하고 있습니다.

따라서 특히 복잡한 인프라, 레거시 시스템 또는 사내 전문 지식이 부족한 조직의 경우 QUIC 구현에 상당한 어려움을 겪을 수 있습니다.

0-RTT의 위험

캐시된 연결의 경우, QUIC을 사용하면 0-RTT라고 하는 첫 번째 왕복 중에 데이터를 전송할 수 있습니다. 이 접근 방식은 핸드셰이크 지연 시간을 효과적으로 제거하지만, 보안 문제가 발생할 수 있습니다.

한 가지 주요 위험은 새로운 암호화 핸드셰이크가 없다는 것입니다. 세션 정보를 캐시하는 데 사용된 원래 연결이 손상된 경우, 재개된 연결 중에 전송된 모든 애플리케이션 데이터도 노출될 수 있습니다.

또 다른 우려 사항은 리플레이 공격입니다. 0-RTT를 통해 전송된 애플리케이션 데이터는 온패스 공격자가 가로채서 동일한 서버로 여러 번 재생할 수 있습니다. 대부분의 경우 암호화는 이러한 유형의 위협을 완화하는 데 도움이 되지만 0-RTT는 전체 재협상을 우회하여 이러한 보호 계층을 약화시킵니다.

따라서 0-RTT는 성능상의 이점을 제공하지만, 특히 민감한 데이터나 높은 보안 요구사항이 포함된 시나리오에서는 신중하게 사용해야 합니다.

방화벽 비호환성

기업 보안의 관점에서 볼 때, 특히 심층 패킷 검사 및 트래픽 복호화에 의존하는 조직에게 QUIC은 추가적인 과제를 안겨줍니다.

한 가지 중요한 문제는 기업 방화벽에서 네트워크 트래픽을 검사하고 보호하기 위해 일반적으로 사용하는 방법인 SSL 암호 해독을 QUIC이 지원하지 않는다는 것입니다. 대신 QUIC은 독자적인 암호화를 사용합니다. Google의 애플리케이션 제품군에 광범위하게 배포되어 있기 때문에 IT 팀의 네트워크 가시성 및 제어에 상당한 사각지대가 생깁니다.

또 다른 과제는 QUIC의 디자인 철학에 있습니다.

Google은 딱딱하고 노후화된 TCP 인프라와 달리 유연하고 쉽게 업데이트할 수 있도록 QUIC을 구축했습니다. 이러한 접근 방식은 빠른 혁신을 지원하지만 프로토콜 수준의 변화에빠르게 적응할 수 있는 방화벽과 보안 도구도 필요합니다. 이러한 지속적인 업데이트 요구는 IT 팀과 인프라에 큰 부담을 줄 수 있습니다.

따라서 일부 방화벽 제공업체는 보다 성숙하고 호환 가능한 보안 도구가 나올 때까지 QUIC을 완전히 차단할 것을 권장합니다. 진화하는 문서부터 일관성 없는 구현까지, 특히 엔터프라이즈 환경의 보안 문제는 계속 쌓여가고 있습니다.

체크 포인트로 고속 네트워크 보안 강화하기

Check Point is an industry-leading firewall that now supports QUIC. But Check Point Network Security offers far more than visibility into Google applications: it delivers Check Point’s deep threat awareness alongside SandBlast zero-day protection. To gain an understanding of those cutting-edge threats, explore our 2025 risk report.

On-demand hyperscale infrastructure keeps latency low and provides seamless scalability as an organization’s needs evolve. For better, clearer management, Check Point offers a unified management system that integrates visibility into networks, clouds, and IoT environments.

Experience the full capabilities of Check Point by starting your free demo today.