OpenSSL 4.1 공개, DTLS 1.3 지원 추가

암호화 라이브러리 OpenSSL 프로젝트가 2026년 10월 23일 기능 릴리스인 OpenSSL 4.1을 공개했습니다. 가장 큰 변화는 UDP처럼 패킷이 순서가 뒤바뀌거나 유실될 수 있는 환경을 위한 DTLS 1.3(RFC 9147) 지원이 들어간 점입니다. 이와 함께 핸드셰이크 호환성을 위한 GREASE(RFC 8701), IKEv2 키 유도 함수(KDF) 지원, 그리고 Elbrus2000 아키텍처 초기 지원이 추가됐습니다.

양자내성 암호 쪽 성능 개선도 눈에 띕니다. ML-KEM과 ML-DSA의 NTT 연산이 ppc64le에서 최적화됐고, x86_64에서는 ML-DSA가 AVX-512 기반 최적화를 받았습니다. AES-CBC 복호화도 x86_64에서 AVX-512와 VAES 최적화가 들어갔습니다. 반대로 정리된 것도 있습니다. 실제로는 아무 기능도 끄지 않던 no-ecdsa와 no-ecdh 빌드 옵션이 제거됐고(이제 no-ec를 쓰면 됩니다), 윈도우 CE와 윈도우 Itanium 빌드 타깃도 빠졌습니다.

새 기능인 DTLS 1.3 쪽에는 알려진 버그가 4건 있다는 점은 확인해 두시는 게 좋겠습니다. KeyUpdate 이후 특정 레코드 재전송 문제, 논블로킹 연결에서의 쓰기 실패, 패킷 유실 상황에서 서버가 핸드셰이크를 예기치 않게 중단하는 사례 등이 공지에 명시돼 있습니다. 소스에 따르면 이 버그들의 수정은 향후 릴리스에서 다룰 예정입니다.

OpenSSL은 nginx, 노드JS, 각종 서버와 언어 런타임이 TLS 처리를 기대는 사실상 표준 기반입니다. 그래서 바로 운영에 올리기보다는, DTLS 1.3이나 양자내성 암호 최적화가 필요한 경우 테스트 환경에서 먼저 검증해 보시길 권합니다. ⚠️ 특히 DTLS 1.3을 쓰려는 분은 위 알려진 버그 목록을 먼저 확인하고 적용 여부를 판단하는 것을 추천합니다.

🔗 https://linuxiac.com/openssl-4-1-released-with-dtls-1-3-support-crypto-optimizations/

🔗 https://www.helpnetsecurity.com/2026/10/26/openssl-4-1-0-released/