디지털 서명 한눈에: 누구나 검증하지만 나만 만드는 값

2026-10-05 · 읽는 데 약 4분 · 암호학 컴퓨터

종이 계약서에는 도장을 찍고, 파일에는 «전자 서명» 을 합니다. 둘 다 «내가 했다» 는 표시입니다. 그런데 도장은 오려 붙일 수 있지만 디지털 서명은 그럴 수 없습니다. 무엇이 다를까요? 그리고 그 서명이 누구 것인지는 어떻게 알까요?

오려 붙인 도장

도장은 찍을 때마다 같은 자국을 남깁니다. 한 계약서의 도장 자국을 스캔해 다른 계약서에 붙이면, 자국만 보고는 가려내기 어렵습니다(그림 1). 파일에 붙이는 서명 그림도 마찬가지입니다.

파일마다 다른 서명

내려받는 프로그램에도 서명이 붙어 있습니다. Windows 의 Authenticode 와 macOS 의 코드 서명은 이 서명으로 만든 곳(게시자)을 밝히고, 그 뒤로 바뀌지 않았는지 확인합니다 [S1] [S2].

디지털 서명은 보통 파일 대신 파일의 해시 값에 만듭니다. 만드는 쪽은 개인 키를, 검증하는 쪽은 공개 키를 쓰고, 파일과 서명은 함께 보냅니다 [S3].

이제 브라우저의 서명 기능(Web Crypto)으로 실제 RSA 서명을 만들어 봅니다. 키는 2048비트, 표준이 허락하는 가장 작은 크기입니다 [S3]. 받은 파일을 고치거나, 이 서명을 다른 파일에 붙여 보세요.

받은 파일이 한 글자만 달라도 해시 값이 통째로 달라져, 서명에서 꺼낸 해시 값과 맞지 않습니다 [S2]. 서명은 그 파일의 해시 값에 묶여 있어서, 도장 자국처럼 떼어 다른 파일에 붙일 수 없습니다. 반대로 해시 값이 같은 두 파일은 서명 하나를 나눠 쓸 수 있습니다. SHA-1 충돌이 위험했던 까닭입니다.

공개 키로는 왜 서명을 못 만드나

그럼 위조자가 고친 파일에 맞는 서명을 새로 만들면 되지 않을까요? 서명은 개인 키를 가진 쪽만 만들 수 있고 [S3], 공개 키는 모두에게 알립니다. 그렇다면 공개 키에서 개인 키를 거꾸로 구할 수 있을까요?

RSA 의 공개 키에는 큰 수 n 이 들어 있습니다. n 은 두 소수 p 와 q 의 곱이고, p 와 q 는 비밀로 둡니다 [S3]. 그림 3 에서 시뮬레이터 ① 이 방금 만든 키의 실제 값을 볼 수 있습니다.

p 와 q 를 곱하는 일은 순식간입니다. 하지만 n 만 보고 p 와 q 를 찾는 소인수분해는 다릅니다. RSA 논문의 예 n = 2773 은 47 × 59 로 금방 쪼개지지만 [S5], 특별한 꼴이 아닌 수를 쪼갠 가장 큰 기록은 2020년 2월에 쪼갠 250자리이고, 컴퓨터 코어 하나로 치면 약 2,700년(Intel Xeon Gold 6130, 2.1GHz 기준)이 들었습니다 [S6] [S7].

p 와 q 를 알면 개인 키를 계산할 수 있습니다 [S5]. n 을 쪼개지 못하면 그 길이 막힙니다. 다만 RSA 를 깨는 모든 길이 소인수분해만큼 어렵다는 것은 증명되지 않았습니다 [S5].

그 공개 키는 누구 것인가

✓ 가 말해 주는 것은 «이 공개 키의 짝인 개인 키로 이 파일에 서명했다» 까지입니다. 키 쌍은 누구나 만들 수 있습니다. 위조자도 자기 키로 서명하고 «회사 A» 라고 써 붙일 수 있습니다. 표준도 키의 주인을 확인하지 않으면, 키 쌍을 가진 누구나 서명하고 서명한 이가 미국 대통령이라고 주장할 수 있다고 짚습니다 [S3].

그래서 이름과 공개 키를 묶어 인증 기관이 서명한 것이 인증서입니다 [S3] [S1]. 받는 쪽은 믿기로 정한 인증 기관의 공개 키로 인증서를 먼저 검증하고, 인증서 속 공개 키로 파일 서명을 검증합니다 [S8].

이름만 써 붙이면 인증서가 없고, 스스로 만든 인증서는 인증 기관의 공개 키로 검증되지 않습니다. 회사 인증서를 오려 붙이면 파일 서명이 그 속 공개 키로 검증되지 않습니다. 인증 기관은 게시자가 누구인지 확인한 뒤에만 인증서를 내줍니다. 실제로는 인증서가 몇 단계 이어진 인증서 체인이고, 끝은 믿을 수 있는 루트 인증서입니다 [S1].

서명이 말해 주지 않는 것

시뮬레이터에서 서명과 인증서가 모두 ✓ 이면 «회사 A 의 인증서에 든 공개 키의 짝인 개인 키로 바로 이 파일에 서명했다» 까지 압니다. 실제 인증서는 유효 기간·용도 같은 칸도 함께 확인합니다 [S8]. 그래도 표 1 의 두 가지는 알 수 없습니다.