MD5 해시란 무엇일까? 파일 무결성 검증부터 충돌 공격까지 원리와 활용법 총정리
다운로드 페이지의 32자리 문자열이 궁금하셨나요? MD5 해시의 동작 원리와 실생활 활용법, 그리고 언제 SHA-256으로 갈아타야 하는지 초보자 눈높이에서 정리했습니다.
인터넷에서 프로그램이나 대용량 파일을 내려받을 때, 다운로드 버튼 옆에 5d41402abc4b2a76 같은 정체불명의 문자열이 적혀 있는 것을 본 적이 있으실 겁니다. 처음 보면 그냥 지나치기 쉽지만, 이 문자열이 바로 파일이 손상되지 않았는지 확인해 주는 열쇠입니다. MD5 해시란 정확히 무엇이고, 왜 아직도 곳곳에서 쓰이는지, 반대로 어떤 상황에서는 절대 쓰면 안 되는지 하나씩 살펴보겠습니다.
MD5 해시란 무엇인가
MD5 해시란 어떤 길이의 데이터를 입력하든 항상 128비트, 즉 32자리 16진수 문자열로 바꿔 주는 해시 함수입니다. 1991년 미국의 암호학자 로널드 리베스트(Ronald Rivest)가 기존 MD4를 보완해 설계했고, 1992년 RFC 1321 문서로 공개되었습니다. 30년이 넘은 알고리즘이지만 지금도 파일 검증 분야에서 널리 쓰입니다.
MD5의 핵심 특징은 다음과 같습니다.
- 고정 길이 출력: 1글자를 넣든 10GB 영상을 넣든 결과는 항상 32자리입니다.
- 일방향성: 해시값에서 원본 데이터를 역으로 계산하는 것은 사실상 불가능합니다.
- 눈사태 효과: 입력이 한 글자만 달라져도 결과 전체가 완전히 바뀝니다.
- 빠른 속도: 계산이 매우 가벼워 대용량 파일도 순식간에 처리합니다.
MD5는 어떻게 동작할까
내부적으로 MD5는 입력 데이터를 512비트 블록 단위로 잘라서 처리합니다. 각 블록마다 비트 연산과 덧셈, 회전 연산을 총 64단계 반복하면서 128비트 상태값을 계속 뒤섞고, 마지막 블록까지 처리한 결과가 최종 해시값이 됩니다.
눈사태 효과를 직접 보면
소문자 hello를 MD5로 변환하면 5d41402abc4b2a76b9719d911017c592가 나옵니다. 첫 글자만 대문자로 바꾼 Hello는 8b1a9953c4611296a827abf8c47804d7입니다. 겨우 한 글자 차이인데 결과는 완전히 다른 값이 됩니다. 이 성질 덕분에 파일이 전송 중에 1비트라도 손상되면 해시값 비교만으로 바로 알아챌 수 있습니다.
실생활에서 MD5가 쓰이는 곳
보안 목적이 아닌 무결성 확인과 데이터 식별 용도로는 MD5가 여전히 현역입니다.
- 파일 무결성 검증: 리눅스 배포판, 오픈소스 프로그램 다운로드 페이지에서 체크섬으로 제공됩니다.
- 중복 파일 탐지: 파일 이름이 달라도 해시값이 같으면 같은 파일이므로, 중복 정리 프로그램이 MD5를 활용합니다.
- 캐시 키 생성: 긴 URL이나 쿼리를 짧은 고정 길이 키로 바꿔 캐시 시스템에서 사용합니다.
- 데이터 분산: 데이터베이스 파티셔닝에서 데이터를 고르게 나누는 기준값으로 씁니다.
MD5의 보안 한계, 충돌 공격
여기서부터가 중요합니다. MD5는 암호학적으로 이미 깨진 알고리즘입니다. 2004년 중국의 왕샤오윈(Wang Xiaoyun) 연구팀이 서로 다른 두 입력이 같은 해시값을 갖는 충돌(collision)을 실제로 만들어내는 방법을 발표했습니다. 이후 공격 기법이 계속 발전해서, 지금은 일반 PC로도 몇 초 만에 충돌 쌍을 생성할 수 있습니다.
이론에 그친 이야기가 아닙니다. 2012년 발견된 Flame 악성코드는 MD5 충돌 공격으로 마이크로소프트의 코드 서명 인증서를 위조해 정상 업데이트로 위장했습니다. 이 사건 이후 전자서명과 인증서 분야에서 MD5는 완전히 퇴출되었습니다.
MD5는 파일이 우연히 손상되었는지 확인하는 용도로는 지금도 충분히 유용하지만, 누군가 악의적으로 조작할 가능성을 막아야 하는 곳, 즉 비밀번호 저장이나 전자서명에는 절대 사용하면 안 됩니다. 용도 구분이 MD5를 이해하는 핵심입니다.
비밀번호 저장에 쓰면 안 되는 이유
MD5는 계산이 너무 빠르다는 점이 오히려 약점입니다. GPU 한 장으로 초당 수백억 개의 해시를 계산할 수 있어서 무차별 대입 공격에 취약하고, 자주 쓰는 비밀번호의 해시값을 미리 계산해 둔 레인보우 테이블도 널리 퍼져 있습니다. 비밀번호 저장에는 일부러 느리게 설계된 bcrypt나 Argon2를 사용해야 합니다.
MD5 vs SHA 계열 알고리즘 비교
그렇다면 지금 새로 시스템을 만든다면 무엇을 써야 할까요? 주요 해시 알고리즘을 비교하면 다음과 같습니다.
| 알고리즘 | 출력 길이 | 발표 시기 | 충돌 발견 여부 | 권장 용도 |
|---|---|---|---|---|
| MD5 | 128비트 | 1992년 | 발견됨(2004년) | 단순 파일 무결성 확인 |
| SHA-1 | 160비트 | 1995년 | 발견됨(2017년) | 사용 중단 권장 |
| SHA-256 | 256비트 | 2001년 | 미발견 | 보안 용도 사실상 표준 |
| SHA-3 | 가변(224~512비트) | 2015년 | 미발견 | 차세대 표준 |
보안이 조금이라도 관련된 곳이라면 SHA-256 이상을 선택하는 것이 현재 기준으로 안전합니다. SHA-1도 2017년 구글의 SHAttered 프로젝트에서 실제 충돌이 만들어지면서 퇴역 수순을 밟고 있습니다.
내 파일의 MD5 해시 직접 확인하는 방법
직접 해 보면 개념이 훨씬 빨리 잡힙니다. 운영체제별로 기본 내장 도구만으로 확인할 수 있습니다.
윈도우
명령 프롬프트를 열고 certutil -hashfile 파일경로 MD5를 입력하면 됩니다. 별도 프로그램 설치가 필요 없습니다.
맥과 리눅스
터미널에서 맥은 md5 파일명, 리눅스는 md5sum 파일명 명령을 사용합니다.
웹 브라우저에서 바로 확인
명령어가 익숙하지 않다면 브라우저에서 바로 쓰는 웹 도구도 좋은 선택입니다. 요즘은 설치 없이 쓰는 웹 유틸리티가 잘 되어 있어서, 디자인 작업에 컬러 팔레트 생성기를 쓰거나 할인율을 따질 때 퍼센트 계산기를 쓰듯, MD5 해시 생성기도 검색하면 텍스트를 붙여넣는 즉시 결과를 보여주는 사이트를 쉽게 찾을 수 있습니다. 다만 비밀번호나 개인정보는 온라인 도구에 입력하지 않는 것이 원칙입니다.
정리하면 두 가지만 기억하시면 됩니다. 첫째, 중요한 파일을 내려받으면 certutil이나 md5sum으로 해시값을 한 번 검증하는 습관을 들이세요. 둘째, 직접 서비스를 개발한다면 비밀번호와 서명에는 MD5 대신 SHA-256이나 bcrypt를 선택하세요. 이 구분만 지켜도 해시를 제대로 쓰는 개발자와 사용자가 됩니다.
