표준편차 계산 방법 - 공식부터 엑셀 실전 활용까지 완벽 정리

시험 평균은 같은데 왜 어떤 반은 성적 차이가 크고 어떤 반은 비슷할까요? 투자 수익률이 똑같이 10%인데 왜 어떤 펀드는 위험하다고 할까요? 이 질문의 답이 바로 표준편차입니다. 표준편차 계산 방법을 제대로 이해하면 데이터가 평균에서 얼마나 흩어져 있는지 한눈에 파악할 수 있습니다.

표준편차란 무엇인가

표준편차(Standard Deviation)는 데이터가 평균값을 중심으로 얼마나 퍼져 있는지를 나타내는 통계 지표입니다. 값이 작을수록 데이터가 평균 근처에 모여 있고, 클수록 넓게 흩어져 있다는 뜻입니다.

예를 들어 두 학생의 국어 점수 5회 평균이 모두 80점이라고 가정합니다.

평균은 같지만 학생 A는 점수가 고르고, 학생 B는 들쭉날쭉합니다. 이 차이를 숫자로 보여주는 것이 표준편차입니다.

표준편차 계산 공식과 단계별 풀이

표준편차 계산 방법은 총 4단계로 이루어집니다. 학생 A의 점수(78, 82, 79, 81, 80)로 직접 계산해 보겠습니다.

1단계 - 평균 구하기

모든 값을 더한 뒤 개수로 나눕니다.

• 합계: 78 + 82 + 79 + 81 + 80 = 400
• 평균: 400 / 5 = 80

2단계 - 편차 구하기

각 값에서 평균을 뺍니다.

• 78 - 80 = -2
• 82 - 80 = +2
• 79 - 80 = -1
• 81 - 80 = +1
• 80 - 80 = 0

3단계 - 편차 제곱의 평균(분산) 구하기

편차를 각각 제곱한 뒤 평균을 구합니다.

• 제곱합: 4 + 4 + 1 + 1 + 0 = 10
• 분산: 10 / 5 = 2

4단계 - 제곱근 구하기

분산에 제곱근을 씌우면 표준편차가 됩니다.

표준편차 = sqrt(2) = 약 1.41

표준편차는 결국 "각 데이터가 평균에서 평균적으로 얼마나 떨어져 있는가"를 하나의 숫자로 압축한 것입니다. 분산의 제곱근이기 때문에 원래 데이터와 같은 단위를 사용한다는 점이 핵심입니다.

모표준편차와 표본표준편차 차이

표준편차 계산 방법에서 가장 혼동되는 부분이 N으로 나누느냐, N-1로 나누느냐입니다.

표본표준편차에서 N-1로 나누는 이유는 베셀 보정(Bessel's correction) 때문입니다. 표본은 모집단보다 변동성을 과소평가하는 경향이 있어서, 1을 빼서 보정합니다. 실무에서 설문조사, A/B 테스트 등 일부 데이터만 다룬다면 N-1을 사용하는 것이 올바릅니다.

엑셀로 표준편차 계산하는 방법

손으로 계산하면 시간이 오래 걸립니다. 엑셀을 활용하면 함수 하나로 즉시 결과를 얻을 수 있습니다.

기본 함수

• =STDEV.S(범위) - 표본표준편차 (가장 많이 사용)
• =STDEV.P(범위) - 모표준편차
• =VAR.S(범위) - 표본분산 (표준편차의 제곱)

실전 예시

A1부터 A5까지 점수(78, 82, 79, 81, 80)를 입력한 뒤 빈 셀에 다음과 같이 입력합니다.

• =STDEV.P(A1:A5) 결과: 1.414
• =STDEV.S(A1:A5) 결과: 1.581

구글 스프레드시트에서도 동일한 함수명을 사용합니다. 파이썬에서는 numpy 라이브러리의 np.std() 함수를 사용하면 됩니다. 기본값이 모표준편차이므로 표본표준편차를 구하려면 np.std(data, ddof=1)로 입력해야 합니다.

표준편차 활용 사례와 해석 기준

표준편차는 다양한 분야에서 활용됩니다. 몇 가지 대표적인 사례를 살펴보겠습니다.

투자와 금융

주식이나 펀드의 수익률 표준편차가 크면 변동성이 높다는 뜻입니다. 연 수익률 10%, 표준편차 5%인 펀드는 대략 5%~15% 사이에서 움직일 가능성이 높습니다. 반면 표준편차 20%인 펀드는 -10%~30%까지 폭이 넓어 위험도가 높습니다.

품질 관리

제조업에서는 6시그마(6σ) 기법을 통해 불량률을 관리합니다. 공정의 표준편차가 작을수록 제품 품질이 균일하다는 의미입니다. 목표 규격 범위가 평균에서 6σ 이내면 불량률이 백만 개당 3.4개 수준으로 낮아집니다.

시험 성적 분석

같은 평균 점수라도 표준편차가 크면 학생 간 실력 차이가 크다는 뜻입니다. 교육 현장에서 수준별 학습 편성의 근거 자료로 활용됩니다.

해석 기준 - 68-95-99.7 규칙

정규분포를 따르는 데이터에서는 다음 규칙이 적용됩니다.

• 평균 +/- 1σ 범위에 전체 데이터의 약 68.3%가 포함
• 평균 +/- 2σ 범위에 약 95.4%가 포함
• 평균 +/- 3σ 범위에 약 99.7%가 포함

이 규칙을 알면 표준편차만으로 데이터의 분포를 직관적으로 파악할 수 있습니다.

표준편차 계산 시 자주 하는 실수

통계를 처음 접하는 분들이 자주 범하는 실수를 정리했습니다.

• 모표준편차와 표본표준편차를 구분하지 않는 경우 - 논문이나 보고서에서 어떤 공식을 사용했는지 반드시 명시해야 합니다
• 이상치(outlier)를 처리하지 않는 경우 - 극단값 하나가 표준편차를 크게 왜곡할 수 있습니다. 사전에 이상치를 확인하고 처리 여부를 결정하세요
• 단위가 다른 데이터를 섞어 계산하는 경우 - cm와 m, 원과 만 원 등 단위를 통일한 뒤 계산해야 합니다
• 표준편차만으로 비교하는 경우 - 평균이 다른 두 집단을 비교할 때는 변이계수(CV = 표준편차/평균 x 100)를 사용하는 것이 정확합니다

데이터 분석 작업을 하다 보면 보고서에 이미지를 첨부하는 경우가 많습니다. 차트나 그래프 이미지 용량이 클 때는 이미지 압축 도구를 활용하면 화질 저하 없이 파일 크기를 줄일 수 있어 편리합니다.

표준편차 계산 방법은 공식 자체보다 언제 어떤 공식을 쓰는지가 더 중요합니다. 오늘 정리한 내용을 바탕으로 두 가지만 기억하세요. 첫째, 전체 데이터면 N으로, 표본이면 N-1로 나눕니다. 둘째, 엑셀의 STDEV.S와 STDEV.P 함수를 상황에 맞게 선택합니다. 이 두 가지만 확실히 구분해도 통계 분석의 기초는 충분합니다.