• 경우의 수 계산의 출발점
• 순열과 여러 가지 배열
• 조합과 이항정리
• 확률과 조건부확률
• 점화식과 비둘기집 원리
• 정리
• FAQ

경우의 수 계산의 출발점 이해하기

이 단원은 공식을 많이 외우는 과목처럼 보이지만, 실제로는 문제를 읽고 구조를 분류하는 힘이 더 중요합니다. 가장 먼저 잡아야 하는 기준은 두 가지입니다. 선택이 단계적으로 이어지면 곱의 법칙을 보고, 서로 겹치지 않는 선택지를 나열해 합치면 합의 법칙을 봅니다. 이 감각이 잡혀야 뒤에서 배우는 순열, 조합, 확률도 훨씬 덜 헷갈립니다.

곱의 법칙과 합의 법칙은 어떻게 구분할까

상의 3벌, 바지 2벌, 신발 2켤레를 고르는 경우
3 × 2 × 2 = 12

버스 3개 노선 또는 지하철 2개 노선 중 하나를 타는 경우
3 + 2 = 5

곱의 법칙은 하나를 고른 다음 또 하나를 고르는 식으로 선택 단계가 이어질 때 사용합니다. 반대로 합의 법칙은 서로 동시에 고르는 것이 아니라, 겹치지 않는 경우를 나란히 더할 때 사용합니다. 문제를 읽을 때는 먼저 문장을 식으로 옮기기보다, 선택이 이어지는지 아니면 갈라지는지를 확인하는 습관이 중요합니다.

시험에서는 숫자를 보자마자 곱하거나 더하는 실수가 자주 나옵니다. 그래서 저는 먼저 문제를 짧게 바꿔 읽는 편이 좋다고 봅니다. “그리고”의 흐름이면 곱, “또는”의 흐름이면 합이라는 기준을 먼저 세우면 계산 실수가 크게 줄어듭니다.

x+y+z = 5 문제로 경우의 수 감각 잡기

x + y + z = 5, x, y, z는 자연수
x = x' + 1, y = y' + 1, z = z' + 1 로 두면
x' + y' + z' = 2, x', y', z' ≥ 0

따라서 2개의 별을 3칸에 나누는 경우의 수
= C(2 + 3 - 1, 3 - 1)
= C(4, 2)
= 6

이 문제는 보기보다 중요한 유형입니다. 자연수 조건이 있으면 먼저 각 변수에서 1씩 빼서 0 이상 정수 문제로 바꾸고, 그다음 조합 관점으로 해석합니다. 즉, 경우의 수 단원은 단순한 계산이 아니라 문제를 다른 형태로 바꾸는 해석 능력까지 포함합니다.

이 단원에서 자주 나오는 기호 읽는 법

n!     : 엔 팩토리얼
nPr    : 엔 피 알
nCr    : 엔 씨 알
P(A)   : 사건 A의 확률
P(B|A) : A가 주어졌을 때 B의 확률
A ∩ B : A 교집합 B
A ∪ B : A 합집합 B
∅   : 공집합
|A|    : 집합 A의 원소 개수
⌈x⌉ : x의 천장값
a_n    : 수열의 n번째 항

기호가 낯설면 개념 자체보다 읽는 데서 먼저 막히기 쉽습니다. 특히 조건부확률의 세로 막대는 “A일 때” 또는 “A가 주어졌을 때”로 읽으면 됩니다. 확률 단원에서는 교집합, 합집합, 공집합, 원소 개수 기호도 자주 같이 나오므로 함께 익혀두는 편이 좋습니다. 비둘기집 원리 예시에서 쓰인 천장값은 나눗셈 결과보다 크거나 같은 가장 작은 정수를 뜻합니다. 점화식의 a_n은 단순한 문자 하나가 아니라 수열의 특정 위치를 가리키는 표기라는 점도 함께 익혀두면 좋습니다.

순열과 여러 가지 배열 이해하기

순열은 순서를 고려하는 경우의 수입니다. 같은 사람을 뽑더라도 줄 세우는 순서가 다르면 다른 경우로 세기 때문에, 조합과 가장 먼저 구분해야 하는 핵심은 순서입니다. 이 기준 위에서 일반 순열, 중복집합의 순열, 중복순열, 원순열이 갈라집니다.

순서를 고려하면 순열이 된다

5명 중에서 회장, 부회장, 총무를 정하는 경우
= 5P3
= 5 × 4 × 3
= 60

5명 중 3명을 뽑기만 하는 경우
= 5C3
= 10

윗문장에서 회장, 부회장, 총무는 자리가 서로 다르므로 같은 3명이 뽑혀도 배치가 바뀌면 다른 경우가 됩니다. 반대로 3명을 단순히 뽑기만 하면 순서는 의미가 없습니다. 많은 학생이 사람 수는 같으니 같은 계산이라고 착각하지만, 실제로는 역할이 다른 순간 순열이 됩니다.

중복집합의 순열, 중복순열, 원순열 차이

A, A, B, C를 일렬로 나열하는 경우
= 4! / 2!
= 12

숫자 0~9로 3자리 비밀번호를 만드는 경우
= 10 × 10 × 10
= 10^3

5명을 원탁에 앉히는 경우
= (5 - 1)!
= 4!
= 24

중복집합의 순열은 같은 문자가 여러 번 들어 있어, 겉보기에는 4!처럼 보여도 같은 배열이 반복되므로 나누어 줍니다. 중복순열은 같은 대상을 여러 번 써도 되는 경우입니다. 원순열은 일렬이 아니라 원형이므로, 회전해서 같아지는 배열을 하나로 봅니다. 즉 세 개 모두 순열 계열이지만, 무엇을 같은 경우로 볼지 기준이 서로 다릅니다.

시험에서는 이 셋을 한 문제 안에서 섞어 내기도 합니다. 그래서 저는 먼저 일렬인지 원형인지, 같은 대상이 반복되는지, 중복 선택이 허용되는지를 체크하는 순서로 정리하는 편이 가장 안정적이라고 봅니다.

조합과 이항정리 연결하기

조합은 순서를 무시하고 뽑는 경우의 수입니다. 대표 뽑기, 팀 구성, 메뉴 선택처럼 결과가 같은 묶음이면 조합으로 봅니다. 그리고 조합은 여기서 끝나지 않고, 이항정리와 연결되면서 전개식의 계수를 설명하는 도구로 확장됩니다.

조합은 선택만 중요할 때 사용한다

6명 중에서 발표자 2명을 뽑는 경우
= 6C2
= 15

6명 중에서 1등, 2등을 정하는 경우
= 6P2
= 30

조합은 고른 결과가 같으면 같은 경우로 봅니다. A와 B를 뽑는 것과 B와 A를 뽑는 것은 같은 조합입니다. 반대로 1등과 2등은 자리의 의미가 다르기 때문에 순열입니다. 결국 조합과 순열은 공식을 외워 구분하는 것이 아니라, 결과를 같은 것으로 볼지 다른 것으로 볼지 판단하는 문제입니다.

이항정리는 조합과 어떻게 연결될까

(x + y)^3
= x^3 + 3x^2y + 3xy^2 + y^3

계수 3은
3C1 = 3, 3C2 = 3 과 연결된다.

이항정리는 전개식을 빠르게 정리하는 공식이지만, 핵심은 각 항의 계수가 조합으로 결정된다는 점입니다. 예를 들어 x^2y 항은 세 개의 괄호 중 하나에서만 y를 고르고 나머지 두 개에서 x를 고르는 경우의 수와 같습니다. 그래서 계수는 단순 숫자가 아니라, 실제 선택 경우의 수를 반영한 값입니다.

이 연결을 이해하면 조합이 사람 뽑기 문제에만 쓰이는 공식이 아니라는 점이 보입니다. 즉 조합은 선택 구조를 세는 공식이고, 이항정리는 그 구조가 식 전개에서 어떻게 나타나는지를 보여주는 응용입니다.

확률을 경우의 수 관점으로 이해하기

확률은 갑자기 새로운 단원이 아니라, 경우의 수를 기반으로 한 확장입니다. 표본공간은 가능한 전체 결과의 집합이고, 사건은 그중 우리가 관심 있는 결과들의 집합입니다. 전체 중에서 원하는 경우가 얼마나 되는지를 보는 관점으로 접근하면 확률 계산이 훨씬 단순해집니다.

수학적 확률은 전체 경우와 유리한 경우의 비율이다

주사위를 한 번 던질 때
표본공간 S = {1, 2, 3, 4, 5, 6}
사건 A = {2, 4, 6}

P(A) = |A| / |S| = 3 / 6 = 1 / 2

표본공간을 먼저 적는 이유는 분모를 분명히 하기 위해서입니다. 사건만 보고 바로 계산하려 하면 전체 경우를 빠뜨리기 쉽습니다. 특히 카드, 주사위, 동전처럼 익숙한 문제일수록 표본공간을 생략하다가 실수하는 경우가 많습니다.

조건부확률은 표본공간이 바뀐다고 생각하면 쉽다

주사위를 한 번 던졌을 때
A = {2, 4, 6}  : 짝수가 나온 사건
B = {3, 6}     : 3의 배수가 나온 사건

P(B|A) = A가 이미 일어났다고 알 때 B의 확률
= P(A ∩ B) / P(A)

A 안에서 다시 보면 가능한 경우는 {2, 4, 6}
그중 B에도 속하는 경우는 {6}
따라서 P(B|A) = 1 / 3

조건부확률은 기존 전체 공간에서 계산하는 것이 아니라, 조건이 주어진 뒤 줄어든 공간 안에서 다시 계산하는 개념입니다. 그래서 분모가 원래의 전체 경우의 수가 아니라 조건 사건의 크기로 바뀝니다. 이 감각이 잡히지 않으면 식은 외워도 문제를 풀 때 계속 흔들리게 됩니다. 공식으로는 P(B|A) = P(A ∩ B) / P(A)로 쓰며, 여기서 중요한 것은 단순 대입보다도 “A가 이미 일어난 뒤의 세계”로 표본공간을 다시 잡는 해석입니다.

정리하면 수학적 확률은 전체 공간에서 보는 비율이고, 조건부확률은 이미 제한된 공간 안에서 다시 보는 비율입니다. 조건이 하나 들어오면 세계가 좁아진다고 생각하면 이해가 훨씬 편해집니다.

점화식과 비둘기집 원리까지 연결하기

이 단원의 뒤쪽은 경우의 수와 직접 닮지 않아 보여도, 결국 규칙을 찾아 구조를 설명한다는 점에서 연결됩니다. 점화식은 수열의 다음 항이 이전 항들과 어떤 관계를 가지는지 적는 식이고, 비둘기집 원리는 겹침이 반드시 생길 수밖에 없는 상황을 증명하는 도구입니다.

점화식은 앞 항으로 다음 항을 설명하는 규칙이다

a_1 = 3
a_n = a_(n-1) + 2  (n ≥ 2)

수열: 3, 5, 7, 9, ...
일반항: a_n = 2n + 1

점화식은 수열 전체를 한 번에 주는 대신, 앞 항과 뒤 항의 관계를 알려주는 방식입니다. 점화식을 푼다는 것은 결국 n번째 항을 바로 계산할 수 있는 일반항을 찾는다는 뜻입니다. 처음에는 관계식만 봐도 충분해 보이지만, 실제 계산이나 증명에서는 일반항이 훨씬 편합니다.

또한 점화식에는 보통 초기조건이 함께 필요합니다. 같은 관계식이라도 첫 항이 달라지면 완전히 다른 수열이 되기 때문입니다. 예를 들어 a_n = a_(n-1) + 2 라는 식만으로는 수열이 하나로 정해지지 않고, a_1 = 3 같은 시작 정보가 있어야 실제 수열을 확정할 수 있습니다.

입문 단계에서는 복잡한 점화식보다 등차수열이나 피보나치처럼 간단한 예시로 시작하는 것이 좋습니다. 중요한 것은 식을 외우는 것이 아니라, 이전 항의 정보가 다음 항을 어떻게 만든다는 구조를 읽는 것입니다.

비둘기집 원리는 반드시 겹치는 상황을 보여준다

13명을 12개월에 나누어 보면
적어도 2명은 같은 달에 태어난다.

25명을 7요일에 나누어 보면
적어도 한 요일에는 4명 이상이 있다.
이유: ⌈25 / 7⌉ = 4

비둘기집 원리는 계산 공식이라기보다 보장 원리입니다. 상자보다 물건이 많으면 어떤 상자엔 반드시 두 개 이상 들어갈 수밖에 없다는 생각입니다. 이 단순한 아이디어가 생일 문제, 양말 문제, 나머지 분류 문제처럼 다양한 곳에 쓰입니다.

조금 확장하면 일반화된 비둘기집 원리도 함께 볼 수 있습니다. 물건 N개를 상자 k개에 넣으면, 적어도 한 상자에는 ⌈N / k⌉개 이상이 들어갑니다. 위의 25명과 7요일 예시는 바로 이 일반화된 형태를 적용한 사례입니다.

핵심은 실제로 어떤 상자인지 찾는 것이 아니라, 적어도 하나는 그런 상자가 존재한다고 결론 내릴 수 있다는 점입니다. 그래서 비둘기집 원리는 구체적 배치가 보이지 않아도 반드시 성립하는 결론을 끌어낼 때 매우 강력합니다.

정리

이번 단원은 서로 흩어진 공식을 배우는 것처럼 보이지만, 실제로는 하나의 흐름으로 연결됩니다. 곱의 법칙과 합의 법칙으로 경우의 수를 세는 출발점을 잡고, 순서를 보면 순열, 순서를 무시하면 조합으로 나눕니다. 조합은 다시 이항정리의 계수와 연결되고, 경우의 수 관점은 확률 계산으로 이어집니다. 점화식은 수열의 규칙을 식으로 표현하는 방법이고, 비둘기집 원리는 반드시 겹침이 생기는 구조를 설명하는 원리입니다.

시험에서는 공식을 많이 아는 것보다 문제를 보고 어떤 종류인지 먼저 분류하는 힘이 더 중요합니다. 따라서 이 단원은 공식을 따로 암기하기보다, 순서가 중요한가, 중복이 가능한가, 전체 공간이 무엇인가, 이전 항과 다음 항의 관계가 무엇인가처럼 판단 질문을 함께 정리하며 공부하는 것이 가장 효율적입니다.

많이 받는 질문

Q. 순열과 조합이 항상 헷갈리는데 가장 빠른 구분법이 있나요?
같은 대상을 뽑아도 자리나 역할이 바뀌면 다른 경우로 세는지 먼저 보시면 됩니다. 회장과 부회장처럼 자리가 다르면 순열이고, 발표자 2명처럼 단순 선택이면 조합입니다.

Q. 조건부확률에서 왜 분모가 달라지나요?
이미 어떤 조건이 참이라고 알게 되면 가능한 전체 경우 자체가 줄어들기 때문입니다. 즉 원래 표본공간이 아니라, 조건 사건 안쪽이 새로운 표본공간이 됩니다.

Q. 점화식을 굳이 일반항으로 바꿔야 하나요?
점화식만으로도 다음 항을 차례대로 구할 수 있지만, n번째 항을 바로 계산하거나 수열의 성질을 분석할 때는 일반항이 훨씬 편합니다. 그래서 점화식을 푼다는 말은 결국 일반항 형태로 바꾸는 것을 뜻합니다.