함수의 증가와 감소, 극대와 극소

1. 증가와 감소의 정확한 뜻

구간 \(I\)의 임의의 두 수 \(x_1<x_2\)에 대하여 \(f(x_1)<f(x_2)\)이면 \(f\)는 \(I\)에서 증가합니다. 반대로 \(f(x_1)>f(x_2)\)이면 감소합니다.

\(\displaystyle x_1<x_2\quad\Longrightarrow\quad \begin{cases}f(x_1)<f(x_2)&\text{증가}\\ f(x_1)>f(x_2)&\text{감소}\end{cases}\)

그래프를 왼쪽에서 오른쪽으로 읽을 때 높이가 계속 올라가면 증가, 내려가면 감소입니다. 함수값이 양수인지 음수인지는 증가·감소와 직접 관계가 없습니다.

2. 도함수의 부호가 알려 주는 방향

도함수의 부호와 증가·감소의 연결은 평균값 정리로 설명할 수 있습니다. \(x_1<x_2\)일 때 어떤 \(c\in(x_1,x_2)\)에 대해 \(f(x_2)-f(x_1)=f'(c)(x_2-x_1)\)이므로 도함수가 양수이면 함수값의 차도 양수입니다.

3. 임계점과 정류점

함수의 정의역 안에 있는 점 \(c\)에서 \(f'(c)=0\)이거나 \(f'(c)\)가 존재하지 않으면 \(c\)를 임계점의 입력값으로 봅니다. 그중 \(f'(c)=0\)인 점을 정류점이라고 합니다.

• 다항함수에서는 모든 점에서 미분가능하므로 보통 \(f'(x)=0\)만 풀면 됩니다.
• \(f(x)=|x|\)는 \(x=0\)에서 도함수가 없지만 극솟값을 가집니다.
• 함수가 정의되지 않는 값은 도함수도 없지만 함수 위의 점이 아니므로 극점 후보가 아닙니다.

4. 임계점은 필요조건이지 충분조건이 아닙니다

미분가능한 함수가 내부점 \(c\)에서 극대 또는 극소이면 \(f'(c)=0\)입니다. 그러나 그 역은 항상 참이 아닙니다.

\(f(x)=x^3\)은 \(f'(x)=3x^2\)이므로 \(f'(0)=0\)이지만, \(x=0\)의 양쪽에서 계속 증가합니다. 따라서 \(x=0\)은 정류점이지만 극대도 극소도 아닙니다.

핵심: \(f'(c)=0\)은 “검사해야 할 후보”를 찾는 식이지 “극값임을 확정하는 식”이 아닙니다.

5. 도함수의 부호로 극값 판정하기

이 방법을 도함수의 부호 판정 또는 일계도함수 판정법이라고 합니다. 반드시 점의 양쪽 부호를 비교해야 합니다.

6. 증감표 작성 순서

1. 함수의 정의역을 확인합니다.
2. 도함수 \(f'(x)\)를 구합니다.
3. \(f'(x)=0\)인 값과 도함수가 존재하지 않는 정의역 안의 값을 찾습니다.
4. 이 값들을 수직선에 표시해 구간을 나눕니다.
5. 각 구간에서 시험값 하나를 넣어 \(f'(x)\)의 부호를 정합니다.
6. 부호가 바뀌는 점에서 극대·극소를 판정하고 원래 함수에 대입해 극값을 구합니다.

7. 대표 예제: 삼차함수의 증감과 극값

\(f(x)=x^3-3x\)의 도함수는 다음과 같습니다.

\(\displaystyle f'(x)=3x^2-3=3(x-1)(x+1)\)

임계점은 \(x=-1,1\)입니다. 도함수의 부호는 근을 지날 때 \(+\), \(-\), \(+\)로 변합니다.

\(f(-1)=2\), \(f(1)=-2\)이므로 극댓값은 2, 극솟값은 \(-2\)입니다.

8. 인수분해로 부호를 빠르게 판단하기

\(f'(x)=A(x-r_1)(x-r_2)\)처럼 인수분해되면 각 인수의 부호를 곱해 전체 부호를 정할 수 있습니다. 단순근을 지날 때는 해당 인수의 부호가 바뀌므로 전체 부호도 바뀝니다.

반면 \(f'(x)=(x-1)^2(x+2)\)에서 \(x=1\)은 짝수 번 중복된 근입니다. \((x-1)^2\)는 양쪽에서 음수가 되지 않으므로 \(x=1\)을 지날 때 도함수의 부호가 바뀌지 않습니다. 따라서 정류점이어도 극값이 아닐 수 있습니다.

9. 예제: 중근이 있는 도함수

\(f'(x)=3(x-1)^2(x+2)\)이고 \(f(-2)=5\), \(f(1)=-4\)라고 합시다. 임계점은 \(-2,1\)입니다.

• \((-\infty,-2)\): \(f'(x)<0\), 감소
• \((-2,1)\): \(f'(x)>0\), 증가
• \((1,\infty)\): \(f'(x)>0\), 증가

\(x=-2\)에서는 감소에서 증가로 바뀌므로 극솟값 5를 가집니다. \(x=1\)에서는 부호가 바뀌지 않으므로 \(f'(1)=0\)이어도 극값이 아닙니다.

10. 극대·극소와 최대·최소의 차이

극댓값이 전체 구간에서 가장 큰 값일 필요는 없습니다. 닫힌구간의 최댓값과 최솟값을 구할 때에는 내부 임계점뿐 아니라 양 끝점의 함숫값도 반드시 비교해야 합니다.

11. 닫힌구간 문제 해결법

\(f(x)=x^3-3x\)의 \([-2,2]\)에서 최댓값과 최솟값을 구해 봅시다. 내부 임계점은 \(-1,1\)이고, 끝점과 함께 함수값을 비교합니다.

최댓값은 2이고 \(x=-1,2\)에서 가지며, 최솟값은 \(-2\)이고 \(x=-2,1\)에서 가집니다. 한 최댓값이나 최솟값을 여러 입력값에서 가질 수도 있습니다.

12. 도함수 그래프에서 원래 함수 읽기

도함수의 식이 없어도 \(y=f'(x)\)의 그래프가 \(x\)축 위에 있으면 \(f\)는 증가하고, 아래에 있으면 감소합니다. 도함수 그래프가 \(x\)축을 통과하는 방향도 중요합니다.

• 위에서 아래로 통과: \(+\to-\), 원래 함수는 극대
• 아래에서 위로 통과: \(-\to+\), 원래 함수는 극소
• \(x\)축에 닿고 같은 쪽으로 되돌아감: 부호 변화가 없어 극값이 아님

13. 매개변수가 있는 부호 문제

\(f'(x)=(x-a)(x-3)\)이고 \(a<3\)이면 최고차항의 계수가 양수이므로 바깥 구간에서는 양수, 두 근 사이에서는 음수입니다.

\(\displaystyle \text{증가}: (-\infty,a),(3,\infty),\qquad \text{감소}: (a,3)\)

따라서 \(x=a\)에서는 \(+\to-\)로 바뀌어 극대, \(x=3\)에서는 \(-\to+\)로 바뀌어 극소입니다. 매개변수의 대소 관계가 달라지면 근의 순서부터 다시 정해야 합니다.

14. 자주 하는 실수

• \(f(x)>0\)이면 증가한다고 생각합니다. 증가·감소는 \(f'(x)\)의 부호로 판단합니다.
• \(f'(c)=0\)인 모든 점을 극점이라고 단정합니다.
• 극대인 입력값 \(c\)와 극댓값 \(f(c)\)를 구별하지 않습니다.
• 도함수의 근만 구하고 각 구간의 부호를 조사하지 않습니다.
• 증가·감소 구간의 경계를 답에 잘못 포함하거나 정의역 밖의 값을 사용합니다.
• 닫힌구간의 최대·최소 문제에서 양 끝점의 함숫값을 빠뜨립니다.

15. 핵심 정리

• \(f'>0\)인 구간에서 \(f\)는 증가하고, \(f'<0\)인 구간에서 감소합니다.
• 임계점은 극값의 후보이며 도함수의 부호 변화를 확인해야 합니다.
• \(+\to-\)이면 극대, \(-\to+\)이면 극소, 부호가 그대로면 극값이 아닙니다.
• 극대·극소는 주변 비교이고, 최대·최소는 전체 구간 비교입니다.
• 닫힌구간의 최대·최소는 내부 임계점과 양 끝점의 함숫값을 모두 비교합니다.