먼저 문제 첫줄에서 나타나있는 f(x)는 두드러진 특징을 가지는군요. f(x)는 사차함수이면서 짝수차항만 존재하는 함수입니다. 따라서 f(x)는 우함수이고, y축에 대하여 대칭인 그래프를 가집니다.
우함수와 기함수는 매우 중요한 개념이니 한번 간단히 정리하고 넘어가도록 하겠습니다.

다음으로 정의되어 있는 g(x)를 봅시다. g(x)는 f(t)-|f(t)|를 정적분 할 것이기 때문에 이 식을 먼저 이해해야 하겠습니다. f(t)-|f(t)|=h(t)라 하면, 절댓값의 뜻에 따라

가 됩니다. h(t)는 f(t)의 그래프와 비교했을 때, f(t)가 0 이상인, 즉, t축보다 위에 그려지는 곳에서는 모두 0으로 만들어버리고, 0 미만인 t축보다의 아래부분은 두배로 늘려주는 효과가 생깁니다. 또한 h(t)도 위 아래 경우 둘다 우함수가 되겠네요. 이 문제는 그래프 없이도 풀 수 있는 문제이긴 하지만 그래도 이해를 돕기위해 예를 들어 간단히 나타내보면,

이런 형태로 나옵니다. 식으로 보나 그래프로 보나 h(t)는 어떠한 t에 대해서도 0보다 클 일은 없겠네요.

한편, g(x)는 h(t)를 양수 x에 대하여 -x에서 2x까지 정적분한 것인데, h(t)는 우함수이기 때문에 0에서 x까지의 정적분과 0에서 2x까지의 정적분의 합이라고 생각하면 수월할 것 같습니다.
또한 (가)~(다)에서 이 g(x)의 증가, 감소에 대해서 알려주고 있기 때문에 g(x)의 도함수를 구해보도록 하겠습니다.

g'(x)까지 구했으니 이제 (가)부터 순서대로 봅시다.

(가)에 따르면 0<x<1에서 g(x)는 상수함수입니다. 즉, g'(x)=0이라는 뜻이죠. h(x)나 h(2x)나 0 이하의 값이기 때문에 둘의 합이 0이라는 것은 0<x<1인 모든 실수에 대하여 h(x)=h(2x)=0이라는 뜻이 됩니다. 즉, 구간 (0,2)에서는 h(x)=0입니다.
(나)에 따르면 1<x<5에서 g(x)는 감소함수이므로 g'(x)<0입니다. 이 구간에서 h(x)와 h(2x) 중 적어도 하나는 음수라는 뜻입니다. 1<x<2일 때는 (가)에서의 결론에 의해 h(x)=0이니 이 구간에서 h(2x)<0이어야 합니다. 즉, 구간 (2,4)에서는 반드시 h(x)<0입니다. 남은 구간 [4,5)에서 h(x)또는 h(2x) 중 적어도 하나가 음이어야 하므로, h(x)는 [4,5) 또는 [8,10) (혹은 둘 다)에서 음입니다. 이 부분은 아직 확정지을 수는 없겠네요.
(다)에 따르면 x>5에서는 다시 g(x)는 상수함수이고, h(x)=h(2x)=0입니다. 따라서, (5,∞)에서는 항상 h(x)=0이겠고, (나)에서 결론 내리지 못했던 [4,5)이냐 [8,10)이냐 라는 부분은 반드시 [4,5) 구간이 h(x)<0인 것으로 결정됩니다. 

(가)~(다)에 따른 결론을 정리하면, h(x) 및 f(x)는 다음과 같습니다.

f(x)는 다항함수이기 때문에 모든 실수 x에 대하여 연속이고, f(x)의 부호가 바뀌는 x=2, 5에서 x축과 만납니다. 또한, f(x)는 우함수이므로 x=-2, -5에서도 x축과 만날 것입니다. 즉, 최고차항의 계수가 1인 사차방정식 f(x)=0의 네 실근이 ±2, ±5이므로

수학의 정도(正道) - 대홍쌤 블로그의 허락을 받아 올리는 해설입니다.