오차(error)는 해석적 해와 근사값 사이의 차이이다.
오차가 나타나는 원인은 크게 반올림 오차와 절단 오차가 있다.
반올림 오차(Round-off Error)는 유한한 비트로 나타내는 컴퓨터의 한계상 더 정밀한 값을 담지 못하는 경우이다. float을 사용할 경우 double보다 유효 숫자의 범위가 더 작기 때문에 빈번히 발생할 수 있다.
절단 오차(Truncation Error)는 무한한 항의 수를 계산할 때, 유한한 항만 더해서 발생하는 오차이다. 계산하는 항의 수를 조정해 오차의 크기를 줄일 수 있다.
오차는 크게 절대 오차와 상대 오차로 나눌 수 있다.
절대 오차(Absolute Error)는 근사값과 참값 사이 오차의 크기 그 자체를 나타낸다. 다음의 식으로 표현할 수 있다.
$참값 - 근사값$
상대 오차(Relative Error)는 근사값과 참값의 상대적인 차이를 나타낸다. 다음의 식으로 표현할 수 있다.
$\frac{참값 - 근사값}{참값}$
정해가 10000, 10인 문제에서, 내 솔루션은 답을 9999, 9로 냈다고 하자.
절대 오차에서는 두 값 모두 $10^{0}$의 차이가 나지만,
상대 오차로는 $10^{-4}$과 $10^{-1}$의 차이가 나게 된다.