계산기 답이 분수·루트로 나올 때 — S⇔D로 소수 바꾸기

공학용 계산기 답이 √2/2, 1/3, π/4처럼 분수·루트로 나오는 이유와 S⇔D로 소수로 바꾸는 법, 소수점 자리 고정(Fix)·유효숫자(Sci) 설정, 0.1+0.2 반올림 오차 이야기를 정리했어요.

정확값으로 나오는 것

분수는 약분하고, 루트는 √12 = 2√3 처럼 밖으로 꺼낼 수 있는 만큼 꺼내요. 분모의 루트는 없애서 1/√3 대신 √3/3 으로 보여 줘요. 교과서 답과 같은 모양이라 숙제 답을 맞춰 보기 좋아요.

log, ln, e 가 들어간 값, 정확값이 너무 길어지는 값은 처음부터 소수로 보여 줘요.

√12 계산해 보기 ▸ sin 60 계산해 보기 ▸

왜 정확값이 좋나요

컴퓨터는 0.1 같은 소수를 2진수로 정확히 담지 못해서 아주 작은 오차가 생겨요. 그래서 많은 프로그램이 0.1 + 0.2 − 0.3 을 0 이 아니라 5.55×10⁻¹⁷ 같은 아주 작은 수로 계산해요. 이 계산기는 0.1 을 1/10 로 계산해서 0 이 나와요.

0.1+0.2−0.3 계산해 보기 ▸

소수로 보는 법

• S⇔D: 결과 아래 단추. 정확값 ⇔ 소수를 오가요.
• SHIFT =(≈): 처음부터 소수로 계산해요.
• 소수점을 넣은 식: 0.5 × 3 처럼 소수를 넣으면 답도 1.5 처럼 소수로 보여 줘요. 설정에서 “소수를 넣으면 결과도 소수로”를 끄면 3/2 로 보여 줘요.
• 소수 결과에서 S⇔D 를 누르면 분수로 나타낼 수 있을 때 분수로 바꿔 줘요.

몇 자리까지 보이나요

• 보통(Norm): 유효숫자 10자리. 10¹⁰ 이상이나 10⁻⁹ 미만은 1.23×10¹² 처럼 지수 표기예요.
• Fix: 소수점 아래 자리를 0~9자리로 고정해요. 돈 계산은 Fix 2 가 편해요.
• Sci: 유효숫자 1~10자리 지수 표기로 보여 줘요. 실험값을 유효숫자 3자리로 쓸 때 Sci 3 을 써요.
• ENG: 결과 아래 단추. 지수를 3의 배수(10³, 10⁻⁶)로 맞춰서 k, m, μ 같은 단위로 읽기 쉬워요.

반올림은 사사오입이에요. 표시만 반올림하고 계산은 원래 값으로 이어 가요. 반올림한 값으로 계산하고 싶으면 함수 목록의 Rnd 를 써요.