Ограничение точности вычислений
Есть такой вопрос: почему точность вычислений ограничена именно седьмым знаком после запятой(на скрине видно, что начиная именно со значения pi=3.1415927 значение площади не меняется). Единственный вариант, который мне пришел в голову, связан с правилами округления(то есть начиная с 3.1415927 седьмой знак будет равен именно 7)
Ответы (1 шт):
Автор решения: Zhihar
→ Ссылка
потому что в 4байтовом float на мантиссу отводится только 23 бита
23 бита - это точность порядка 2e-23 = 0,0000001
если использовать 8байтовый double, то на мантиссу будет отводиться 52 бита
а это уже точность 2e-52 = 1e-16