Отклонения в расчетах при открытии файла из Excel

Автор Nirg, 27 июля 2017, 09:16

0 Пользователи и 1 гость просматривают эту тему.

Nirg

Открываю созданный в Excel документ.
Скриншот во вложении. Формулы очень простые.
По колонкам:
O = M - N;
P = L + O;
R = P + Q;

В некоторых результирующих ячейках отражаются результат вычислений +/- несколько триллионных.
Пример 17 строка.
O17 = M17 - N17
576,72 - 574,92 = 1,80000000000007

Если поставить формат со, скажем, 15 знаками после запятой в ячейках колонок M, N, там будут нули. Откуда берется это небольшое отклонение в 14-15 знаке после запятой?


mikekaganski

#1
Из вычислений с плавающей точкой. Просто Excel по умолчанию не показывает столько знаков. Но они есть и там, просто скрытые.

Ещё есть эмоциональное обсуждение вот тут.
С уважением,
Михаил Каганский

Nirg


economist

Nirg - запомните, пожалуйста, что Формат ячейки - меняет только отображаемое число на экране/печати, а не само содержимое ячейки! Оно неизменно при любом форматировании! Увеличивать разрядность формата числа - не значит улучшать точность.
Есть, конечно, исключения в виде режима "Точность как на экране" и поведения при ссылке на ячейку с форматом Текст.   

Если вам нужны триллионные - welcome то Python+NumPy/SciPy или специальные табличные редакторы с 64-значными числами.
Руб. за сто, что Питоньяк
Любит водку и коньяк!
Потому что мне, без оных, -
Не понять его никак...

Nirg

Цитата: economist от 27 июля 2017, 10:28Если вам нужны триллионные
наоборот, не нужны )

Насчет формата я знаю, надеюсь эти триллионные не повлияют на итог, скажем по колонке.

kompilainenn

Цитата: Nirg от 27 июля 2017, 10:33надеюсь эти триллионные не повлияют на итог, скажем по колонке.
смотря сколько строк будет в столбце
Поддержать разработчиков LibreOffice можно тут, а наш форум вот тут