Форум поддержки пользователей. LibreOffice, Apache OpenOffice, OpenOffice.org

Форум поддержки пользователей. LibreOffice, Apache OpenOffice, OpenOffice.org

13 Декабрь 2017, 17:41 *
Добро пожаловать, Гость. Пожалуйста, войдите или зарегистрируйтесь.
Вам не пришло письмо с кодом активации?

Войти
Новости: Часто задаваемые вопросы по LibreOffice и Apache OpenOffice.org
 
   Начало   Помощь Поиск Войти Регистрация    задать вопрос  
Страниц: 1   Вниз
  Печать  
Автор Тема: Отклонения в расчетах при открытии файла из Excel  (Прочитано 342 раз)
0 Пользователей и 1 Гость смотрят эту тему.
Nirg
Новичок
*
Offline Offline

Сообщений: 3


« Стартовое сообщение: 27 Июль 2017, 09:16 »

Открываю созданный в Excel документ.
Скриншот во вложении. Формулы очень простые.
По колонкам:
O = M - N;
P = L + O;
R = P + Q;

В некоторых результирующих ячейках отражаются результат вычислений +/- несколько триллионных.
Пример 17 строка.
O17 = M17 - N17
576,72 - 574,92 = 1,80000000000007

Если поставить формат со, скажем, 15 знаками после запятой в ячейках колонок M, N, там будут нули. Откуда берется это небольшое отклонение в 14-15 знаке после запятой?



* Безымянный.jpg (377.84 Кб, 1280x1024 - просмотрено 5 раз.)
Записан
mikekaganski
Ветеран
*****
Offline Offline

Пол: Мужской
Расположение: Хабаровск -> Москва
Сообщений: 712


« Ответ #1: 27 Июль 2017, 09:18 »

Из вычислений с плавающей точкой. Просто Excel по умолчанию не показывает столько знаков. Но они есть и там, просто скрытые.

Ещё есть эмоциональное обсуждение вот тут.


* 1,80000000000004.png (47.57 Кб, 711x689 - просмотрено 7 раз.)
« Последнее редактирование: 27 Июль 2017, 09:28 от mikekaganski » Записан

С уважением,
Михаил Каганский
Nirg
Новичок
*
Offline Offline

Сообщений: 3


« Ответ #2: 27 Июль 2017, 09:29 »

почитаю, спасибо за быстрый ответ
Записан
economist
Ветеран
*****
Offline Offline

Сообщений: 761


« Ответ #3: 27 Июль 2017, 12:28 »

Nirg - запомните, пожалуйста, что Формат ячейки - меняет только отображаемое число на экране/печати, а не само содержимое ячейки! Оно неизменно при любом форматировании! Увеличивать разрядность формата числа - не значит улучшать точность.
Есть, конечно, исключения в виде режима "Точность как на экране" и поведения при ссылке на ячейку с форматом Текст.   

Если вам нужны триллионные - welcome то Python+NumPy/SciPy или специальные табличные редакторы с 64-значными числами.
Записан

Руб. за сто, что Питоньяк
Любит водку и коньяк!
Потому что мне, без оных, -
Не понять его никак...
Nirg
Новичок
*
Offline Offline

Сообщений: 3


« Ответ #4: 27 Июль 2017, 12:33 »

Если вам нужны триллионные
наоборот, не нужны )

Насчет формата я знаю, надеюсь эти триллионные не повлияют на итог, скажем по колонке.
Записан
kompilainenn
Ветеран
*****
Offline Offline

Сообщений: 2 127



« Ответ #5: 27 Июль 2017, 12:47 »

надеюсь эти триллионные не повлияют на итог, скажем по колонке.
смотря сколько строк будет в столбце
Записан

Поддержать разработчиков LibreOffice можно тут, а наш форум вот тут
Страниц: 1   Вверх
  Печать  
 
Перейти в:  

Powered by MySQL Powered by PHP Powered by SMF 1.1.21 | SMF © 2006-2009, Simple Machines Valid XHTML 1.0! Valid CSS!