Форум поддержки пользователей. LibreOffice, Apache OpenOffice, OpenOffice.org

Форум поддержки пользователей. LibreOffice, Apache OpenOffice, OpenOffice.org

30 Сентябрь 2020, 11:37 *
Добро пожаловать, Гость. Пожалуйста, войдите или зарегистрируйтесь.
Вам не пришло письмо с кодом активации?

Войти
Новости: Вы можете задать вопрос по LibreOffice или Apache OpenOffice без регистрации, используя форму
 
   Начало   Помощь Поиск Войти Регистрация    задать вопрос  
Страниц: 1   Вниз
  Печать  
Автор Тема: Перевод псевдочисла в число большого формата без E  (Прочитано 230 раз)
0 Пользователей и 1 Гость смотрят эту тему.
yurren
Новичок
*
Offline Offline

Сообщений: 1


« Стартовое сообщение: 28 Август 2020, 11:50 »

Друзья! Помогите разобраться.
Есть псевдочисло большого формата '1001040040030461038 как его перевести в число 1001040040030461038 без Е.
При использовании .+  и  & выдает  1,00104004003046E+018. Для моих задач это неприемлемо:) - надо потом сравнивать эти числа - должны участвовать в том числе и последние цифры.
Заранее спасибо всем откликнувшимся Улыбка
Записан
mikekaganski
Гуру
*******
Offline Offline

Пол: Мужской
Расположение: Хабаровск -> Москва
Сообщений: 2 043


« Ответ #1: 28 Август 2020, 12:11 »

Тут два момента. Во-первых, показ чисел с E - это всего лишь то, как числа показаны. Это не значит, что какая-то часть числа не будет использована в дальнейшем при сравнении. И изменить показ можно просто меняя формат ячейки и указывая количество показываемых знаков...

Но вот само число у Вас великовато для Ваших задач. Calc использует внутри 64-битные числа IEEE 754. Это означает, что число десятичных знаков, сохраняемых в числе, не больше 17. Диапазон целых чисел, представимых в Calc без потерь - до 2^53, то есть до 9007199254740992. Все числа, большие этого, будут округляться (так что у Вас не получится использовать при сравнении "в том числе и последние цифры").

Если надо сравнивать - используйте строки. Если нужны вычисления с произвольной точностью - Вам нужна другая программа.
« Последнее редактирование: 28 Август 2020, 12:14 от mikekaganski » Записан

С уважением,
Михаил Каганский
Страниц: 1   Вверх
  Печать  
 
Перейти в:  

Powered by MySQL Powered by PHP Powered by SMF 1.1.21 | SMF © 2006-2009, Simple Machines Valid XHTML 1.0! Valid CSS!