Перевод псевдочисла в число большого формата без E

Автор yurren, 28 августа 2020, 11:50

0 Пользователи и 1 гость просматривают эту тему.

yurren

Друзья! Помогите разобраться.
Есть псевдочисло большого формата '1001040040030461038 как его перевести в число 1001040040030461038 без Е.
При использовании .+  и  & выдает  1,00104004003046E+018. Для моих задач это неприемлемо:) - надо потом сравнивать эти числа - должны участвовать в том числе и последние цифры.
Заранее спасибо всем откликнувшимся :)

mikekaganski

#1
Тут два момента. Во-первых, показ чисел с E - это всего лишь то, как числа показаны. Это не значит, что какая-то часть числа не будет использована в дальнейшем при сравнении. И изменить показ можно просто меняя формат ячейки и указывая количество показываемых знаков...

Но вот само число у Вас великовато для Ваших задач. Calc использует внутри 64-битные числа IEEE 754. Это означает, что число десятичных знаков, сохраняемых в числе, не больше 17. Диапазон целых чисел, представимых в Calc без потерь - до 2^53, то есть до 9007199254740992. Все числа, большие этого, будут округляться (так что у Вас не получится использовать при сравнении "в том числе и последние цифры").

Если надо сравнивать - используйте строки. Если нужны вычисления с произвольной точностью - Вам нужна другая программа.
С уважением,
Михаил Каганский