Вопросы с тегом 'bigdecimal'

Количество результатов: 27

-4 голоса
2 ответа
Есть ли способ избежать BigInteger/BigDecimal?

Мне нужно вычислить что-то вроде этого (псевдокод): // a, b, x, y are long, x,y <= 10^12 long i = (a - n)/(x*y) а также long j = (b - n)/(x*y) - ceiling Иног...

1 голос
3 ответа
Как избежать предупреждения магического числа при инициализации статического поля (например, BigDecimal)?

У меня есть статическое поле private static final BigDecimal MAX_AMOUNT = BigDecimal.valueOf(299_999L); И я получаю предупреждение от CheckStyle, что 299_999L магич...

0 голосов
2 ответа
Достаточно ли преобразовать double в BigDecimal непосредственно перед сложением, чтобы сохранить исходную точность?

Мы решаем ошибку, связанную с числовой точностью. Наша система собирает некоторые числа и выплевывает их сумму. Проблема в том, что система не сохраняет числовую точно...

1 голос
4 ответа
Сортировка BigDecimal

В чем проблема с этой BigDecimalSorting? Код принимает числа в виде строки, а затем преобразует их в BigDecimal, а затем сортирует и печатает отсортированные BigDecima...

3 голоса
2 ответа
Как разобрать строку в BigDecimal без получения ошибки

Когда я хочу проанализировать значение из массива String в BigDecimal, у меня есть эта ошибка: Exception in thread "main" java.text.ParseException: Unparseable number...

0 голосов
2 ответа
Не могу поместит.д.ойное число в переменную BigDecimal

Я использую переменную Double, которая содержит цену товара. Эта переменная хранится в базе данных postgresql под столбцом типа money. Я использую функцию SQL setBigDe...

3 голоса
2 ответа
BigDecimal.valueOf механизм кэширования

Я слышал, что BigDecimal.valueOf() метод лучше вызова new BigDecimal() потому что он кеширует общие ценности. Я хотел знать, как механизм кэширования valueOf работает.

1 голос
1 ответ
Округление с BigDecimal

Почему это не удается? assert 1.0G.divide(12.0G, 4, RoundingMode.HALF_UP) == 1.0G.divide(12.0G, new MathContext(4, RoundingMode.HALF_UP)) не удается с: | Condit...

2 голоса
2 ответа
Продолжение BigDecimal new или valueof

Этот вопрос является продолжением вопроса (BigDecimal - использовать new или valueOf) и его принятый ответ. Повторить вопрос и ответить для удобства: BigDecimal имее...

1 голос
2 ответа
Rails форматирование BigDecimal

У меня вопрос прост (я думаю): В Rails у меня есть пользовательская функция формата даты и времени, называемая l, есть эквивалент для BigDecimal? Пример, который я х...

-2 голоса
2 ответа
Java BigDecimal

Для чего 3 в следующем коде: Чтобы удовлетворить ваши фантазии лучше вот оригинальный вопрос: public float getOrderTotal(float taxRate) { BigDecimal total =...

1 голос
1 ответ
Сохранить новый объект из запроса

У меня есть приложение rails с базой данных PostgreSQL с почасовыми данными о ценах за последние 10 лет, и мне нужно получить среднесуточную цену за каждый день, сохра...

1 голос
3 ответа
Как обработать исключение при обработке значения экспоненты с E-трейлингом без значения экспоненты

это мой первый вопрос, заданный на этом форуме, поэтому, если вопрос новичок, пожалуйста, совет. Я получаю пользовательский ввод через EditText, следовательно, это по...

18 голосов
5 ответов
Тестирование, если значение BigDecimal равно нулю в выражении EL JSP

Следующее не всегда ведет себя так, как вы ожидаете: <c:if test="${someBigDecimal == 0}"> Если someBigDecimal имеет значение 0, но имеет масштаб, отличный от ...

5 голосов
2 ответа
0E30 не ноль

Я не знаю как справиться new BigDecimal("0E30"). Его ценность 0 но это не сравнить с BigDecimal.ZERO. Увидеть ниже: System.out.println(new BigDecimal("0E30").add(BigD...

0 голосов
1 ответ
Как мне создать новый MathContext?

Главный вопрос Я использую это BigDecimal, и я пытаюсь создать новый объект MathContext для передачи в BigDecimal divide() метод. Но все, что я пробовал, выдает исклю...

3 голоса
1 ответ
Неверные результаты деления

У меня есть калькулятор времени, который работал довольно хорошо в течение ряда лет. Однако меня всегда беспокоило то, что если использовать доли секунды, результаты с...

0 голосов
3 ответа
Тип кастинга для BigDecimal

У меня есть метод возврата типа ArrayList<String> который также читает аргумент того же типа. Теперь, как мне type cast или изменить мой BigDecimal, чтобы прочит...

2 голоса
3 ответа
Точные квадратные корни на Яве

Каков наилучший способ хранения иррациональных чисел, таких как квадратные корни в Java? Мне нужна большая точность (более 100 цифр), поэтому float и double не будут х...

16 голосов
2 ответа
Какой тип столбца PostgreSQL следует использовать для хранения Java BigDecimal?

Какой тип столбца PostgreSQL я должен использовать для хранения Java BigDecimal?

469 голосов
9 ответов
ArithmeticException: " не заканчивающееся десятичное расширение; нет точного представимого десятичного результата "

Почему следующий код вызывает исключение, показанное ниже? BigDecimal a = new BigDecimal("1.6"); BigDecimal b = new BigDecimal("9.2"); a.divide(b) // results in the f...

9 голосов
2 ответа
Ruby BigDecimal Round: это ошибка?

При написании теста со значением, которое представляется в виде BigDecimal, я столкнулся с чем-то странным и решил в нем разобраться. Вкратце, «0,00009» при округлении...

16 голосов
5 ответов
" новый BigDecimal (13.3D) " приводит к неточности " 13.3000000000000007105 .. & quot ;?

Как это, что Java BigDecimal может быть это больно? Double d = 13.3D; BigDecimal bd1 = new BigDecimal(d); BigDecimal bd2 = new BigDecimal(String.valueOf(d)); Syste...

25 голосов
5 ответов
Повышение десятичной дроби до степени десятичной?

Инфраструктура .net предоставляет в классе Math метод для включения double. Но по требованию точности мне нужно повысить десятичную дробь до десятичной [Pow (десятична...

6 голосов
3 ответа
Очень, очень большие числа с плавающей точкой в ​​C#

Я занимаюсь моделированием популяций (для развлечения, в основном, чтобы поиграть с концепциями пропускной способности и функции логистики). Модель работает с нескольк...

20 голосов
16 ответов
Какие языки программирования поддерживают арифметику произвольной точности?

Какие языки программирования поддерживают арифметику произвольной точности, и не могли бы вы привести краткий пример того, как печатать произвольное количество цифр?

45 голосов
5 ответов
Использование java.math.MathContext

Недавно я попытался понять, как использовать java.math.MathContext, но не смог правильно понять. Используется ли для округления в java.math.BigDecimal. Если да, то поч...