Вопросы с тегом 'precision'

Количество результатов: 712

2 голоса
1 ответ
программирование Cu не может иметь такую ​​же точность вычислений по сравнению с программой CPU с точкой зрения типа поплавка

Я пытаюсь использовать GPU для ускорения моей программы, которая вычисляет L2 расстояния между двумя буями. Для проверки точности вычислений, я пишу как программу CUDA...

0 голосов
2 ответа
Сумма двух «np.longdouble» получают численное ошибка не связана с печатью

Проблема, которую я пытаюсь как понять и решить, относится к один спросил лет назад в этом вопросе: Сумма два «np.longdouble» урожайность с большой численной ошибкой, ...

4 голоса
2 ответа
Поплавок типа данных точность в Java

Значение числа 0,1, при хранении в виде одной точности с плавающей запятой является 0,100000001490116119384765625 (источник: https://www.h-schmidt.net/FloatConverter/I...

4 голоса
5 ответов
Округление вверх или вниз, когда 0,5

У меня возникли проблемы с пути Javascript округления чисел при ударе 0,5. Я пишу облагают калькуляторы, и я замечаю 0.1C расхождение в результатах. Проблема заключае...

0 голосов
0 ответов
Преобразование из mpmath в float128 Numpy в/longdouble фактически приводит к точности float64/двойной

Я работаю с некоторыми функциями, которые делают высокоточные вычисления с использованием языка Python mpmath библиотека. Тем не менее, сейчас я нахожусь в необходимос...

1 голос
1 ответ
Почему, когда я вычесть из моего массива ничего не случилось? Как получить лучшую точность из питона?

Я не знаю, если моя проблема просто ошибка в кодировании или проблема точности. В принципе, я делаю минимизируя проблему. Я пытаюсь использовать определенный алгоритм...

0 голосов
4 ответа
Завершает число с плавающей запятой в определенную точность

Я хочу, чтобы обогнуть поплавок максимум 4 десятичных мест. Это значит 0.333333333 будет 0,3333, но до сих пор 0,33 0,33

2 голоса
5 ответов
Сколько значения могут быть представлены в заданном диапазоне с помощью поплавка?

Интуиция мне подсказывает, что с 32 биты могут представлять собой фиксированное количество различных значений, которые поплавок может представлять собой фиксированное ...

3 голоса
2 ответа
Какова польза от max_digits10 равно 0 на ссылки на типы с плавающей точкой?

В C++ 11, что является преимуществом std::numeric_limits<Type>::max_digits10 возвращение 0 для а Type что является ссылкой на число с плавающей точкой? Например...

1 голос
1 ответ
Различные числа с плавающей запятой между Lua и JavaScript

Почему в Lua следующее вычисление Lua 5.3.3 Copyright (C) 1994-2016 Lua.org, PUC-Rio > print(6.4620332164+14) 20.4620332164 В то время как в Javascript conso...

0 голосов
1 ответ
Как заставить NumPy всегда использовать точность (float32, float64...)?

Я пытаюсь изучить немного пример FIR, написанный на Python. Видеть https://scipy-cookbook.readthedocs.io/items/FIRFilter.html Моя цель состоит в том, чтобы изучить, к...

0 голосов
1 ответ
Как я могу сравнить два массива с разными размерами, но с некоторыми поплавками, которые являются приблизительными? [Python3]

Как я могу сравнить два массива с разными размерами, но с некоторыми поплавками, которые являются приблизительными? Например: # I have two arrays a = np.array( [-2.83...

0 голосов
0 ответов
Точность Напомним для бинарных задач классификации

Я видел в Интернете, когда люди говорят о бинарных задачах классификации они только сообщают одну точности и один отзыв для всей модели. (Конечно, это имеет смысл отче...

0 голосов
0 ответов
float128 СВД в SciPy

У меня есть ndarray типа float128. Я хотел бы вычислить СВД этой матрицы, однако, когда я sp.linalg.svd возвращаемые массивы типа float64. Есть простой способ получить...

3 голоса
3 ответа
Как повысить точность функции станда :: греха на прошивке

У меня есть приложение кросс-платформенного, которая является аудио приложения и поэтому использует синусоиды много, и std::sin() и другие гониометрические функции. ...

0 голосов
0 ответов
Как выяснить, если разница между вычислением поплавка и двойным вычислением в пределах точности типа данных ошибок?

Например, у меня есть два числа представлены в базе-10, n1 = 5.7818 x 10^(-4) = 0.00057818 а также n2 = 5.6743 x 10^(-4) = 0.00056743 Первое число, n1, Является ...

4 голоса
2 ответа
Python 3 массив вычисления среднего

x=[1280.0, 2050.0, 709.0, 0, 0, 0, 0, 0, 0, 0, 0, 0] num1=0 den1=0 num2=0 den2=0 for i in range(0,3): num1=num1+x[i] den1=den1+1 del i for i in range(0,6): ...

0 голосов
1 ответ
Преобразование 4 байта в 32 битной плавающей точкой с высокой точностью в C?

У меня есть 4 байта, как со значением, как символ без знака являются: 63 129 71 174. Предположительно, когда преобразовать его в обращение, он должен стать 1,00999999...

0 голосов
1 ответ
CPLEX, Есть ли способ, чтобы увеличить точность в целевой функции?

Я осуществил свою математическую модель, используя Илог CPLEX версии 2.7. дробная часть целевой функции очень маленькие и CPLEX возвращает 0, так что CPLEX часть потер...

2 голоса
2 ответа
Избегайте быстрое деление (взаимный)

есть ли способ, чтобы написать код C с дивизиями командовать компилятор не использовать быстрое деление (по обратной математике) в нескольких определенных местах в код...

-2 голоса
1 ответ
Отображаемое точность Java с плавающей точкой

Если мы запустим следующий код: float f = 1.2345678990922222f; double d = 1.22222222222222222222d; System.out.println("f = " + f + "\t" + "d = " + d); она печатает:...

0 голосов
1 ответ
С плавающей точкой Переполнение умножения

У меня есть правила ниже для чисел с плавающей точкой умножения. Мой вопрос, как я могу знать, когда Е находится вне диапазона, чтобы знать, что это переполнение? Я ...

1 голос
2 ответа
Почему этот цикл бесконечен только тогда, когда я не отладку?

Ниже программа делает некоторые вычисления, чтобы вычислить, сколько члены некоторой бесконечной суммы сходящегося необходимо превысить определенный порог. Я понимаю/п...

0 голосов
2 ответа
Почему максимальные цифры с десятичной в JavaScript являются только 16

Я наткнулся на этот вопрос некоторое время назад, когда я испытывал некоторые HTML-формы. Максимальное количество цифр в JavaScript Номер с десятичной точкой только 16...

3 голоса
1 ответ
(Matlab) Странная потеря точности, при назначении комплексно-матрицы к локальной переменной

Я получаю это неожиданное (и, кажется, не жалоба) с плавающей точкой потери точности, в частности комплексных значений, при хранении выражение в локальную переменную, ...

0 голосов
1 ответ
Неправильный результат для atan2 с glibсом/libm и float32

Я в настоящее время разрабатывает встроенное программное обеспечение для медицинского устройства, где много сложных математических операций участвует. Целевой процессо...

0 голосов
0 ответов
JavaScript: проверить, если номер может поместиться в обращении?

Я в настоящее время осуществляю кодер MessagePack в машинописи, и мне нужно кодировать номера в качестве небольшого формата MessagePack, насколько это возможно. Целые ...

0 голосов
1 ответ
В чем разница между D и E нотации при использовании в C++?

В данной ссылке: Чтение научной нотации D +утверждается, что D и Е (или е) подобны. Тем не менее, когда я запускаю следующий код в C++: long double x; cin >> x...

3 голоса
0 ответов
Численное устойчивость алгоритма Simplex

Редактирование: Simplex алгоритм математической оптимизации, не следует путать с симплекс шумом или триангуляции. Я реализую свой собственный линейное программировани...

1 голос
1 ответ
Почему Three.js Geometries потери точности с большими числами?

Я пытаюсь сделать этот шестиугольник в Three.js. Если я использую небольшие числа, он рисует хорошо. Но если я использую большие цифры (которые, кажется, чтобы вписать...

3 голоса
1 ответ
R: Как преобразовать длинный номер в строку, чтобы сохранить точность

У меня есть проблема, чтобы преобразовать длинный номер в строку R. Как легко преобразовать число в строку, чтобы сохранить точность? А имеет простой пример ниже. a ...

0 голосов
2 ответа
Как восстановить трафик поток информации о точном месте/RW/Координировать

Учитывая координату/RW/место, я пытаюсь получить информацию о потоке трафика о том месте, в котором я нахожусь в основном заинтересован в JF (Jam Factor) и FF (Free Sp...

1 голос
2 ответа
Как SQL сервер определяет тип данных столбца, полученный с помощью выражения

У меня есть SQL заявление > SELECT SUM(UNIT*ISNULL((CAST(RATIO AS DECIMAL(18,5))/100),1)) AS UNITS > into x_table from some_table Над БЛОКА является INT, В x_...

0 голосов
2 ответа
Потеря точности после прохождения параметра

У меня долго, что имеет большое значение. Тогда я стараюсь передать его в качестве параметра функции, которая принимает два раза, после чего точность теряется. Почему ...

0 голосов
1 ответ
Лучшее решение для плавучих неточностей

Я столкнулся с плавающими неточностями: 3.84 + 2.53 #=> 6.369999999999999 Я могу думать о следующем решении вышеуказанной проблемы, учитывая, что число может быт...

0 голосов
2 ответа
десятичное число, представленное с большим количеством цифр, когда есть только 2

Я пытаюсь вывести десятичное число, которое сохраняется в объекте панды серии. Число 7,45. Но когда я это выход становится 7.449999809265137. Мне нужно, чтобы это бы...

0 голосов
1 ответ
Как с помощью статистических выводов FP16 с FP32 обучена моделью?

Я хочу вывод с моделью FP32 FP16, используя для проверки результатов половины точности. После загрузки контрольной точки, то Титулы могут быть преобразованы в float16,...

2 голоса
1 ответ
точность обработки Python

Я просто удивляюсь, почему эти 2 печатает не имеют один и тот же вывод. Я хочу, чтобы вычислить Eulers Totient Func. В будущем было бы здорово, если бы кто-то может ск...

4 голоса
1 ответ
R дублирует большие целые числа при чтении в кадре данных

У меня есть таблица базы данных с колонкой, содержащей различные 17-значные номера. Когда я спрашиваю R прочитать раздел или все этой таблицы в dataframe он дублирует ...

2 голоса
1 ответ
Панды dataframe. Изменение формата с плавающей точкой. Держите типа «плавать»

Я пытаюсь изменить формат столбец П.Д. кадра данных без изменения типа данных. Вот что у меня есть: df = pd.DataFrame({'Age': [24.0, 32.0}]) Я хотел бы представить Во...

0 голосов
1 ответ
Изменение точности чисел с использованием Plt.Text

Я черчение данных на карте с помощью функции plt.text в Matplotlib. Данные для большинства деТАли значения менее 1, и участки имеют точность 7. Фрагмент кода, кото...

1 голос
2 ответа
Пользовательский тик метки в Bokeh с плавающей точкой клеща

Я хочу сделать "Вейбулла бумага"В Bokeh, что требует от меня, чтобы сделать заказ преобразования на оси у и добавить соответствующие метки оси Y. Я, следуя инструкции...

-1 голос
2 ответа
Почему не «двойной» магазин/печать более значения точности, чем «поплавок» в этой программе C?

Если я запускаю этот код: float a=1.123456789; printf("The float value is %f\n",a); double b=1.123456789876543 printf("The double value is %lf",b); Он печатает: ...

0 голосов
4 ответа
Является ли жестко прописывать младшие байты двойной хорошей стратегии округления?

У меня есть функция делают некоторые математические вычисления и возвращающее double. Она заканчивается с различными результатами под Windows, и Android из-за std::exp...

3 голоса
0 ответов
Средняя средняя точность (МАП) метрические keras

Я тренируюсь в keras модель, которая, как запись вложения пар и выводит двоичную классификацию (близко к word2vec). Мне нужно найти МАП модель системы рекомендательной...

1 голос
1 ответ
Как получить больше точности для вычисленного расстояния в MySQL, не используя геометрические типы?

Я должен вычислить расстояние между объектом (городом) и каждой из нескольких записей из таблицы MySQL, которую я имею (некоторые рестораны). Этот город и рестораны ра...

0 голосов
1 ответ
Когда (x == (x + y) -y) или (x == (x-y) + y) гарантируется для операций с плавающей запятой IEEE?

В C или другом языке, который использует IEEE, у меня есть две переменные x а также y которые оба гарантированно будут конечными, не-NaN, в основном нормальными числам...

1 голос
5 ответов
Насколько точен грех numpy (x)? Как я узнаю? [нужно численно решить x = a * sin (x)]

Я пытаюсь численно решить уравнение x=a*sin(x), где a некоторая константа, в питоне. Я уже пытался сначала решить уравнение символически, но кажется, что эта конкретна...

1 голос
1 ответ
Python: как устранить ошибку округления в базовой «теории хаоса» программа?

Я изучал Python из Zelle "Введение в Python" и наткнулся на следующий пример базовой программы, которая имитирует хаотический вывод на основе начального ввода. def m...

1 голос
1 ответ
Как получить размер ошибки с плавающей запятой при конкретном значении в Java?

Существуют ли какие-либо встроенные функции Java или лучшие решения для поиска ошибки с плавающей запятой? Или, другими словами, есть ли способ узнать наименьшее значе...

1 2 3 4 5 6 7 8 ... 14 15 right