WikiDer > Числовая ошибка
Numerical error
В программная инженерия и математика, числовая ошибка ошибка в численные расчеты.
Временной ряд Карта палатки для параметра m = 2.0, который показывает числовую ошибку: «график временного ряда (график переменной x относительно количества итераций) перестает колебаться, и никаких значений не наблюдается после n = 50». Параметр m = 2,0, начальная точка случайна.
Типы
Это может быть совокупный эффект двух видов ошибок в вычислениях.
- первый вызван конечным точность вычислений с участием плавающая точка или целочисленные значения
- Вторая, обычно называемая ошибкой усечения, - это разница между точным математическим решением и приближенным решением, полученным при упрощении математических уравнений, чтобы сделать их более удобными для вычислений. Термин «усечение» происходит от того факта, что эти упрощения обычно включают усечение бесконечная серия расширение, чтобы сделать вычисления возможными и практичными, или потому, что младшие биты арифметической операции отбрасываются.
Мера
Числовая ошибка с плавающей запятой часто измеряется в ULP (единица на последнем месте).
Смотрите также
- Потеря значимости
- Числовой анализ
- Ошибка округления
- Алгоритм суммирования Кахана
- Влияние ошибки
- Проблема с числовым знаком
Рекомендации
- Точность и стабильность численных алгоритмов, Николас Дж. Хайэм, ISBN 0-89871-355-2
- «Ошибка вычислений и сложность в науке и технике», В. Лакшмикантам, С.К. Сен, ISBN 0444518606
 | Этот программная инженерия-связанная статья является заглушка. Вы можете помочь Википедии расширяя это. |
 | Этот Прикладная математика-связанная статья является заглушка. Вы можете помочь Википедии расширяя это. |