Десятичные числа в судовом отчёте: как отделить числовое представление от точности измерения
При обработке телеметрии исходное десятичное число может храниться как двоичное приближение. В результате простое арифметическое равенство иногда не выполняется при буквальном сравнении машинных значений. Это не доказывает ошибку датчика, но требует понятного правила обработки. Для судового обмена важно различать представление числа, округление вывода и действительную точность измерения. Ниже приведён самостоятельный синтетический расчёт, а не результат работы судовой приборной системы.
Установить, что именно хранится
Сначала определяют исходный формат поля и его единицу. Текстовая десятичная запись, целое число с масштабом и число с плавающей точкой имеют разные способы представления. Название поля или красивое число на экране не раскрывают эту договорённость. Если описание отсутствует, его уточняют, не объявляя любой маленький остаток неисправностью источника.
Конечная двоичная дробь имеет знаменатель, являющийся степенью двойки. Одна десятая не представляется такой дробью точно, поскольку после сокращения в её знаменателе остаётся множитель пять. При выборе ограниченного двоичного представления используется приближение. Это математическое свойство способа записи, а не индивидуальная характеристика конкретной морской радиостанции или датчика.
Рассмотреть контрольное сложение
В сохранённом расчёте данного примера стандартный тип float использованного Python даёт для 0.1 + 0.2 представление 0.30000000000000004. Буквальное сравнение с 0.3 в этом расчёте возвращает ложный результат. Версия среды и фактический вывод сохранены отдельно во внутреннем основании статьи. Эти числа созданы для объяснения и не являются измерениями.
Разница здесь очень мала, но её смысл важно понимать. Нельзя по одному такому случаю сделать вывод, что любой язык или формат всегда работает одинаково. Также нельзя считать дополнительные видимые цифры новой точностью датчика. Для проекта рассматривают действительный тип, преобразования и правила сравнения конкретного пути данных.
Выбрать правило сравнения по задаче
Если сравниваются расчётные величины, буквальное равенство может не соответствовать рабочему смыслу. Допуск выбирают по согласованной задаче и известным свойствам данных, сохраняя абсолютную и относительную составляющие при необходимости. Универсальный допуск для любых судовых параметров назначить нельзя. Слишком широкий предел способен скрыть реальное несоответствие.
Отдельно различают числовую погрешность представления и неопределённость исходного измерения. Правило, устраняющее эффект двоичного приближения, не делает датчик точнее. И наоборот, паспортное свойство измерения не объясняет автоматически все ошибки программы. Основания для каждого вида ограничения должны быть понятны независимо.
Рассмотреть фиксированный масштаб
Когда задача действительно задаёт дискретные единицы, возможна согласованная целочисленная модель. Например, условные три десятых и две десятых можно представить числами три и два с общим масштабом десять. Их сумма равна пяти таким единицам. Но выбор масштаба должен соответствовать нужной детализации, диапазону и обработке крайних значений, а не делаться ради удобного примера.
Само слово «целое» не гарантирует правильность обмена. Нужны единица, масштаб, диапазон и состояния недоступности. При преобразовании нельзя молча потерять значимую часть исходного числа или перепутать масштаб между отправителем и получателем. Конкретная возможность такого формата у оборудования требует отдельного подтверждения.
Отделить хранение от показа
Округлённый вывод может быть удобен человеку, но не должен незаметно заменить исходник во всех дальнейших расчётах. Версию обработки, исходное значение и выбранное представление сохраняют в принятом объёме. Красивое отображение 0.3 не означает, что промежуточные машинные числа были точными или что все ошибки устранены.
Контрольный набор включает обычные дроби, ноль, малые и большие величины и границы выбранного диапазона. Его проверяют на синтетических либо разрешённых данных. Итоговая договорённость объясняет хранение, сравнение и показ числа, сохраняя различие между числовой техникой и фактической точностью судового измерения. Она не является изменением прошивки, калибровкой оборудования или доказательством правильности любого другого формата.
