В таком случае приходится решать, следует ли устанавливать значение допустимой погрешности вычислений. А введение в результат вычислений третьей значащей цифры автоматически уменьшает погрешность вычислений до десятых долей процента. В связи с этим при постановке задачи следует четко представлять требования, предъявляемые к точности вычислений. Из приведенного выше числового примера видно, что логарифмическая линейка не может дать удовлетворительного по точности результата промежуточных вычислений.
Операции вычисления в арифметическом устройстве ЭВМ выполняются с большим числом цифр, превышающим то, которое может быть введено на индикацию или регистрацию. Если числовое значение величины, выведенное машиной на определенном этапе вычислений на индикацию, будет позже введено в ЭВМ вручную, при этом могут возникнуть погрешности, которые являются обычными при обработке вручную. Об этом необходимо помнить и избегать ввода вручную промежуточных результатов вычислений.
Микрокалькулятор помогает не только в ускорении выполнения вычислительных операций, но и значительно повышает их точность по сравнению с вычислениями вручную. Промежуточные результаты вычислений даже в том случае, когда они выдаются на индикацию с меньшим числом значащих цифр, в устройстве памяти ЭВМ хранятся с возможно максимальным количеством значащих цифр и в случае необходимости с такой же высокой точностью обрабатываются.
Следует всегда помнить, что результат обработки данных контроля должен быть настолько точен, насколько возможно точное считывание Данных с измерительных устройств. Нужно экспериментально проверить, в каких случаях необходима и когда не требуется высокая точность представления результатов вычислений. Например, при определении насыпной плотности заполнителя выведенное на индикацию значение результата З кг/дм3 может считаться достаточно точным, а значение 1,332 кг/дм3 излишне точным.